FOILとかニューラルネットも作るだけなら数学は一切必要ない
おそらく最初に考えた人も手順だけ考えて数学は使ってなかったと思われる

数学がなければできない機械学習はベイズ分類機とサポートベクトルマシンとカーネルメソッドくらいではなかろうか