すごい昔に作ったな。
多倍長演算ライブラリ。
386に最適化してるんで今のCPUじゃCの方が速そうだけど。

superPIの作者やPI計算のギネスに載ってた人（T大K氏）との意見交換とかもして、
当時としてはトップクラスだったと思うよ。

速度優先だと、
A=A+B, A=B+C が違う関数になるし、
A=B^2 は掛け算とは別の関数になる。

フーリエ変換は巨大メモリにバラバラにアクセスするので、
速度を稼ぐなら適宜並び替えると良いよ。
メモリに収まりきらないような巨大なFFTを高速に行う技術を、
今用のメモリとキャッシュ用の最適化にそのまま使えると思う。

ライブラリとして公開するつもりはないけど、
アドバイスはいろいろ出来ると思う。