これだけヒントを出しえもやっぱり答えられる御人は居ませんね。
数学（幾何）的にやれは何でもできるんですけど、画像処理すれなので画像の特性に特化した画像処理手法があると期待してたんですが・・・
現代のPCならdoubleでもぜんぜん処理が遅くないので（ほぼリアルタイム）、この様子だと数学公式とハードでごり押しになっていき画像処理の小手先技はすたれていくんでしょうね。