モンゴメリ乗算と言うのは、(x * y) % n
というような計算を、除算を一切使用せずに行うアルゴリズムです。

www.cqpub.co.jp/dwm/contents/0061/dwm006101510.pdf

を参考にプログラムしてみたのですが、正しい結果を返す時と、そうでない時が
あります。プログラムにミスがあるのでしょうか?