スレ立てるまでもない質問はここで 147匹目 [無断転載禁止]©5ch.io
■ このスレッドは過去ログ倉庫に格納されています
0252デフォルトの名無しさん
2017/04/19(水) 11:54:43.43ID:Z8XkC/2Xa*b/255
で求めれるのは分かりました
同様に3枚になると
a*b*c/255/255
になると思うのですが数が増えていくとオーバーフローしたりしますか?
a*b*c*d*e*f/255/255/255/255/255
と書くと(a*b*c*d*e*f)の部分でヤバいのであれば
a*b/255*c/255*d/255*e/255*f/255
という表記だとイメージ的にはオーバーフローしないような気がしますが
そういうものなのでしょうか?
それとも最終的な演算結果が大きい数字でなければ
計算の過程でどんな大きい数字になろうとも
特に問題はないのでしょうか?
400枚程度の画像の乗算を一気にやろうと思ってます
■ このスレッドは過去ログ倉庫に格納されています