【FPU】 浮動小数点 【SSE】
■ このスレッドは過去ログ倉庫に格納されています
0057デフォルトの名無しさん
2008/01/11(金) 20:49:46一行目と二行目はおそらくほとんど同じことを意味していると思いますが
(まさか指数部を変化させたくない、なんてことはないですよね)
その8桁以上の8ってのは、何か意味付けできるんでしょうかねえ。
数値計算以外で、たとえばコンピュータのモニタの解像度を決めるときの条件として
「文字が普通に読める程度以上の解像度」とか、(無理矢理)意味付けできるわけですが、
数値計算の場合は、どうなのかなあと。
■ このスレッドは過去ログ倉庫に格納されています