トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0491
デフォルトの名無しさん
NG
NG
リテラルの二進変換の精度って、昔調べたことがあるけど
誤差0.5ulp以下なんてことは全然なかった
教科書に乗ってるような非常に適当な二進変換ロジックをつかってる模様
ごく最近の処理系は、調べたことないけど
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています