トップページ
⇒
tech
461コメント
161KB
【FPU】 浮動小数点 【SSE】
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0294
デフォルトの名無しさん
2008/04/25(金) 22:58:05
高精度計算サイト
ttp://keisan.casio.jp/has10/Menu.cgi
公開数日で、はてブ500ブックマーク突破。
有効桁数50桁。これ、BCDかなあ…。オリジナル精度の浮動小数点数かも。
プロの電卓屋が考えた「独自の桁数可変型演算システム」とやらの詳細が知りたいぜ!
君たちの大好きな 1 / 3 * 3 もちゃんと 1 になるぞ!
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています