トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0798
デフォルトの名無しさん
2006/09/01(金) 18:28:20
単位系の基礎中の基礎である秒の定義は、セシウムなんちゃらの9,192,631,770倍らしい。
これってあらゆる種類の測定器や工作機械で有効精度10桁オーバーを目指しても無意味ってこと?
途中の演算過程でより多くの精度が必要になるのは解っているつもり。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています