スレ立てるまでもない質問はここで 110匹目
■ このスレッドは過去ログ倉庫に格納されています
0041デフォルトの名無しさん
2011/01/25(火) 15:21:03doubleで計算していたらその誤差は有り得ないだろ。
それはさて、誤差に関しては用途によっても要求される内容が違うので一概には言えないとしか。
例えばGPSで測定した位置なら3μmなど全く無視していいけど、レーザー測距の結果だったら3μmもずれたら大変なことになる。
或いは糖分が1.234564gだろうと1.234567gだろうと何ら問題はないだろうけど、3μgの破傷風菌は致命的だ。
■ このスレッドは過去ログ倉庫に格納されています