SSE AVXのプログラミング
■ このスレッドは過去ログ倉庫に格納されています
0335デフォルトの名無しさん
2011/03/10(木) 23:28:03.89A. +0と-0を同一視、+∞と-∞を同一視でUnordered、0による除算は∞
B. +0と-0を同一視、+∞と-∞は別でOrdered、0による除算はNaN
>>333
lim_[x→1.0] {1/(x-1.0)}
これは、xがプラス側、マイナス側のいずれから近づくかで+∞、-∞のどちらに発散するかが決まる。
ところが、コンピューター界では 1.0/(1.0-1.0) は-∞ではなく+∞だと定めている。
これには数学的根拠は全くない。
■ このスレッドは過去ログ倉庫に格納されています