SSE AVXのプログラミング
■ このスレッドは過去ログ倉庫に格納されています
0342デフォルトの名無しさん
2011/03/10(木) 23:50:38.26bとcが正規数ならεはDBL_MINと同じか大きいから
abs(b+c)>=DBL_MINかabs(b+c)=0.0
だろ？
abs(a)<1.0だとしても計算時にデノーマルするだけで格納される値は
abs(a*(b+c))>=DBL_MINかabs(a*(b+c))=0.0
じゃないの？
具体的にはどんな値を入れれば出るんだ？
■ このスレッドは過去ログ倉庫に格納されています