プログラミングのお題スレ Part8©5ch.io
■ このスレッドは過去ログ倉庫に格納されています
0145デフォルトの名無しさん
2015/11/24(火) 21:57:54.41ID:VKmO+9+01/3=0.33333
1/2=0.5
1/4=0.25
みたいに、実数値を文字列化する時に、割り切れない時は四捨五入で小数点以下5桁で、割り切れるならその全桁数をそのまま文字列化したいんですが、一発で出来る関数や手法は有りますか?
と質問したら、曖昧で分かり辛いようだったので、もう少し詳しく、
では、桁数n (n<=30)を指定するとして、
割り切れない場合は小数点以下n+1桁目を四捨五入してn桁までを求める。
割り切れる場合は、その全部を文字列化する。ただしnを超える部分が有る場合は、四捨五入の方法を用いる。
これでいいかな?
と質問したのですが、浮動小数演算の世界では割り切れるかどうか判定できないので無理だよ、という意見なのですが、
私としては、浮動小数点演算で割り切れるかどうか判定出来なくても、プログラムは書けると思います。
それが出力する結果が数学的な意味での正しい解答になっていればいいと思うので。
でも良く分からないので、レベルの高いここで質問します。よろしく。
■ このスレッドは過去ログ倉庫に格納されています