floatを5バイトにして、doubleを9バイトにしないの
■ このスレッドは過去ログ倉庫に格納されています
0001デフォルトの名無しさん
2010/04/13(火) 14:52:190002デフォルトの名無しさん
2010/04/13(火) 15:08:280003デフォルトの名無しさん
2010/04/13(火) 22:38:03激遅になるわ
0004デフォルトの名無しさん
2010/04/14(水) 00:45:340005デフォルトの名無しさん
2010/04/14(水) 00:47:000006デフォルトの名無しさん
2010/04/14(水) 23:51:38言語訓練のために立てたものです。
アイと研究員とのやり取りに利用するスレッドなので、
関係者以外は書きこまないで下さい。
京都大学霊長類研究所
0007デフォルトの名無しさん
2010/04/15(木) 07:16:4210バイトしか使ってないのに
0008デフォルトの名無しさん
2010/04/15(木) 11:57:400009デフォルトの名無しさん
2010/04/15(木) 12:46:270010デフォルトの名無しさん
2010/04/16(金) 01:26:090011デフォルトの名無しさん
2010/04/16(金) 11:46:380012デフォルトの名無しさん
2010/04/19(月) 13:10:510013デフォルトの名無しさん
2010/04/19(月) 16:41:15浮動小数点数を5バイトとかで切って使ってた
0014デフォルトの名無しさん
2010/05/01(土) 11:00:49教授に「そんな精度と値の範囲、何の計算に使うの?」って
言われて返す言葉が無かった。w
0015デフォルトの名無しさん
2010/05/01(土) 11:20:270016デフォルトの名無しさん
2010/05/01(土) 11:35:43そのうち必要な時代もくるかもしれない
まあ、ハードウェアで計算してくれないと遅くてやってらんないかもしれないが
0017デフォルトの名無しさん
2010/05/01(土) 11:36:37せいぜい128bitだよ!
0018デフォルトの名無しさん
2010/05/01(土) 12:08:15>>15
68000CPUの頃だが、すごく充実してたよ。
アセンブラでもベタで作ったら余りにも遅くて、高速化ルーチンを
色々な所に入れたな。
ちなみに、その労力は卒論の一部になったとさ。めでたしメデタシ。w
>>16
どうせなら、思いっきり長くしちゃえと思って256Byteにしました。
(当時はIEEEでも倍精度までしか規定されてなかった(はず)から256Byteでも
十分「思いっきり」に値した)
で、遅いです。マジで。w
アセンブラで、ライブラリとか使わずに超精度の計算したいときに、
ソースがシンプルになるだけのメリットしかありません。w
「最大数は宇宙の広さよりデカいんじゃない?」って皮肉も言われました。w
(ここまで書いてリロード。で、>>17に気づく)
そそ、Byteなんですよ。
4倍精度(128bit)が必要な分野ってだけでも想像つきません。
0019デフォルトの名無しさん
2010/05/01(土) 15:13:2010進数で30桁くらいの精度まで求めてたりはするよ
0020デフォルトの名無しさん
2010/05/01(土) 17:06:490021デフォルトの名無しさん
2010/05/02(日) 06:12:440022デフォルトの名無しさん
2010/05/02(日) 08:20:380023デフォルトの名無しさん
2010/05/02(日) 10:42:37バカす w
0024デフォルトの名無しさん
2010/05/02(日) 11:35:130025デフォルトの名無しさん
2010/05/02(日) 12:39:21そういうのは数値計算じゃなくて記号処理(MathematicaとかMaximaとか)の範疇。
0026デフォルトの名無しさん
2010/05/02(日) 12:40:590027デフォルトの名無しさん
2010/05/06(木) 12:33:000028デフォルトの名無しさん
2010/05/09(日) 20:31:150029デフォルトの名無しさん
2010/05/09(日) 21:29:520030デフォルトの名無しさん
2011/11/12(土) 12:48:30.830031デフォルトの名無しさん
2011/11/12(土) 14:44:23.10>>1は新しいものを作った気になりたいだけのアホ
0032デフォルトの名無しさん
2011/11/13(日) 14:11:57.88お前は俺か
0033デフォルトの名無しさん
2011/11/13(日) 14:13:49.850034デフォルトの名無しさん
2011/11/13(日) 18:37:54.575バイトCPUとか9バイトCPUが出てくればそのとおりなんだがなw
0035デフォルトの名無しさん
2011/11/14(月) 08:25:43.360036デフォルトの名無しさん
2011/11/20(日) 11:15:38.12■ このスレッドは過去ログ倉庫に格納されています