yarv-dev:1149
From: SASADA Koichi <ko1 atdot.net>
Date: Sat, 24 Nov 2007 13:18:58 +0900
Subject: [yarv-dev:1149] Re: 考えている案
ささだです. miura wrote: > 単精度の浮動小数点をRVALUEに埋め込むpoor man's versionを作り > 始めました。 この話,私も考えてたんですが,一点わからないので,誰か教えてください. 以前,64bit 倍精度から,1 bit 精度を取っちゃうのは問題である,とい う話題がありました.理由は,他の処理系との整合性がとれなくなるから, でした. 今回の単精度の話は,計算は倍精度(numeric.c は全部 double で書いて ある),データの取り回しは単精度,という感じで倍精度 <-> 単精度とコ ロコロ変わります.この場合,計算精度という点で問題はあるでしょうか. 単精度で十分な人には,十分な話なんでしょうか.それとも,途中で倍精 度を混ぜると,単精度を期待していた人に対して何か精度的なデメリットは あるでしょうか. ---- で,翻って,63bit な倍精度' 型は,63bit でいいや,という人にとって は問題はあるでしょうか.それとも,64bit 精度を期待するライブラリに放 り込むと,63bit 精度ではなく,もっとへんてこな値が出てきてしまう可能 性はあるでしょうか. 心配しているのは,この「へんてこな値が出てくる」可能性です.どう も,このあたりの話は苦手で.63bit 精度でいいや,という人には,63bit 精度で計算結果を返してあげることができるものでしょうか. どうも,このあたりは苦手で. -- // SASADA Koichi at atdot dot net -- ML: yarv-dev quickml.atdot.net Info: http://www.atdot.net/~ko1/quickml
1122 2007-11-20 19:08 [ko1 atdot.net ] 考えている案 1123 2007-11-20 19:25 ┣[horinout rish.kyoto-] 1124 2007-11-20 19:33 ┃┣[ko1 atdot.net ] 1127 2007-11-20 19:52 ┃┣[horinout rish.kyoto-] 1129 2007-11-20 20:05 ┃┃┗[ko1 atdot.net ] 1130 2007-11-20 20:21 ┃┃ ┗[horinout rish.kyoto-] 1131 2007-11-20 20:24 ┃┃ ┗[ko1 atdot.net ] 1132 2007-11-20 20:32 ┃┗[2008 shudo.net ] 1133 2007-11-20 20:53 ┃ ┗[horinout rish.kyoto-] 1137 2007-11-20 21:15 ┃ ┗[2008 shudo.net ] 1125 2007-11-20 19:39 ┣[m-72 tf6.so-net.ne.j] 1126 2007-11-20 19:46 ┃┗[ko1 atdot.net ] 1128 2007-11-20 19:58 ┃ ┣[m-72 tf6.so-net.ne.j] 1135 2007-11-20 20:59 ┃ ┗[m-72 tf6.so-net.ne.j] 1145 2007-11-21 19:44 ┃ ┗[ko1 atdot.net ] 1146 2007-11-21 20:34 ┃ ┗[m-72 tf6.so-net.ne.j] 1134 2007-11-20 20:54 ┣[2008 shudo.net ] 1144 2007-11-21 08:39 ┃┗[ko1 atdot.net ] 1140 2007-11-21 03:52 ┣[t_nissie yahoo.co.jp] 富豪的 VALUE 型( Re: 考えている案) 1141 2007-11-21 04:57 ┃┗[ko1 atdot.net ] 1142 2007-11-21 05:29 ┃ ┗[t_nissie yahoo.co.jp] 1143 2007-11-21 06:02 ┃ ┗[ko1 atdot.net ] 1147 2007-11-24 12:56 ┗[m-72 tf6.so-net.ne.j] 1148 2007-11-24 13:10 ┣[ko1 atdot.net ] 1152 2007-11-25 08:51 ┃┗[m-72 tf6.so-net.ne.j] -> 1149 2007-11-24 13:18 ┣[ko1 atdot.net ] 1150 2007-11-24 13:21 ┗[ko1 atdot.net ] 1151 2007-11-24 13:39 ┗[m-72 tf6.so-net.ne.j]