[前][次][番号順一覧][スレッド一覧][生データ]

yarv-dev:1149

From: SASADA Koichi <ko1 atdot.net>
Date: Sat, 24 Nov 2007 13:18:58 +0900
Subject: [yarv-dev:1149] Re: 考えている案

 ささだです.

miura wrote:
> 単精度の浮動小数点をRVALUEに埋め込むpoor man's versionを作り
> 始めました。

 この話,私も考えてたんですが,一点わからないので,誰か教えてください.

 以前,64bit 倍精度から,1 bit 精度を取っちゃうのは問題である,とい
う話題がありました.理由は,他の処理系との整合性がとれなくなるから,
でした.

 今回の単精度の話は,計算は倍精度(numeric.c は全部 double で書いて
ある),データの取り回しは単精度,という感じで倍精度 <-> 単精度とコ
ロコロ変わります.この場合,計算精度という点で問題はあるでしょうか.

 単精度で十分な人には,十分な話なんでしょうか.それとも,途中で倍精
度を混ぜると,単精度を期待していた人に対して何か精度的なデメリットは
あるでしょうか.


----

 で,翻って,63bit な倍精度' 型は,63bit でいいや,という人にとって
は問題はあるでしょうか.それとも,64bit 精度を期待するライブラリに放
り込むと,63bit 精度ではなく,もっとへんてこな値が出てきてしまう可能
性はあるでしょうか.

 心配しているのは,この「へんてこな値が出てくる」可能性です.どう
も,このあたりの話は苦手で.63bit 精度でいいや,という人には,63bit
精度で計算結果を返してあげることができるものでしょうか.

 どうも,このあたりは苦手で.
-- 
// SASADA Koichi at atdot dot net

--
ML: yarv-dev quickml.atdot.net
Info: http://www.atdot.net/~ko1/quickml

[前][次][番号順一覧][スレッド一覧][生データ]

      1122 2007-11-20 19:08 [ko1 atdot.net       ] 考えている案                            
      1123 2007-11-20 19:25 ┣[horinout rish.kyoto-]                                       
      1124 2007-11-20 19:33 ┃┣[ko1 atdot.net       ]                                     
      1127 2007-11-20 19:52 ┃┣[horinout rish.kyoto-]                                     
      1129 2007-11-20 20:05 ┃┃┗[ko1 atdot.net       ]                                   
      1130 2007-11-20 20:21 ┃┃ ┗[horinout rish.kyoto-]                                 
      1131 2007-11-20 20:24 ┃┃  ┗[ko1 atdot.net       ]                               
      1132 2007-11-20 20:32 ┃┗[2008 shudo.net      ]                                     
      1133 2007-11-20 20:53 ┃ ┗[horinout rish.kyoto-]                                   
      1137 2007-11-20 21:15 ┃  ┗[2008 shudo.net      ]                                 
      1125 2007-11-20 19:39 ┣[m-72 tf6.so-net.ne.j]                                       
      1126 2007-11-20 19:46 ┃┗[ko1 atdot.net       ]                                     
      1128 2007-11-20 19:58 ┃ ┣[m-72 tf6.so-net.ne.j]                                   
      1135 2007-11-20 20:59 ┃ ┗[m-72 tf6.so-net.ne.j]                                   
      1145 2007-11-21 19:44 ┃  ┗[ko1 atdot.net       ]                                 
      1146 2007-11-21 20:34 ┃   ┗[m-72 tf6.so-net.ne.j]                               
      1134 2007-11-20 20:54 ┣[2008 shudo.net      ]                                       
      1144 2007-11-21 08:39 ┃┗[ko1 atdot.net       ]                                     
      1140 2007-11-21 03:52 ┣[t_nissie yahoo.co.jp] 富豪的 VALUE 型( Re: 考えている案)  
      1141 2007-11-21 04:57 ┃┗[ko1 atdot.net       ]                                     
      1142 2007-11-21 05:29 ┃ ┗[t_nissie yahoo.co.jp]                                   
      1143 2007-11-21 06:02 ┃  ┗[ko1 atdot.net       ]                                 
      1147 2007-11-24 12:56 ┗[m-72 tf6.so-net.ne.j]                                       
      1148 2007-11-24 13:10  ┣[ko1 atdot.net       ]                                     
      1152 2007-11-25 08:51  ┃┗[m-72 tf6.so-net.ne.j]                                   
->    1149 2007-11-24 13:18  ┣[ko1 atdot.net       ]                                     
      1150 2007-11-24 13:21  ┗[ko1 atdot.net       ]                                     
      1151 2007-11-24 13:39   ┗[m-72 tf6.so-net.ne.j]