ユビキタス世界までの道の駅

アウトドア派のプログラミング奮闘記

ホーム 連絡をする 同期する ( RSS 2.0 ) Login
投稿数  130  : 記事  0  : コメント  1519  : トラックバック  8

記事カテゴリ

書庫

日記カテゴリ

ギャラリ

姉妹ブログ

複雑な計算を繰り返すと

表題のようなことが起こる。

倍精度の少数の域を超えると

限りなく1に近いので1ではないが1になる。

 

大学のころ、統計の計算をしている時に計算違いを指摘され、

教授に言われたことを、昨日思い出した。

 

式が複雑すぎて、

見返す気力がない^^;

他の方法を考えなければ・・・

投稿日時 : 2006年10月24日 8:54

コメント

No comments posted yet.

Post Feedback

タイトル
名前
Url:
コメント: