Mr.Tの場所

特攻野郎Aチームじゃないよー

ホーム 連絡をする 同期する ( RSS 2.0 ) Login
投稿数  177  : 記事  0  : コメント  752  : トラックバック  37

ニュース

  • 性別:男
  • 猫1:まる
  • 猫2:もろ
  • 猫3:にゃん左部郎
  • タバコ:男は黙ってJPS
[わんくま同盟] C#, VB.NET 掲示板
フィードメーター - Mr.Tの場所

書庫

日記カテゴリ

Mr.Tです、こんにちは。

 

お金→色々分割→原価→積み上げ→計算結果 <> 最初のお金

 

合わない....

 

まあ、最初のお金をいかにばら撒くかなんてのは、どうでもいいんです。

でもね、積み上げ計算して合わないと、おかしい。

絶対におかしい。

 

金額入れるところは、Numeric 小数点は3桁まで有効。

計算は全部ストアド内(関係ない)

 

そんなもん、一万ちがっていようが、数10円ちがっていようが、間違いは間違いなんです。

許容範囲内なんていってるのがおかしい。

小数3桁あるのに、誤差なんてあるわけないです。

積み上げ対象のアイテム数1000ちょっとなのに。

投稿日時 : 2008年3月20日 19:06

コメント

# re: 計算が合わない! 2008/03/20 19:11 Mr.T
○○○○の世界ってそれでいいの?


# re: 計算が合わない! 2008/03/20 19:12 はつね
どっかで桁落ちしてから掛算か合計しているんでない?


# re: 計算が合わない! 2008/03/20 21:53 片桐
計算してるときの型は?
かつて似たような事ではまったようなデジャヴ……

# re: 計算が合わない! 2008/03/21 1:04 Mr.T
ありがとうございます。

家なのでちょっと忘れてしまったのですが、桁落ちしている可能性もあるかもしれません。
Money型でも、1/10000までの精度しかないから、計算中に安易につかってなかったかどうかを確認してみます。

勘定系じゃないから、数円の誤差はいいよといってくれるものの、気持ちが悪いんですよ。

Post Feedback

タイトル
名前
Url:
コメント