ページの先頭です。
ここから本文です。

よくあるご質問(サポートFAQ)

【SystemDirector Enterprise for Batch】doubleの演算で演算結果が合わない

質問内容

C言語の計算式(型変換)にて、解決できない箇所があり、色々とためしてやってみましたが、解決できません。

お手数ですが、下記の現象の調査をお願い致します。

(障害現象)
・「数量(int)×単価(double)+0.5=金額(double)」の計算にて算出した値をlong型変換して設定すると-1された値に変換される。

回答内容

浮動小数点は誤差が発生します。
対処方法としては、Oracle上で計算を行う方法があります(NUMBER型は固定小数点なので、誤差は発生しない)。


【確認済みのバージョン】全バージョン
【確認済みの対象OS】全OS

製品名カテゴリ

SystemDirector Enterprise for Java(バッチ)/C Batch

  • コンテンツID: 3150106037
  • 公開日: 2013年10月11日
  • 最終更新日:2013年10月11日

アンケート

サポート情報充実のためアンケートにご協力をお願いいたします。



コメント欄:
ここからページ共通メニューです。 ページ共通メニューを読み飛ばす。