【SystemDirector Enterprise for Batch】doubleの演算で演算結果が合わない
質問内容
C言語の計算式(型変換)にて、解決できない箇所があり、色々とためしてやってみましたが、解決できません。
お手数ですが、下記の現象の調査をお願い致します。
(障害現象)
・「数量(int)×単価(double)+0.5=金額(double)」の計算にて算出した値をlong型変換して設定すると-1された値に変換される。
回答内容
浮動小数点は誤差が発生します。
対処方法としては、Oracle上で計算を行う方法があります(NUMBER型は固定小数点なので、誤差は発生しない)。
【確認済みのバージョン】全バージョン
【確認済みの対象OS】全OS
製品名カテゴリ
SystemDirector Enterprise for Java(バッチ)/C Batch
-
コンテンツID:
3150106037
-
公開日:
2013年10月11日
-
最終更新日:2013年10月11日
アンケート
サポート情報充実のためアンケートにご協力をお願いいたします。
コメント欄: