ページの先頭です。
ここから本文です。

よくあるご質問(サポートFAQ)

【COBOL Compiler Enterprise Edition】COBOLの演算精度について

質問内容

「A=B*C/D」のような算式があった場合、演算途中(B*C)と演算結果(AまたはB*C/D)の最大桁数は以下で相違ないでしょうか。      
 ・演算結果       18桁 
 ・演算途中       30桁

回答内容

演算結果は受け取り側の作用対象の桁数となります。
外部10進数および内部10進数の最大桁数は18桁です。

演算途中は整数部桁数30桁、小数部桁数30桁の作業領域で演算します。
このときの中間結果の最大桁数は30桁です。
演算精度に関わる詳細についてはマニュアルをご覧ください。
 COBOLプログラミングの手引「5.3.1 算術文における中間結果」

【確認済みのバージョン】すべて
【確認済みの対象OS】Windows

製品名カテゴリ

COBOL

  • コンテンツID: 3150106308
  • 公開日: 2013年10月17日
  • 最終更新日:2013年10月17日

アンケート

サポート情報充実のためアンケートにご協力をお願いいたします。



コメント欄:
ここからページ共通メニューです。 ページ共通メニューを読み飛ばす。