NUMERICPRECISION

EssbaseのNUMERICPRECISION構成設定を使用すると、数値比較のためにレポート・ライターで使用される精度の桁数を設定できます。

構文

NUMERICPRECISION n

n—数値比較で考慮される精度の桁数。nに使用可能な値は、-1から15です。値-1は完全な比較を示します。デフォルト値は4です。

説明

この設定は、数値比較用のレポート・ライターによって使用される精度の桁数を定義します。

数値比較関数では一方の値からもう一方の値を引いて、その結果の絶対値と10- nを比較します。10- nが減算の結果の絶対値より大きい場合、数値は等しくなります。

値-1は完全な比較を示します。

例

値3.289999と3.290000を数値精度2で比較します:

NUMERICPRECISION 2

数値精度が2の場合、3.289999と3.290000は等しいですか。

| 3.289999 - 3.290000 | = 0.000001 (絶対値)

10-2 = 0.01

0.01 > 0.000001であるため、数値は等しくなります。