數值精確度

Essbase 的 NUMERICPRECISION 組態設定可讓您設定報表寫入器用於數值比較的位數。

語法

NUMERICPRECISION n

n — 要在數值比較中考量的數字位數。n 的可接受值為 -1 到 15。值為 -1 表示完整比較。預設值是 4。

描述

此設定定義報表寫入器用於數值比較的位數。

數值比較函數會從另一個值減去一個值，然後將結果的絕對值與 10- n 進行比較。如果 10- n 大於減法結果的絕對值，數字就會相等。

值為 -1 表示完整比較。

範例

比較 3.289999 與 3.290000 的值與 2 的數字精確度：

NUMERICPRECISION 2

3.289999 == 3.290000 是否具有 2 的數值精確度？

| 3.289999 - 3.290000 | = 0.000001 (絕對值)

10-2 = 0.01

0.01 > 0.000001，因此數字相等。