数字精度

使用 Essbase 的 NUMERICPRECISION 配置设置，可以设置 Report Writer 用于数字比较的精度位数。

语法

NUMERICPRECISION n

n - 在数值比较中要考虑的精度位数。n 的可接受值为 -1 到 15。值为 -1 表示完全比较。默认值为 4。

说明

此设置定义 Report Writer 用于数值比较的精度位数。

数字比较函数从另一个值中减去一个值，并将结果的绝对值与 10- n 进行比较。如果 10- n 大于减法结果的绝对值，则数字相等。

值为 -1 表示完全比较。

范例

将值 3.289999 和 3.290000 与数字精度 2 进行比较：

NUMERICPRECISION 2

3.289999 == 3.290000 的数值精度是否为 2？

| 3.289999 - 3.290000 | = 0.000001（绝对值）

10-2 = 0.01

0.01 > 0.000001，因此数字相等。