PRECISIÓN NUMÉRICA

El valor de configuración de NUMERICPRECISION para Essbase permite definir el número de dígitos de precisión utilizados por Report Writer para la comparación numérica.

Sintaxis

NUMERICPRECISION n

n: número de dígitos de precisión que se deben considerar en la comparación numérica. Los valores aceptables para n son de -1 a 15. Un valor de -1 indica una comparación completa. El valor por defecto es 4.

Descripción

Este valor define el número de dígitos de precisión utilizados por Report Writer para la comparación numérica.

La función de comparación numérica resta un valor del otro y compara el valor absoluto del resultado con 10-n. Si 10-n es mayor que el valor absoluto del resultado de resta, los números son iguales.

Un valor de -1 indica una comparación completa.

Ejemplo

Compare los valores 3.289999 y 3.290000 con una precisión numérica de 2:

NUMERICPRECISION 2

Es 3.289999 == 3.290000 dado una precisión numérica de 2?

| 3.289999 - 3.290000 | = 0,000001 (valor absoluto)

10-2 = 0,01

0,01 > 0,000001, por lo que los números son iguales.