PRÉCISION NUMÉRIQUE

Le paramètre de configuration NUMERICPRECISION pour Essbase vous permet de définir le nombre de chiffres de précision utilisés par Report Writer pour la comparaison numérique.

Syntaxe

NUMERICPRECISION n

n : nombre de chiffres de précision à prendre en compte dans la comparaison numérique. Les valeurs acceptables pour n sont -1 à 15. La valeur -1 indique que la comparaison est complète. La valeur par défaut est 4.

Description

Ce paramètre définit le nombre de chiffres de précision utilisés par Report Writer pour la comparaison numérique.

La fonction de comparaison numérique soustrait une valeur de l'autre et compare la valeur absolue du résultat avec 10-n. Si 10-n est supérieur à la valeur absolue du résultat de soustraction, les nombres sont égaux.

La valeur -1 indique que la comparaison est complète.

Exemple

Comparez les valeurs 3.289999 et 3.290000 avec une précision numérique de 2 :

NUMERICPRECISION 2

3.289999 == 3.290000 a-t-il une précision numérique de 2 ?

| 3.289999 - 3.290000 | = 0,000001 (valeur absolue)

10-2 = 0,01

0,01 > 0,000001, donc les nombres sont égaux.