PRECISIONE NUMERICA

L'impostazione di configurazione NUMERICPRECISION per Essbase consente di impostare il numero di cifre di precisione utilizzate da Report Writer per il confronto numerico.

Sintassi

NUMERICPRECISION n

n: il numero di cifre di precisione da considerare nel confronto numerico. I valori accettabili per n sono compresi tra -1 e 15. Il valore -1 indica un confronto completo. Il valore predefinito è 4.

Descrizione

Questa impostazione definisce il numero di cifre di precisione utilizzate da Report Writer per il confronto numerico.

La funzione di confronto numerico sottrae un valore dall'altro e confronta il valore assoluto del risultato con 10-n. Se 10- n è maggiore del valore assoluto del risultato della sottrazione, i numeri sono uguali.

Il valore -1 indica un confronto completo.

Esempio

Confrontare i valori 3,289999 e 3,290000 con una precisione numerica di 2:

NUMERICPRECISION 2

È 3.289999 == 3.290000 data una precisione numerica di 2?

| 3.289999 - 3.290000 | = 0,000001 (valore assoluto)

10-2 = 0,01

0,01 > 0,000001, quindi i numeri sono uguali.