PRECISÃO NUMÉRICA

A definição de configuração NUMERICPRECISION para o Essbase permite que você defina o número de dígitos de precisão usados pelo Report Writer para comparação numérica.

Sintaxe

NUMERICPRECISION n

n — O número de dígitos de precisão a serem considerados na comparação numérica. Os valores aceitáveis para n são de -1 a 15. Um valor de -1 indica uma comparação completa. O valor padrão é 4.

Descrição

Essa configuração define o número de dígitos de precisão usados pelo Gravador de Relatórios para comparação numérica.

A função de comparação numérica subtrai um valor do outro e compara o valor absoluto do resultado com 10- n. Se 10- n for maior que o valor absoluto do resultado da subtração, os números serão iguais.

Um valor de -1 indica uma comparação completa.

Exemplo

Compare os valores 3.289999 e 3.290000 com uma precisão numérica de 2:

NUMERICPRECISION 2

3.289999 == 3.290000 recebe uma precisão numérica de 2?

| 3.289999 - 3.290000 | = 0,000001 (o valor absoluto)

10-2 = 0,01

0,01 > 0,000001, por isso os números são iguais.