숫자 정밀도
Essbase에 대한 NUMERICPRECISION 구성 설정을 사용하면 숫자 비교를 위해 보고서 작성기에서 사용하는 소수점 이하 자릿수를 설정할 수 있습니다.
구문
NUMERICPRECISION nn - 숫자 비교에서 고려할 소수점 이하 자릿수입니다. n에 허용되는 값은 -1부터 15까지입니다. 값 -1은 전체 비교를 나타냅니다. 기본값은 4입니다.
설명
이 설정은 숫자 비교를 위해 보고서 작성기에서 사용되는 소수점 이하 자릿수를 정의합니다.
숫자 비교 함수는 다른 값에서 한 값을 빼고 결과의 절대값을 10-n와 비교합니다. 10 - n가 빼기 결과의 절대값보다 크면 숫자가 같습니다.
값 -1은 전체 비교를 나타냅니다.
예
값 3.289999 및 3.290000을 숫자 전체 자릿수 2와 비교합니다.
NUMERICPRECISION 23.289999 == 3.290000에 숫자 정밀도 2가 지정되었습니까?
| 3.289999 - 3.290000 | = 0.000001(절대값)
10-2 = 0.01
0.01 > 0.000001이므로 숫자가 같습니다.