기술자료

정확도 및 오차 한계값 계산 방법입니다.

1.   정확도 계산 예_정확도 표기가 rdg. 과 dgt.의 조합인 경우

정확도 사양 :  ± 1.0% rdg. ± 3dgt.

측정 레인지 :  300.0V

측정값      :  100.0V

측정 중인 값이 100.0V 이므로

a.   Reading 오차 ( ± % rdg. ) : 100.0V 의 ± 1.0% = ± 1.0V

b.   Digit 오차 ( dgt. ) : 최소분해능이 0.1V 이므로 ± 3dgt. = ± 0.3V

c.   Total 오차 ( a+b ) : ±1.3V

Total 오차( c )로부터 100.0V 측정값에 대한 오차 한계값은 98.7V ~ 101.3V 가 됩니다.

2.   정확도 계산 예_정확도 표시가 rdg. 과 f.s 의 조합인 경우

정확도 사양 :  ± 0.2% rdg. ±0.1% f.s.

측정 레인지 :  300.00V

측정값      :  100.00V

측정 중인 값이 100.00V 이므로 

a.   Reading 오차 ( ± % rdg. ) : 100.00V 의 ±0.2% = ±0.20V

b.   Full-scale 오차 ( ± % f.s. ) : 300.00V 의 ±0.1% = ±0.30V

c.   Total 오차 ( a+b ) : ±0.50V

Total 오차( c )로부터 100.00V 의 측정값에 대한 오차 한계값은 99.50V ~ 100.50V 가 됩니다.