[C/C++] 실수형 변수의 정확도

- bit precision

 

컴퓨터가 저장한 실수 정확도는 컴퓨터가 소수 부분을 저장하기 위해 사용하는 bit 수에 의해 결정됩니다.

 

예를 들어 아래 표와 같이 5자리 이진수 소수부분은 십진수 소수부분 1자리인 0.1~0.9를 정확히 표현 할 수 있지만 십진수 소수부분 2번째 자리 범위인 0.01~0.09은 정확히 표현 할 수 없습니다.

 

이진수 소수부분과 십진수 소수부분 관계

만약 십진수 소수부분 2자리 0.01~0.99 범위의 값을 정확히 표현하고 싶다면 이진수 소수부분 7자리를 사용해야 합니다.

 

이처럼 십진수 소수부분의 정확도는 컴퓨터가 이진수 소수부분을 저장하기 위해 사용하는 bit 사이즈에 영향을 받습니다.

 

컴퓨터 공학에서는 이진수 소수부분을 저장하기 위해 사용하는 bit 사이즈를 bit precision이라고 부릅니다.

 

위의 예시 처럼 이진수 소수부분을 저장하기 위해 5자리를 사용할 경우 bit precision은 5bit가 되고 7자리를 사용할 경우 bit precision은 7bit가 되는 것입니다.

 

이 bit precision N과 표현할 수 있는 십진수 소수부분 자리수 M의 관계를 공식으로 나타내면 아래와 같습니다.

 

M = log(2^N)

 

bit precision 5bit는 공식에 의해 log(2^5) = 1.x 이므로 십진수 1자리를 정확히 표현할 수 있습니다.

 

bit precision 7bit는 공식에 의해 log(2^7) = 2.x 이므로 십진수 2자리를 정확히 표현할 수 있습니다.

 

위의 예시를 통해 볼 수 있듯이 bit precision N값에 따라 표현 할 수 있는 십진수 자리수가 결정되기 때문에 bit precision 이 클수록 십진수를 좀 더 정확히 표현 할 수 있게 됩니다.