01-5. 실수

실수 표현 방법

부동소수점

소수점 위치를 왼쪽의 가장 유효한 숫자 다음으로 고정시키고 밑수의 지수승으로 표현한다.

1001.0011 -> 1.00100111 * 2^3

 

컴퓨터에서 실수 저장 방식

단정도 실수(32비트) vs 배정도 실수(64비트)

모두 부호, 가수부, 지수부로 구분하여 저장한다.

가수부 : 실수의 유효 자릿수들을 부호화된 고정 소수점으로 표현한것

지수부 : 실제 소수점의 위치를 지수 승으로 표현한것

 

파이썬에서는 8byte 배정도 실수로만 저장한다.

 

컴퓨터는 실수를 근사적으로 표현

근사로 저장하기 때문에 근사값으로 저장될 때 생기는 작은 오차가 다른 결과를 가져온다.

 

유효자릿수

32비트 실수형 유효자릿수(십진수) => 6

64비트 실수형 유효자릿수(십진수) => 15