Main Content

정밀도

정밀도에 대한 제한 사항, 반올림과 채우기의 영향

컴퓨터 워드는 유한한 개수의 비트로 구성됩니다. 이는 변수에 대한 이진 인코딩이 임의 정밀도의 실제 값을 근사한 것에 불과하다는 뜻입니다. 이처럼 이진 표현에 제약이 있기 때문에 자동적으로 값 정밀도에도 제약이 있습니다.

도움말 항목