Microsoft office excel 에서 발견되는 부동 소수점 문제

Question

Microsoft office excel 에서 발견되는 부동 소수점 문제

익명

부동 소수점 관련 글들을 다 읽어보았습니다. 그런대 9.00000001-9를 했을때의 값이 0.00000001보다 큰 이유는 무엇인가요?

잠긴 질문. 이 질문은 Microsoft 지원 커뮤니티에서 마이그레이션되었습니다. 질문이 도움이 되었는지 여부에 대해 응답할 수는 있지만, 메모나 회신을 추가하거나 질문을 따를 수는 없습니다.

댓글 0개

답변 1개

Answer 1

안녕하세요. HeraChe. 님,

Microsoft Community 사이트를 방문해 주셔서 감사합니다.

Microsoft office excel에서 발견되는 부동 소수점 문제에 관련해서 문의하셨습니다. 문의하신 내용에서 9.00000001-9를 했을 때의 값이 0.00000001보다 큰 이유는 무엇인지 질문하셨는데, PC에서 사용되는 2진수 표시 방식 IEEE에 의해서 계산 결과가 부정확하게 나타나는 이유로 부동 소수점에서 부정확한 결과가 나올 수 있습니다. 자세한 내용은 아래 링크를 참조해 주시기 바랍니다.

IEEE 부동 소수점 오류의 이해를 위한 자습서

(추가 정보에서 'IEEE 754를 준수하는 경우' 내용 참조)

제시해 드린 답변이 도움되었기를 바랍니다.

감사합니다.

다음을 통해 공유

Microsoft office excel 에서 발견되는 부동 소수점 문제

답변 1개