엑셀 소수점 빼기시 계산오류가 나타납니다. (알고리즘상 에러라고 확실시 됨)

Question

익명

아래와 같이 a-b로 계산시 3번째 열처럼 계산오류가 나옵니다.

a-b는 0.2302로 나와야는데, 큰수빼기에서는 오류가 나오고,

백단위로 내려와야 바른 수치가 나오는데, 이것은 아마도 엑셀의

알고리즘적인 에러가 아닐까 의심됩니다.

일반 계산기로 했을 때는 바른 수치가 나오는데, 유독 엑셀에서만

에러가 발생하네요. 혹시나 해서 브라우저상 Google Sheets에서도

계산해봤는데, 역시나 같은 오류가 발생합니다.

여러분들의 도움을 구합니다.

* PC환경 및 시스템 정보

잠긴 질문. 이 질문은 Microsoft 지원 커뮤니티에서 마이그레이션되었습니다. 질문이 도움이 되었는지 여부에 대해 응답할 수는 있지만, 메모나 회신을 추가하거나 질문을 따를 수는 없습니다.

댓글 0개

답변 1개

Answer 1

Nikolino 2,205

Excel은 소수점 뒤 15자리까지 계산할 수 있으며 그 이후에는 모든 것이 "0"으로 설정됩니다.

계산이 15자리를 초과하면 Excel의 결과가 컴퓨터에서와 다른 결과를 초래할 수 있습니다.

댓글 0개