본문 바로가기
반응형

소숫점계산2

소수점 계산 시 정확한 계산 결과를 위한 적용 방법 소수점 계산 시 정확한 계산 결과를 위한 적용 방법 지난번 포스팅에서, Javascript에서 소수점을 포함한 수를 계산할 때 나타날 수 있는 미세한 오차들의 원인에 대해서 살펴보았습니다. 0.1 + 0.2 = 0.3이 아니다? 소숫점 계산 시 주의 사항 0.1 + 0.2 = 0.3이 아니다? 소숫점 계산 시 주의 사항 0.1 + 0.2 = 0.3이 아니다? 코딩을 한창 재미있게 배우다가 어랏? 하게 되는 지점이 있습니다. 바로 '소숫점 계산'과 관련한 내용입니다. 일단 브라우저 console 창에 0.1 + 0.2를 실행해보시기 바랍니다. kincoding.com 미세한 오차들에 의해서 발생할 수 있는 결과를 미연에 방지할 수 있는 몇 가지 기법들에 대해서 살펴보기로 합니다. 소수를 정수로 만들어 계산.. 2023. 2. 8.
0.1 + 0.2 = 0.3이 아니다? 소숫점 계산 시 주의 사항 0.1 + 0.2 = 0.3이 아니다? 코딩을 한창 재미있게 배우다가 어랏? 하게 되는 지점이 있습니다. 바로 '소숫점 계산'과 관련한 내용입니다. 일단 브라우저 console 창에 0.1 + 0.2를 실행해보시기 바랍니다. 원하는 결과를 확인할 수 있나요? 뭐라고라고라? Javascript 한테 다시 한번 물어보겠습니다. 0.1 + 0.2가 0.3과 같냐고 물어보니, 아니라고(false) 대답해줍니다. 뭐라고라? 내 머릿속에서는 0.3이라고 하는데, 컴퓨터는 0.30000000000000004라고 알려줍니다. 이게 어떻게 된 일 일까요? 다른 소수들을 가지고도 한번 테스트를 해보도록 합시다. 이런 계산 결과가 나온다는게 이상하기도 하고, 뭔가 좀 신기하지 않습니까? 컴퓨터는 원래 그렇게 계산해준다 곰곰.. 2023. 2. 7.
반응형