float 오차나는 이유

    

 컴퓨터 시스템이 이산적이고 정확한 숫자를 저장하지 않기 때문에

이진수로 딱 안나눠 떨어지면 뒷부분을 버림


정확히 계산하려면 정수 사용하거나 반올림 사용하기 double로 오차 줄이기

댓글

이 블로그의 인기 게시물

STUDY

vue

Capacitor 웹 기반 애플리케이션을 네이티브 앱으로 감싸고, 네이티브 기능에 접근할 수 있게 해주는 프레임워크