고정소수점, 부동소수점 관한 이야기

부동소수점 비트

소수점 처리 방식에 의해 실수 계산이 정확하지 않다는 말은 다들 들어보셨을겁니다. 뭐 대학시절에 교수님이 말할때도 흘려보냈고 밥벌이로 프로그램 짜면서도 큰 신경쓰지 않았습니다. 전에 하던 플젝중 Fixed Point 연산으로 처리 하는거 보면서 …