11:51
[익명]
자바 자료형 Float 자료형으로1.1 + 0.1 == 1.2가 부울 값으로 false를 낸다고
Float 자료형으로1.1 + 0.1 == 1.2가 부울 값으로 false를 낸다고 합니다0.1이 순환소수마냥 이진수로 변환시 순환되어서근데 float자료형에 할당되는 메모리크기가 작아 잘라내다보니 오차가 발생한다더군요같은 원리로 Double도 완전 정확하지 않을때가 있고요그래서 생각한게 정수 연산에서는 저런 오류가 발생하지 않으니까 정수연산을 long이나 double로 하는거 였습니다.근데 long 자료형으로 하기에는 값 범위가 부족하기에Double로 정수 연산하려하는데 저런 오차 없을까요?
double로 정수 연산을 해도 값이 커지면 오차 납니다. mantissa 범위를 벗어나면 그 때 부터는 오차가 난다고 보면 됩니다.
오차 없는 큰 값의 정수 연산의 경우 bigint를 써야 합니다. (정확한 이름은 언어/라이브러리마다 다른데.. 자바에선 뭐 썼나 기억이 안 나네요. 아무튼 bigint나 bignum이나 뭐 그런식의 이름이 붙습니다.)
회원가입 혹은 광고 [X]를 누르면 내용이 보입니다
-
창원대 수시 .. 창원대를 목표로 하고 있는 09년생입니다 지금 제 내신이 5등급제 기준으로
2025.12.01 -
아이폰 16, 16프로 케이스 호환 가능한가요? 16을 쓰고 있는데 일반형은 케이스가 많이 없고 프로형은 많아서
2025.12.01 -
임영웅 11월 브랜드평판 순위 알고싶어요 임영웅 11월 브랜드평판에서 스타부문에서의 임영웅 순위 알고싶어요
2025.11.30 -
전주 고등학교 다자녀 제가 2027학년도 고등학교 입학생인데요 지망하는 학교가 전주 한일고인데 1. 다자녀
2025.11.30 -
고속버스 예매 인천공항에서 대전으로 가는 버스를 이용하려하는데 버스 노선이 인천공항 2터미널에서 출발해
2025.11.30 -
어떤 야구선수 싸인일까요? 제가 옛날에 롯데 자이언츠 선수한테 싸인받은 싸인볼을 오늘 찾았네요. 어떤
2025.11.29