Показать сообщение отдельно
  #1 (permalink)  
Старый 19.01.2010, 12:01
Новичок на форуме
Отправить личное сообщение для Mihas2 Посмотреть профиль Найти все сообщения от Mihas2
 
Регистрация: 19.01.2010
Сообщений: 4

Точность вычисления чисел с плавающей запятой
Столкнулся с такой проблемой, что не точно вычисляются числа с плавающей запятой. И ладно, если числа большие были, а то всего 2-а знака после запятой.
Например, 1.25*0.18=0.22499999999999998, хотя должно быть 0.225
Это становится принципиальным, если такие числа округлять, например до 2-ого знака после запятой.
Кто-нибудь сталкивался с этим и как-то решил?
Ответить с цитированием