Javascript.RU

Создать новую тему Ответ
 
Опции темы Искать в теме
  #1 (permalink)  
Старый 19.01.2010, 12:01
Новичок на форуме
Отправить личное сообщение для Mihas2 Посмотреть профиль Найти все сообщения от Mihas2
 
Регистрация: 19.01.2010
Сообщений: 4

Точность вычисления чисел с плавающей запятой
Столкнулся с такой проблемой, что не точно вычисляются числа с плавающей запятой. И ладно, если числа большие были, а то всего 2-а знака после запятой.
Например, 1.25*0.18=0.22499999999999998, хотя должно быть 0.225
Это становится принципиальным, если такие числа округлять, например до 2-ого знака после запятой.
Кто-нибудь сталкивался с этим и как-то решил?
Ответить с цитированием
  #2 (permalink)  
Старый 19.01.2010, 14:30
Аватар для Riim
Рассеянный профессор
Отправить личное сообщение для Riim Посмотреть профиль Найти все сообщения от Riim
 
Регистрация: 06.04.2009
Сообщений: 2,379

Цитата:
Все числа хранятся в формате float64, т.е 8 байт с плавающей точкой. В этом формате не всегда возможны точные вычисления.
////
Ответить с цитированием
  #3 (permalink)  
Старый 19.01.2010, 16:32
Аватар для Gvozd
Матрос
Отправить личное сообщение для Gvozd Посмотреть профиль Найти все сообщения от Gvozd
 
Регистрация: 04.04.2008
Сообщений: 6,246

вот и выросло хрен-десятое поколение программистов...
Ответить с цитированием
Ответ



Опции темы Искать в теме
Искать в теме:

Расширенный поиск