Показать сообщение отдельно
  #6 (permalink)  
Старый 23.08.2010, 13:49
DMH DMH вне форума
Аспирант
Отправить личное сообщение для DMH Посмотреть профиль Найти все сообщения от DMH
 
Регистрация: 26.02.2010
Сообщений: 71

В примере с c# можно и так написать - 0.1f+0.1f+..., получим ту же единицу, даже можем 12 нулей дорисовать, получим 1E-12, что для обычных вычислений вполне достаточно.
А с js нашёл пример прямо на этом сайте - http://javascript.ru/basic/types#netochnye-vychisleniya
Вобщем с float64 приходится отказываться от дроби, либо округлять неточности, короче дополнительная работа.
Ответить с цитированием