Тема: Точность вычисления чисел с плавающей запятой
Показать сообщение отдельно
  #2 (permalink)  
Старый 19.01.2010, 14:30
Аватар для Riim
Рассеянный профессор
Отправить личное сообщение для Riim Посмотреть профиль Найти все сообщения от Riim 		 
Регистрация: 06.04.2009
Сообщений: 2,379

Цитата:
Все числа хранятся в формате float64, т.е 8 байт с плавающей точкой. В этом формате не всегда возможны точные вычисления.
////
Ответить с цитированием