Тема: 10-ти байтные числа с плавающей точкой
Показать сообщение отдельно
  #10 (permalink)  
Старый 18.04.2008, 21:02
Профессор
Отправить личное сообщение для tenshi Посмотреть профиль Найти все сообщения от tenshi 		 
Регистрация: 20.03.2008
Сообщений: 1,183

10 байт хватит только для представления числа. для вычислений не хватит точности. вычисли 1e+100 - 1e-100
Ответить с цитированием