Тема
:
Глюки с умножением!
Показать сообщение отдельно
#
4
(
permalink
)
21.05.2013, 17:54
oneguy
Профессор
Регистрация: 31.05.2012
Сообщений: 396
Числа хранятся в памяти в формате с плавающей точкой в двоичной системе исчисления. Число 8.61 невозможно представить точно в виде двоичной дроби с конечным количеством знаков после запятой. Отсюда и погрешность в вычислениях.