Показать сообщение отдельно
  #5 (permalink)  
Старый 24.04.2011, 01:07
Аватар для Magneto
Люмус, Емаксос Developer!
Отправить личное сообщение для Magneto Посмотреть профиль Найти все сообщения от Magneto
 
Регистрация: 06.05.2010
Сообщений: 677

Как не странно в компьютере все данные хранятся как набор из 1 и 0, в том числе и числа. И если взять число 1.1 и перевести в двоичную систему исчисления то оно превратится в 1.100110011001100110011001100110011001100110011001 1010b * 2^(-4) это очень длинное число. Компьютер не может его хранить целиком так как оно займет всю оперативную память, поэтому он обрезает подобные числа. Ну и естественно если теперь взять это обрезанное число и произвести с ним мат. операцию то на выходе мы получим немного не то что ожидали.

Последний раз редактировалось Magneto, 16.12.2011 в 18:10.
Ответить с цитированием