Javascript-форум (https://javascript.ru/forum/)
-   Общие вопросы Javascript (https://javascript.ru/forum/misc/)
-   -   Точность вычисления чисел с плавающей запятой (https://javascript.ru/forum/misc/7174-tochnost-vychisleniya-chisel-s-plavayushhejj-zapyatojj.html)

Mihas2 19.01.2010 12:01

Точность вычисления чисел с плавающей запятой
 
Столкнулся с такой проблемой, что не точно вычисляются числа с плавающей запятой. И ладно, если числа большие были, а то всего 2-а знака после запятой.
Например, 1.25*0.18=0.22499999999999998, хотя должно быть 0.225
Это становится принципиальным, если такие числа округлять, например до 2-ого знака после запятой.
Кто-нибудь сталкивался с этим и как-то решил?

Riim 19.01.2010 14:30

Цитата:

Все числа хранятся в формате float64, т.е 8 байт с плавающей точкой. В этом формате не всегда возможны точные вычисления.
////

Gvozd 19.01.2010 16:32

вот и выросло хрен-десятое поколение программистов...


Часовой пояс GMT +3, время: 21:26.