Показать сообщение отдельно
  #9 (permalink)  
Старый 04.02.2012, 14:52
Профессор
Отправить личное сообщение для demoniqus Посмотреть профиль Найти все сообщения от demoniqus
 
Регистрация: 28.05.2008
Сообщений: 181

т.к. судя по всему точность в javascript гарантирована лишь для целых чисел, то лично я пошел кривым путем - перевел исходные числа в строковое представление, затем убрал запятую (разумеется, запомнил количество десятичных знаков), преобразовал обратно в число (на сей раз целое) и произвел необходимые математические действия, затем опять преобразовал в строку, разобрался с количеством знаков после запятой и преобразовал в число. Конечно это сплошной гемор, но мне нужна была гарантия правильности... в общем пока работает в т.ч. и на тех же данных, которые при обычных методах вычисления давали весьма серьезную погрешность...
Ответить с цитированием