|
Сообщение от Aetae
|
Но эт маловероятно в реальной практике.
Да и вообще по-хорошему нужно указывать вручную до какого знака округлять.
|
именно. Это
не важно в реальной практике и
нужно указывать до какого знака округлять. Но мы ведь сейчас не о реальной практике говорим
хотя я даже знаю пример полусферической практики, где эта проблема стоит, только там нужны вычисления с произвольной точностью: калькулятор
а вообще, мне уже просто интересно, как интерпретатор преобразовывает строку в число и наоборот. Например, при преобразовании в строку он похоже округляет до 16 знака
alert([0.30000000000000001, 0.30000000000000009])
т.е. он немного урезает точность и за счет этого не видно неточность преобразования строки в число. Но при всем при этом ходят
слухи, что у double 16 (15.955) значащих цифр, что вводит меня в когнитивный диссонанс