Javascript-форум (https://javascript.ru/forum/)
-   Общие вопросы Javascript (https://javascript.ru/forum/misc/)
-   -   Результат вычислений в экспоненциальной форме (https://javascript.ru/forum/misc/3214-rezultat-vychislenijj-v-ehksponencialnojj-forme.html)

x-yuri 01.04.2009 04:15

ZoNT,
1) параметр toFixed не должен быть больше 20
2) непонятно, как оно работает (если честно, я тоже забил разбираться)
3) оно не решает задачу (например, при 7e-30)

Sharp, стоит сразу договориться, что вопрос теоретический (т.е. на практике вряд ли встретится). По-крайней мере, мне не пришла в голову конкретная ситуация, когда это может понадобится

ZoNT 01.04.2009 11:24

Вполне может быть, что моё решение не работает, так как я тестил только в консоли в ФФ:

Ну и конечно же оно не предназначено для случая е+

Sharp 01.04.2009 12:35

Цитата:

Сообщение от x-yuri (Сообщение 15671)
Sharp, стоит сразу договориться, что вопрос теоретический (т.е. на практике вряд ли встретится). По-крайней мере, мне не пришла в голову конкретная ситуация, когда это может понадобится

Ну, допустим, я пишу программу, предназначенную для вычисления емкости колебательного контура по известной индуктивности и резонансной частоте.

f = 96МГц
L = 0.274мкГн

В результате вычислений (результат в Фарадах) получается, что искомое значение емкости равно:
1.0031069383690234e-11Ф

В неэкспоненциальной форме этот результат выглядит как 0.0000000000100031069383690234Ф, что более привычно глазу.
0.0000000000100031069383690234Ф приблизительно равно 10пФ.

P.S.
На самом деле я такую программу действительно пишу, вернее, почти написал (вчера начал). Осталось только разобраться в выводом результата в неэкспоненциальной форме.
Как считаете, что мне с ним сделать?

Kolyaj 01.04.2009 12:38

Более привычно глазу в пФ, вот и выводите результат в них.

Sharp 01.04.2009 12:49

Впринципе, самый компромиссный режим - выводить в микрофарадах.

Хотя, стоп. Можно сделать рядом с полем вывода результата специальный низспадающий список, в котором можно будет выбрать дольную/кратную единицу измерения, и в соответствии с выбранным значением, результат отформатируется. Вот, ИМХО, самое разумное решение.
Kolyaj, как считаете?

Kolyaj 01.04.2009 13:01

Я бы стал выводить сразу в тех единицах, в которых легче воспринять результат. Т.е. если результат достаточно большой, то в микро, если маленький, то в пико.

Sharp 01.04.2009 13:44

Согласен, хороший вариант.
Вот моя реализация:
<script>
function formatResult(a) {
   var b = "";
   if (a < 0.000000001) {a = a * 1000000000000; b = a + "пФ"}
   if (a < 0.000001) {a = a * 1000000000; b = a + "нФ"}
   if (a < 0.1) {a = a * 1000000; b = a + "мкФ"}
   if (a < 1) {b = a + "Ф"}
   return b;
}
</script>
<input name="txtResult" value="0.0025">
<input type="button" onclick="alert(formatResult(txtResult.value))">

Можно ли это как-нибудь оптимизировать?

x-yuri 01.04.2009 19:12

Sharp, удобнее результат 0,1 пФ (для 1.0031069383690234e-11Ф), может быть с большей, заранее заданной точностью

кроме того, удобнее, чтобы результат выдавался в одних и тех же единицах. Но к универсальному калькулятору это не применимо - лучше твой вариант, только точность ограничить можно, думаю

p.s. универсальные решения чем-то сродни теоретическим, похоже

ZoNT, а как насчет 7e-150? и почему не replace(/0*$/, '') ?

ZoNT 02.04.2009 12:08

Ну, я бы не стал такие вычисления на js делать, поэтому и не стал бы думать даже над такой функцией... Да и не представляю я, зачем мне нужно перед глазами число, в котором более 12 нулей подряд... Мне наоборот импонирует запись в экспоненциальной форме.

Почему не replace(/0*$/, '')???
ну попробуй сделать alert(3.23e-7.toFixed(100))... Посмотри, что получится...

x-yuri 02.04.2009 21:59

Цитата:

Ну, я бы не стал такие вычисления на js делать, поэтому и не стал бы думать даже над такой функцией
как я говорил, данная задача редко встречается на практике, имхо. Но если уж писать такую функцию, то надо, чтобы она работала для всех входных параметров я думаю. Есть и другие значения, которые не учитывает твоя функция

Цитата:

Почему не replace(/0*$/, '')???
ну попробуй сделать alert(3.23e-7.toFixed(100))... Посмотри, что получится...
а-а, ты убираешь непонятно откуда берущиеся знаки (у ff точность больше, чем предусмотрено стандартом?). Я считаю, что их надо оставить, потому что это реальное значение, которое хранится в компьютере. А если некрасиво - округлять надо (за пределами функции)


Часовой пояс GMT +3, время: 02:29.