Вопросы с тегом 'floating-point'

Числа с плавающей запятой - это приближения действительных чисел, которые могут представлять большие диапазоны, чем целые, но использовать один и тот же объем памяти за счет более низкой точности. Если ваш вопрос о небольших арифметических ошибках (например, почему 0.2 + 0.1 равен 0.300000001?) Или ошибки преобразования десятичного кода, пожалуйста, прочитайте страницу "информация", указанную ниже, перед публикацией.
40

Математика с плавающей точкой нарушена?

Рассмотрим следующий код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Почему эти неточности случаются?
25 февр. '09 в 21:39
26

Как мне разобрать строку в float или int?

В Python, как я могу разобрать числовую строку, такую как "545.2222" в соответствующее значение с плавающей точкой, 545.2222? Или разобрать строку "31" в целое число 31? Я просто хочу знать, как разобрать флоит str к float, и (отдельно) в ИНТ str к...
19 дек. '08 в 1:52
18

Разница между десятичной, плавающей и двойной в .NET?

В чем разница между decimal, float и double в .NET? Когда кто-нибудь воспользуется одним из них?
06 мар. '09 в 11:31
12

Почему GCC не оптимизирует a * a * a * a * a * a to (a * a * a) * (a * a * a)?

Я делаю некоторую численную оптимизацию в научном приложении. Я заметил, что GCC оптимизирует вызов pow(a,2), компилируя его в a*a, но вызов pow(a,6) не оптимизирован и фактически вызовет библиотечную функцию pow, что значительно замедляет производи...
21 июн. '11 в 18:49
36

Как проверить, является ли строка числом (float)?

Каков наилучший способ проверить, может ли строка быть представлена ​​в виде числа в Python? Теперь у меня есть функция: def is_number(s): try: float(s) return True except ValueError: return False Который, не тольк...
09 дек. '08 в 20:03
24

Ограничение поплавков на две десятичные точки

Я хочу, чтобы a округлялся до 13.95. >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Функция round работает не так, как я ожидал.
18 янв. '09 в 18:16
5

Почему изменение 0.1f to 0 замедляет производительность на 10x?

Почему этот бит кода, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.7...
16 февр. '12 в 15:58
17

Почему бы не использовать Double или Float для представления валюты?

Мне всегда говорили, чтобы не представлять деньги с типами double или float, и на этот раз я задаю вам вопрос: почему? Я уверен, что есть очень веская причина, я просто не знаю, что это такое.
16 сент. '10 в 19:23
29

Номер формата, который должен всегда показывать 2 десятичных знака

Я хотел бы отформатировать мои номера, чтобы всегда показывать 2 десятичных знака, округляя, где это применимо. Примеры: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Я использовал это: parseFloat(num).toF...
26 мая '11 в 5:22
14

Как заставить деление быть плавающей точкой? Отдел продолжает округлять до 0?

У меня два целых значения a и b, но мне нужно их соотношение в плавающей точке. Я знаю, что a < b и я хочу вычислить a/b, поэтому, если я использую целочисленное деление, я всегда получаю 0 с остатком a. Как я могу заставить c быть числом с плав...
12 авг. '09 в 18:25
14

Преобразовать десятичное число в двойное

Я хочу использовать трек-бар для изменения прозрачности формы. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; При сборке приложения выдается следующая ошибка: Не удается неявно преобразовать тип decimal в double Я...
31 июл. '08 в 21:42
34

Как использовать значение шага десятичного диапазона()?

Есть ли способ сделать шаг между 0 и 1 на 0,1? Я думал, что смогу сделать это следующим образом, но это не удалось: for i in range(0, 1, 0.1): print i Вместо этого он говорит, что аргумент шага не может быть нулем, чего я не ожидал.
25 янв. '09 в 10:20
7

Есть ли тип ввода float в HTML5?

Согласно html5.org, атрибут value "type" типа "number", если он задан и не пуст, должен иметь значение, которое является допустимым числом с плавающей запятой ". Тем не менее, это просто (в последней версии Chrome, в любом случае), управление "updo...
25 сент. '13 в 17:51
43

Как справиться с точностью чисел с плавающей запятой в JavaScript?

У меня есть следующий тестовый скрипт: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Это напечатает результат 0.020000000000000004 то время как он должен просто напечатать 0.02 (если вы используете свой калькулятор). Наск...
22 сент. '09 в 7:34
5

Почему Math.round(0.49999999999999994) возвращает 1?

В следующей программе вы увидите, что каждое значение чуть меньше .5 округляется вниз, за ​​исключением 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDoubl...
28 мар. '12 в 7:30