Вопросы с тегом 'floating-point'

Числа с плавающей запятой - это приближения действительных чисел, которые могут представлять большие диапазоны, чем целые, но использовать один и тот же объем памяти за счет более низкой точности. Если ваш вопрос о небольших арифметических ошибках (например, почему 0.2 + 0.1 равен 0.300000001?) Или ошибки преобразования десятичного кода, пожалуйста, прочитайте страницу "информация", указанную ниже, перед публикацией.
36
ответов

Сбита ли математика с плавающей запятой?

Рассмотрим следующий код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Почему происходят эти неточности?
задан 26 февр. '09 в 0:39
12
ответов

Почему GCC не оптимизирует a * a * a * a * a * a to (a * a * a) * (a * a * a)?

Я делаю некоторую численную оптимизацию в научном приложении. Я заметил, что GCC оптимизирует вызов pow(a,2), компилируя его в a*a, но вызов pow(a,6) не оптимизирован и фактически вызовет библиотечную функцию pow, что значительно замедляет производи...
задан 21 июня '11 в 21:49
18
ответов

Разница между десятичной, плавающей и двойной в .NET?

В чем разница между decimal, float и double в .NET? Когда кто-нибудь воспользуется одним из них?
задан 06 марта '09 в 14:31
22
ответов

Parse String для Float или Int

В Python, как я могу проанализировать числовую строку, такую ​​как "545.2222", с ее соответствующим значением float, 542.2222? Или проанализируйте строку "31" до целого числа, 31? Я просто хочу знать, как анализировать float string до float и (отд...
задан 19 дек. '08 в 4:52
4
ответов

Почему изменение 0.1f to 0 замедляет производительность на 10x?

Почему этот бит кода, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.7...
задан 16 февр. '12 в 18:58
31
ответ

Как проверить, является ли строка числом (float)?

Каков наилучший способ проверить, может ли строка быть представлена ​​в виде числа в Python? Теперь у меня есть функция: def is_number(s): try: float(s) return True except ValueError: return False Который, не тольк...
задан 09 дек. '08 в 23:03
19
ответов

Ограничение поплавков на две десятичные точки

Я хочу, чтобы a округлялся до 13.95. >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Функция round работает не так, как я ожидал.
задан 18 янв. '09 в 21:16
16
ответов

Почему бы не использовать Double или Float для представления валюты?

Мне всегда говорили, чтобы не представлять деньги с типами double или float, и на этот раз я задаю вам вопрос: почему? Я уверен, что есть очень веская причина, я просто не знаю, что это такое.
задан 16 сент. '10 в 22:23
14
ответов

Как заставить деление быть плавающей точкой? Отдел продолжает округлять до 0?

У меня два целых значения a и b, но мне нужно их соотношение в плавающей точке. Я знаю, что a < b и я хочу вычислить a/b, поэтому, если я использую целочисленное деление, я всегда получаю 0 с остатком a. Как я могу заставить c быть числом с плав...
задан 12 авг. '09 в 21:25
24
ответов

Номер формата, который должен всегда показывать 2 десятичных знака

Я хотел бы отформатировать мои номера, чтобы всегда показывать 2 десятичных знака, округляя, где это применимо. Примеры: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Я использовал это: parseFloat(num).toF...
задан 26 мая '11 в 8:22
7
ответов

Есть ли тип ввода float в HTML5?

Согласно html5.org, атрибут value "type" типа "number", если он задан и не пуст, должен иметь значение, которое является допустимым числом с плавающей запятой ". Тем не менее, это просто (в последней версии Chrome, в любом случае), управление "updo...
задан 25 сент. '13 в 20:51
5
ответов

Почему Math.round(0.49999999999999994) возвращает 1?

В следующей программе вы увидите, что каждое значение чуть меньше .5 округляется вниз, за ​​исключением 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDoubl...
задан 28 марта '12 в 10:30
31
ответ

Как использовать значение шага десятичного диапазона()?

Есть ли способ сделать шаг между 0 и 1 на 0,1? Я думал, что смогу сделать это следующим образом, но это не удалось: for i in range(0, 1, 0.1): print i Вместо этого он говорит, что аргумент шага не может быть нулем, чего я не ожидал.
задан 25 янв. '09 в 13:20
37
ответов

Как справиться с точностью чисел с плавающей запятой в JavaScript?

У меня есть следующий фиктивный тест script: function test(){ var x = 0.1 * 0.2; document.write(x); } test(); Это напечатает результат 0.020000000000000004, пока он должен просто напечатать 0.02 (если вы используете свой калькулятор). На...
задан 22 сент. '09 в 10:34
27
ответов

Каков наиболее эффективный способ для плавающего и двойного сравнения?

Каким будет наиболее эффективный способ сравнить два значения double или два float? Просто это неправильно: bool CompareDoubles1 (double A, double B) { return A == B; } Но что-то вроде: bool CompareDoubles2 (double A, double B) { diff = ...
задан 20 авг. '08 в 5:09