Вопросы с тегом 'floating-point-precision'

Все, что связано с точностью представления чисел с плавающей запятой. Термин "точность" относится к числу значимых цифр, которые может содержать представление. Это НЕ то же самое, что и "точность", которая касается ошибок при выполнении вычислений, хотя иногда это может быть связано.
3
ответов

Почему числа с плавающей точкой неточны?

Почему некоторые цифры теряют точность при сохранении чисел с плавающей запятой? Например, десятичное число 9.2 может быть выражено точно как отношение двух десятичных целых чисел (92/10), оба из которых могут быть точно выражены в двоичном (0b1011...
задан 20 февр. '14 в 3:39
6
ответов

Спецификатор ширины печати для поддержания точности значения с плавающей запятой

Существует ли спецификатор ширины printf, который может быть применен к спецификатору с плавающей запятой, который автоматически форматирует вывод на необходимое количество значимых цифр, так что при сканировании строки обратно в исходное значение п...
задан 30 мая '13 в 18:04
4
ответов

pow(), кажется, отсутствует здесь

Что здесь происходит: #include <stdio.h> #include <math.h> int main(void) { printf("17^12 = %lf\n", pow(17, 12)); printf("17^13 = %lf\n", pow(17, 13)); printf("17^14 = %lf\n", pow(17, 14)); } Я получаю этот вывод: 17^12 = ...
задан 30 янв. '14 в 12:40
10
ответов

Является ли точность с плавающей запятой изменяемой или инвариантной?

Я продолжаю получать смешанные ответы о том, имеют ли число с плавающей запятой (т.е. float, double или long double) одно и только одно значение точности или имеют значение точности, которое может меняться. Одна тема под названием float vs. double ...
задан 29 мая '15 в 22:11
3
ответов

Что такое суффикс С++ для длинных двойных литералов?

В С++ (и C) литерал с плавающей запятой без суффикса по умолчанию равен double, тогда как суффикс f подразумевает float. Но что такое суффикс, чтобы получить long double? Не зная, я бы определил, скажем, const long double x = 3.1415926535897932384...
задан 04 февр. '14 в 19:23
4
ответов

Python: найдите индекс минимального элемента в списке поплавков

Как я могу найти индекс минимального элемента в списке плавающих Python? Если бы они были целыми числами, я бы просто сделал: minIndex = myList.index(min(myList)) Однако, со списком поплавков, я получаю следующую ошибку, я предполагаю, потому что ...
задан 09 нояб. '12 в 4:45
4
ответов

Установите определенную точность BigDecimal

У меня есть XSD, который требует от меня использовать BigDecimal для lat/lon. В настоящее время у меня есть lat/lon как двойники и конвертируйте их в BigDecimal, но мне нужно всего лишь использовать около 12 мест. Я не смог понять, как это установить...
задан 28 февр. '12 в 16:35
1
ответ

Почему 0.06 + 0.01 = 0.07 в ColdFusion?

Почему математические операции в ColdFusion не влияют на математические проблемы с плавающей запятой? Возьмите код: result = 0.06 + 0.01; writedump(result); writedump(result.getClass().getName()); Какие выходы 0,07 java.lang.Double Однако экв...
задан 14 сент. '11 в 23:21
5
ответов

Почему для цикла, использующего double, не удается завершить

Я просматриваю старые экзаменационные вопросы (в настоящее время первый год uni.), и мне интересно, может ли кто-нибудь объяснить более подробно, почему следующий цикл for не заканчивается, когда это предполагается. Почему это происходит? Я понимаю,...
задан 11 нояб. '13 в 16:07
1
ответ

Есть ли parseDouble в JavaScript?

В JavaScript у меня есть число, которое равно 21 цифре, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?
задан 22 янв. '14 в 11:55
2
ответов

Получите следующий минимальный двойной номер

Как часть unit test, мне нужно проверить некоторые граничные условия. Один метод принимает аргумент System.Double. Есть ли способ получить следующее минимальное двойное значение? (т.е. уменьшение мантиссы на 1 единицу)? Я рассматривал использовани...
задан 11 марта '13 в 6:18
3
ответов

Является ли наиболее значительная десятичная цифра точностью, которая может быть преобразована в двоичную и обратно в десятичную без потери значимости 6 или 7.225?

Я встретил две различные формулы точности для чисел с плавающей запятой. ⌊ (N-1) log 10 (2) ⌋ = 6 десятичных цифр (Single-precision) и N log 10 (2) & асимп. 7.225 десятичных цифр (Single-precision) Где N = 24 Значительные биты (S...
задан 07 июня '15 в 2:01
1
ответ

Почему мои объекты BigDecimal инициализируются неожиданными ошибками округления?

В Ruby 2.2.0 почему: BigDecimal.new(34.13985572755337, 9) равно 34.0, но BigDecimal.new(34.13985572755338, 9) равно 34.1398557? Обратите внимание, что я запускаю это на 64-битной машине.
задан 03 февр. '15 в 12:35
6
ответов

следующий более высокий/нижний номер двойной точности IEEE

Я делаю высокоточные научные вычисления. В поисках лучшего представления различных эффектов, я продолжаю придумывать причины, чтобы получить следующий более высокий (или более низкий) номер двойной точности. По сути, я хочу добавить один из наименее ...
задан 07 авг. '09 в 19:59
3
ответов

Точность, почему Matlab и Python numpy дают разные результаты?

Я знаю о базовых типах данных и что типы float (float, double) не могут точно содержать некоторые числа. При переносе некоторого кода из Matlab в Python (Numpy) я обнаружил некоторые существенные различия в вычислениях, и я думаю, что он вернется к ...
задан 20 сент. '11 в 11:29