Вопросы с тегом 'ieee-754'

IEEE 754 является стандартом Института инженеров по электротехнике и электронике для расчета с плавающей запятой и является наиболее распространенным и широко используемым стандартом с плавающей точкой.
3
ответов

Почему NaN - NaN == 0.0 с компилятором Intel С++?

Хорошо известно, что NaN распространяются в арифметике, но я не смог найти никаких демонстраций, поэтому написал небольшой тест: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits...
задан 25 авг. '15 в 8:11
12
ответов

Каково обоснование для всех сравнений, возвращающих false для значений NaN IEEE754?

Почему сравнение значений NaN ведет себя по-другому от всех других значений? То есть все сравнения с операторами ==, < =, > =, <, > где одно или оба значения являются NaN, возвращает false, что противоречит поведению всех других значений....
задан 14 окт. '09 в 12:19
6
ответов

Float и двойной тип данных в Java

Тип данных с плавающей точкой - это 32-битная точка с плавающей точкой IEEE 754 с одной точностью, а двойной тип данных - это 64-битная точка с плавающей точкой IEEE 754 с двойной точностью. Что это значит? И когда следует использовать float вместо ...
задан 22 дек. '14 в 10:11
7
ответов

самое большое целое число, которое может быть сохранено в двойном

Какое самое большое "неплавающее" целое число, которое может быть сохранено в двойном типе IEEE 754 без потери точности?
задан 04 дек. '09 в 21:12
10
ответов

Является ли математика с плавающей запятой в С#? Может ли так быть?

Нет, это не другое. "Почему вопрос (1/3.0) * 3!= 1". В последнее время я много читал о плавающих очках; в частности, как тот же расчет может дать разные результаты для разных архитектур или параметров оптимизации. Это проблема для видеоигр, в кот...
задан 13 июля '11 в 20:29
12
ответов

Можно ли получить 0 путем вычитания двух неравных чисел с плавающей запятой?

Можно ли получить деление на 0 (или бесконечность) в следующем примере? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } В обычных случаях это,...
задан 12 февр. '15 в 12:55
3
ответов

Тип-жонглирование и (строгое) большее/меньшее, чем сравнение в PHP

PHP известен своим жужжанием типа. Я должен признать, что это меня озадачивает, и мне сложно найти основные логические/фундаментальные вещи в сравнении. Например: Если $a > $b истинно, а $b > $c - true, значит, оно означает, что $a > $c то...
задан 04 апр. '13 в 17:02
2
ответов

Каково первое целое число, которое плавающий IEEE 754 не может точно представлять?

Для ясности, если я использую язык, который реализует поплавки IEE 754, и я заявляю: float f0 = 0.f; float f1 = 1.f; ... и затем распечатайте их обратно, я получу 0.0000 и 1.0000 - точно. Но IEEE 754 не способен отображать все числа вдоль реально...
задан 25 сент. '10 в 15:40
10
ответов

Форматирование удваивается для вывода в С#

Запуск быстрого эксперимента, связанного с Является ли двойное умножение разбитым в .NET? и прочитав пару статей о форматировании строк в С#, я подумал, что это: { double i = 10 * 0.69; Console.WriteLine(i); Console.WriteLine(String.Form...
задан 14 сент. '09 в 16:23
7
ответов

Какой диапазон чисел может быть представлен в 16-, 32- и 64-битных системах IEEE-754?

Я немного знаю о том, как числа с плавающей запятой представлены, но недостаточно, я боюсь. Общий вопрос: Для данной точности (для моих целей, числа точных десятичных знаков в базе 10), какой диапазон чисел может быть представлен для 16-, 32- и 64...
задан 16 мая '09 в 17:37
4
ответов

Являются ли битовые шаблоны NaN аппаратно зависимыми?

Я читал о значениях NaN с плавающей запятой в спецификации языка Java (мне скучно). 32-разрядный float имеет этот бит-формат: seee eeee emmm mmmm mmmm mmmm mmmm mmmm s - знаковый бит, e - биты экспоненты, а m - бит мантиссы. Значение NaN кодиру...
задан 31 июля '14 в 5:56
4
ответов

Как работает это сглаживание с квадратным корнем?

Я нашел довольно странное, но рабочее квадратное корневое приближение для float s; Я действительно не понимаю. Может кто-нибудь объяснить мне, почему этот код работает? float sqrt(float f) { const int result = 0x1fbb4000 + (*(int*)&f >&g...
задан 30 марта '17 в 16:57
5
ответов

Все ли целые значения прекрасно представлены как двойные?

Мой вопрос заключается в том, гарантировано ли у всех целочисленных значений идеальное двойное представление. Рассмотрим следующий пример кода, который печатает "Тот же": // Example program #include <iostream> #include <string> int mai...
задан 27 апр. '17 в 13:51
3
ответов

Double vs float на iPhone

Я только что слышал, что iphone не может делать двойным путем, тем самым делая их намного медленнее, чем обычные float. Это правда? Доказательства? Меня очень интересует проблема, потому что моя программа требует высокоточных вычислений, и мне прид...
задан 26 окт. '09 в 4:33
3
ответов

Полезность сигнализации NaN?

Недавно я прочитал немного о IEEE 754 и архитектуре x87. Я подумывал использовать NaN как "недостающее значение" в некотором числовом коде вычисления, над которым я работаю, и я надеялся, что использование сигнальной NaN позволит мне поймать исключ...
задан 11 февр. '10 в 23:19