Вопросы с тегом 'iec10967'

ISO/IEC 10967, независимая от языка арифметика (LIA), представляет собой ряд стандартов по компьютерной арифметике. Он совместим с ISO/IEC/IEEE 60559: 2011, более известный как IEEE 754-2008, и действительно многие спецификации предназначены для специальных значений IEEE 754 (хотя такие значения не требуются самой LIA, если параметр iec559 не является истинным)./через WikiPedia
51

Как подсчитать количество заданных битов в 32-битовом целое?

8 бит, представляющих число 7, выглядят следующим образом: 00000111 Три бита установлены. Что такое алгоритмы для определения количества заданных битов в 32-битовом целое?
20 сент. '08 в 19:04
13

Каково обоснование для всех сравнений, возвращающих false для значений NaN IEEE754?

Почему сравнение значений NaN ведет себя по-другому от всех других значений? То есть все сравнения с операторами ==, < =, > =, <, > где одно или оба значения являются NaN, возвращает false, что противоречит поведению всех других значений....
14 окт. '09 в 9:19
3

Бит-трюки, чтобы найти первую позицию, где число 0s равно числу 1s

Предположим, что у меня есть 32 или 64-разрядное целое число без знака. Каков самый быстрый способ найти индекс я самого левого бита, так что число 0s в крайних левых i-битах равно числу 1s в крайних левых i-битах? Я думал о некоторых трюках, подобн...
02 дек. '16 в 13:27
1

Почему IEEE-754 решил NaN!= NaN, несмотря на то, что он был нелогичным?

Это следующий вопрос В чем смысл всех сравнений, возвращающих значение false для значений IEEE754 NaN? (я думаю, что это лучше, чем другой вопрос, чем комментарий). У этого есть очень хороший ответ, который пропускает ровно 1 важную вещь: почему NaN...
11 июн. '16 в 17:03
3

Длинное целое преобразуется при вставке в более короткий столбец, а не усечен. Зачем? Какова формула?

У меня есть столбец типа integer с длиной 10: 'some_number' int(10) unsigned NOT NULL В этот столбец я вставляю слишком длинный номер: $some_number = 715988985123857; $query = "INSERT INTO this_table SET some_number = ?"; $stmt = $mysqli->prepa...
08 мая '14 в 18:53
1

Предел умножения целых чисел для библиотеки GMP

Я пытался умножить два очень больших mpz_t вместе, каждый из 2^(10*2^22) bits, используя функцию mpz_mul в библиотеке GMP. Не было ошибок сегментации, и умножение удалось пройти. Однако, когда я выводил результат умножения на файл, все, что я наблю...
12 сент. '14 в 0:25
2

Как сделать целое число "больше"?

Я начинаю С#, и я работаю над калькулятором в Windows Forms. Я столкнулся с проблемой, в которой я получаю один из этих отладочных блоков после ввода 10 или более цифр в интерфейс. Он говорит что-то о исключении переполнения системы, но я действите...
30 апр. '14 в 4:02