OSDev

для всех
Текущее время: 13 дек 2017, 00:45

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 44 ]  На страницу Пред.  1, 2, 3, 4, 5
Автор Сообщение
СообщениеДобавлено: 02 авг 2016, 21:12 
Аватара пользователя

Зарегистрирован: 28 май 2012, 23:44
Сообщения: 237
Откуда: Санкт-Петербург
SII писал(а):
Вообще, у меня впечатление, что Интел продолжает идти идиотским путём, добавляя всё новые и новые узкоспециализированные команды, которые почти никому и ничему не нужны.

Intel добавляет команды, которые проще реализовать в кремнии, а не те, которые нужны. Им просто некуда девать транзисторы, как мне кажется.

SII писал(а):
На мэйнфреймах экономические расчёты сильно упрощались наличием двоично-десятичной арифметики с числами переменной длины (до 16 байтов, т.е. до 31 десятичной цифры + знак). Поэтому в принципе не возникало проблем с точным представлением очень больших чисел вроде госдолга США :)

В последнее время вплотную столкнулся с банковским ПО. На сервере используются 22-байтные целые Oracle, разрядность которых задается десятично -- number(18,2). На клиенте такие числа не могут быть преобразованы в double без потерь, поэтому используется строковое представление и специальная библиотека для работы со строковыми числами, своего рода длинная арифметика.


Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 03 авг 2016, 02:02 

Зарегистрирован: 28 окт 2007, 18:33
Сообщения: 1315
Откуда: Зеленоград
Freeman писал(а):
SII писал(а):
На мэйнфреймах экономические расчёты сильно упрощались наличием двоично-десятичной арифметики с числами переменной длины (до 16 байтов, т.е. до 31 десятичной цифры + знак). Поэтому в принципе не возникало проблем с точным представлением очень больших чисел вроде госдолга США :)

Да-да. Похоже, что в Oracle что-то из того же или схожего наследия. Максимальная разрядность целой части number -- number(38), то есть 10^38, поскольку разрядность и точность встроенного типа number -- десятичные


На самом деле, мэйнфреймовские 31 десятичная цифра плюс знак не означают, что это непременно десятичные целые числа -- десятичная запятая там просто подразумевается, причём в произвольном месте -- всё зависит от того, как программист интерпретирует число. Например, если имеем два исходных числа с 2 дробными разрядами каждое и умножаем их, то мы должны помнить, что в результате будет уже 4 дробных разряда -- и, если нам нужны только 2, надо выкинуть два лишних разряда.


Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 03 авг 2016, 04:35 

Зарегистрирован: 31 июл 2016, 05:47
Сообщения: 2
В графических процессорах "настоящая" фиксированная точка не используется?


Вернуться к началу
 Профиль  
 
СообщениеДобавлено: 03 авг 2016, 11:51 

Зарегистрирован: 28 окт 2007, 18:33
Сообщения: 1315
Откуда: Зеленоград
Ученик писал(а):
В графических процессорах "настоящая" фиксированная точка не используется?


Там есть обычные двоичные целые числа (которые программист может рассматривать как числа с фиксированной точкой, если оно ему надо) и обычные вещественные числа, причём насчёт последних я не уверен, что поддерживаются все дополнительные вещи стандарта вроде бесконечностей и т.п. -- хотя, наверное, в последних ГП поддерживаются, поскольку их широко используют в научных расчётах, где это может быть необходимо. В общем, по представлению данных ГП не отличаются от подавляющего большинства обычных процессоров.


Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 44 ]  На страницу Пред.  1, 2, 3, 4, 5

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 3


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB