| Вопрос: Как устроены числа с плавующей запятой | Добавлено: 28.12.02 15:36 |
Автор вопроса:  PVB
|
|
Народ подскажите всётаки как устроены числа с плавующей запятой в битовом формате Ну и как быть, если программа использует числа фантастических размеров типа 10^(10^1000000), конечно можно былобы свои функции написать, но это уж слишком медлено выходит на вб и особенно если работать с массивами в которых всево - то 1000 элементов |
| Ответы | Всего ответов: 4 |
|
Номер ответа: 1 Автор ответа:   Silent Bob Вопросов: 36 Ответов: 65 |
Web-сайт: Профиль | | #1 | Добавлено: 28.12.02 16:38 |
например 5-6Е означает 5*(10^6). С D та же самая байда, только диапазон больше.
|
||
|
Номер ответа: 2 Автор ответа:  PVBВопросов: 12 Ответов: 15 |
Профиль | | #2 | Добавлено: 28.12.02 16:52 |
|
Ну это уж первокласснику понятно. Какже это представить в битовом формате, тем более с запятой для примера такое число в битовом формате 8934233423,3242789683796877397329875 как оно будет в выглядеть в double если поместится в нём
|
||
|
Номер ответа: 3 Автор ответа:  CyRax   Разработчик Offline Client ICQ: 204447456 Вопросов: 180 Ответов: 4229 |
Web-сайт: Профиль | | #3 | Добавлено: 28.12.02 21:43 |
|
Лучше в Decimal, а не в Double. Double -1.8 to -5 и 1.8 to 5 Decimal -+8 with math |
||
|
Номер ответа: 4 Автор ответа: ГАТ Вопросов: 2 Ответов: 117 |
Web-сайт: Профиль | | #4 | Добавлено: 29.12.02 04:15 |
|
В зависимости от реализации среды разработки и от типа данных под число с плавающей запятой выделяется конкретно n bit под число, m bit под то что будет после запятой и i bit под степень. Это можно попробовать проверить командами Pick и Poke если они еще сохранились в VB. |
||
Страница: 1 |