Visual Basic, .NET, ASP, VBScript
 

   
   
     

Форум - Общий форум

Страница: 1 |

 

  Вопрос: Как устроены числа с плавующей запятой Добавлено: 28.12.02 15:36  

Автор вопроса:  PVB

Народ подскажите всётаки как устроены числа с плавующей запятой в битовом формате Ну и как быть, если программа использует числа фантастических размеров типа 10^(10^1000000), конечно можно былобы свои функции написать, но это уж слишком медлено выходит на вб и особенно если работать с массивами в которых всево - то 1000 элементов

Ответить

  Ответы Всего ответов: 4  

Номер ответа: 1
Автор ответа:
 Silent Bob



Вопросов: 36
Ответов: 65
 Web-сайт: podelyakin.narod.ru
 Профиль | | #1
Добавлено: 28.12.02 16:38
например 5-6Е означает 5*(10^6). С D та же самая байда, только диапазон больше.

Ответить

Номер ответа: 2
Автор ответа:
 PVB



Вопросов: 12
Ответов: 15
 Профиль | | #2 Добавлено: 28.12.02 16:52

Ну это уж первокласснику понятно. Какже это представить в битовом формате, тем более с запятой для примера такое число в битовом формате 8934233423,3242789683796877397329875 как оно будет в выглядеть в double если поместится в нём

        

Ответить

Номер ответа: 3
Автор ответа:
 CyRax



Разработчик Offline Client

ICQ: 204447456 

Вопросов: 180
Ответов: 4229
 Web-сайт: basicproduction.nm.ru
 Профиль | | #3
Добавлено: 28.12.02 21:43

Лучше в Decimal, а не в Double.

Double -1.8 to -5 и 1.8 to 5

Decimal -+8

with math

Ответить

Номер ответа: 4
Автор ответа:
 ГАТ



Вопросов: 2
Ответов: 117
 Web-сайт: www.mail.ru
 Профиль | | #4
Добавлено: 29.12.02 04:15

В зависимости от реализации среды разработки и от типа данных под число с плавающей запятой выделяется конкретно n bit под число, m bit под то что будет после запятой и i bit под степень. Это можно попробовать проверить командами Pick и Poke если они еще сохранились в VB.

Ответить

Страница: 1 |

Поиск по форуму



© Copyright 2002-2011 VBNet.RU | Пишите нам