Visual Basic, .NET, ASP, VBScript
 

   
   
     

Форум - .NET

Страница: 1 |

 

  Вопрос: возведение в степень VB.NET Добавлено: 22.12.09 12:08  

Автор вопроса:  kromtor
Всем привет
столкнулся с такой непонятной вещью в VB 2008


 Dim B As Double = -3705962084283.2314 ^ 0.33333333333333
при прямом написании чисел получаем ответ -15475,10


 Dim Y As Double = -3705962084283.2314
 Dim X As Double = 0.33333333333333
 Dim N As Double = Y ^ X
а при присваивании этих чисел переменным ответ = NaN
пишу программу по расчету формул поэтому мне нужен второй вариант с переменными

Ответить

  Ответы Всего ответов: 5  

Номер ответа: 1
Автор ответа:
 UnDeAdZak



Вопросов: 80
Ответов: 476
 Профиль | | #1 Добавлено: 22.12.09 15:32
хмм... math.pow и так и так Nan выдаёт

Ответить

Номер ответа: 2
Автор ответа:
 Skywalker



ICQ: 300-70-6пятьЪ 

Вопросов: 62
Ответов: 545
 Web-сайт: iSkywalker.ru
 Профиль | | #2
Добавлено: 22.12.09 15:33
основание не может быть отрицательным числом, когда ты пишешь так
-3705962084283.2314 ^ 0.33333333333333 он на самом деле считает -(3705962084283.2314 ^ 0.33333333333333)

Ответить

Номер ответа: 3
Автор ответа:
 kromtor



Вопросов: 1
Ответов: 2
 Профиль | | #3 Добавлено: 22.12.09 16:28
странно все это
Excel без проблем возводит в сепень отрицательное число
а такая мощная система как VB.NET падает на этом

Ответить

Номер ответа: 4
Автор ответа:
 Skywalker



ICQ: 300-70-6пятьЪ 

Вопросов: 62
Ответов: 545
 Web-сайт: iSkywalker.ru
 Профиль | | #4
Добавлено: 22.12.09 16:34
не знаю что у тебя за эксель
=СТЕПЕНЬ(-3705962084283,23; 0,33333333333333)

ответ - #ЧИСЛО! - "ошибка неправильное число"

и даже если так
=-3705962084283,23 ^ 0,33333333333333
будет ошибка

Ответить

Номер ответа: 5
Автор ответа:
 kromtor



Вопросов: 1
Ответов: 2
 Профиль | | #5 Добавлено: 22.12.09 16:49
да действительно
=СТЕПЕНЬ(-3705962084283,23; 0,33333333333333)
ответ - #ЧИСЛО! - "ошибка неправильное число"

я просто использовал вместо числа и степени ссылки на другие ячейки
и тогда получался ответ -15475,10

Ответить

Страница: 1 |

Поиск по форуму



© Copyright 2002-2011 VBNet.RU | Пишите нам