Страница: 1 |
Страница: 1 |
Вопрос: возведение в степень VB.NET
Добавлено: 22.12.09 12:08
Автор вопроса:
kromtor
Всем привет
столкнулся с такой непонятной вещью в VB 2008
Dim B As Double = -3705962084283.2314 ^ 0.33333333333333
при прямом написании чисел получаем ответ -15475,10
Dim Y As Double = -3705962084283.2314
Dim X As Double = 0.33333333333333
Dim N As Double = Y ^ X
а при присваивании этих чисел переменным ответ = NaN
пишу программу по расчету формул поэтому мне нужен второй вариант с переменными
Ответы
Всего ответов: 5
Номер ответа: 1
Автор ответа: UnDeAdZak
Вопросов: 80
Ответов: 476
Профиль | | #1
Добавлено: 22.12.09 15:32
хмм... math.pow и так и так Nan выдаёт
Номер ответа: 2
Автор ответа: Skywalker
ICQ: 300-70-6пятьЪ
Вопросов: 62
Ответов: 545
Web-сайт:
Профиль | | #2
Добавлено: 22.12.09 15:33
основание не может быть отрицательным числом, когда ты пишешь так
-3705962084283.2314 ^ 0.33333333333333 он на самом деле считает -(3705962084283.2314 ^ 0.33333333333333)
Номер ответа: 3
Автор ответа: kromtor
Вопросов: 1
Ответов: 2
Профиль | | #3
Добавлено: 22.12.09 16:28
странно все это
Excel без проблем возводит в сепень отрицательное число
а такая мощная система как VB.NET падает на этом
Номер ответа: 4
Автор ответа: Skywalker
ICQ: 300-70-6пятьЪ
Вопросов: 62
Ответов: 545
Web-сайт:
Профиль | | #4
Добавлено: 22.12.09 16:34
не знаю что у тебя за эксель
=СТЕПЕНЬ(-3705962084283,23; 0,33333333333333)
ответ - #ЧИСЛО! - "ошибка неправильное число"
и даже если так
=-3705962084283,23 ^ 0,33333333333333
будет ошибка
Номер ответа: 5
Автор ответа: kromtor
Вопросов: 1
Ответов: 2
Профиль | | #5
Добавлено: 22.12.09 16:49
да действительно
=СТЕПЕНЬ(-3705962084283,23; 0,33333333333333)
ответ - #ЧИСЛО! - "ошибка неправильное число"
я просто использовал вместо числа и степени ссылки на другие ячейки
и тогда получался ответ -15475,10