| Вопрос: Overflow при вычислениях | Добавлено: 02.10.04 18:37 |
Автор вопроса:  Aracon | Web-сайт: aracon-studios.com | ICQ: 221881915 |
|
У меня при вычислениях возникает overflow, хотя результат теоретически в переменную должен влезать.
Пример: Dim zp as Single zp=65024 '65024=256*254 zp=256 * 254 'Overflow! '---------- Dim zp as Long zp=181 * 181 'Done zp=182 * 182 'Overflow! В форуме вычитал совет, что нужно использовать CInt(), но, поэкспериментировав, ничего нового не получил... PS Почему в Опере окошко редактирования текста мелкое, как в пейджере?! |
| Ответы | Всего ответов: 2 |
|
Номер ответа: 1 Автор ответа:  Aracon ICQ: 221881915 Вопросов: 16 Ответов: 28 |
Web-сайт: Профиль | | #1 | Добавлено: 02.10.04 18:46 |
|
О, все, сам разобрался! Т.к. у меня числа большие, то нужно использовать CLng():
Dim zp as Long zp=181 * 181 'Done zp=CLng(182) * 182 'Done! |
||
|
Номер ответа: 2 Автор ответа: Fallout Вопросов: 10 Ответов: 387 |
Web-сайт: Профиль | | #2 | Добавлено: 04.10.04 11:09 |
|
либо использовать символ приведения типа & - для лонг
ПРимер 123& |
||
Страница: 1 |