FLProg
Вход на сайт
Логин:
Пароль:
Поиск
Мы в VK
...
Статистика
Вторник, 23.05.2017, 13:43
Приветствую Вас Гость | RSS
Главная | Регистрация | Вход

Поиск по сайту


Форум
[ Новые сообщения · Участники · Правила форума · Поиск · RSS ]
Страница 1 из 11
Модератор форума: support, Сергей 
Форум » Основной » Спросить у знатоков » Математика больших чисел
Математика больших чисел
DmitriyL Дата: Воскресенье, 16.04.2017, 02:49 | Сообщение # 1
Рядовой
Группа: Проверенные
Сообщений: 7
Награды: 0
Репутация: 0
Статус: Offline
Столкнулся с проблемой вычисления больших чисел. Получаемое после вычислений число от 0 до 99999. Промежуточные числа в процессе вычисления формулы еще больше. Блоки математических вычислений работают с целыми числами от  -32768 до 32767. Каким образом можно победить эту проблему?
Как пример:
1000xA/B, где А от 0 до 9999, а В от 20 до 100
 
Bogomil Дата: Воскресенье, 16.04.2017, 07:44 | Сообщение # 2
Сержант
Группа: Проверенные
Сообщений: 45
Награды: 2
Репутация: 1
Статус: Offline
Используйте
Типу <Unsigned long Integer> соответствуют целые числа от: 0 до: 4294967295
 
slavushka64 Дата: Воскресенье, 16.04.2017, 07:46 | Сообщение # 3
Майор
Группа: Проверенные
Сообщений: 150
Награды: 8
Репутация: 6
Статус: Offline
DmitriyL, Вот так
Прикрепления: 456.flp(50Kb)
 
DmitriyL Дата: Воскресенье, 16.04.2017, 14:09 | Сообщение # 4
Рядовой
Группа: Проверенные
Сообщений: 7
Награды: 0
Репутация: 0
Статус: Offline
Цитата Bogomil ()
ИспользуйтеТипу <Unsigned long Integer> соответствуют целые числа от: 0 до: 4294967295
Спасибо. А - это переменная со счетчика. В - вводится с меню. В общем, получилось через константу 1000 в формате Long Integer. По остальным блокам в цепочке в этом же формате ушло до самого LCD.

Цитата slavushka64 ()
DmitriyL, Вот так
В Вашем варианте будет приличная погрешность, потому что на выходе первого блока будут целые числа, и после умножения к числу просто добавятся три нуля вместо трех чисел после запятой, получившихся бы после деления в первом блоке. Если блоки ставить в цепочке ровно так же, как в формуле, то все норм.


Сообщение отредактировал DmitriyL - Воскресенье, 16.04.2017, 15:09
 
slavushka64 Дата: Воскресенье, 16.04.2017, 15:54 | Сообщение # 5
Майор
Группа: Проверенные
Сообщений: 150
Награды: 8
Репутация: 6
Статус: Offline
DmitriyL, Вот в двух вариантах получилось
Прикрепления: 784.flp(80Kb)
 
Форум » Основной » Спросить у знатоков » Математика больших чисел
Страница 1 из 11
Поиск:

FLProg © 2017
Яндекс.Метрика