AXForum  
Вернуться   AXForum > Microsoft Dynamics AX > DAX: Программирование
All
Забыли пароль?
Зарегистрироваться Правила Справка Пользователи Сообщения за день Поиск Все разделы прочитаны

 
 
Опции темы Поиск в этой теме Опции просмотра
Старый 01.02.2007, 21:17   #1  
Alenka is offline
Alenka
Участник
 
58 / 25 (1) +++
Регистрация: 19.04.2006
Для интересующихся: существует такой метод - метод Гоморри, у нас он используется для автоматического подбора нужного количества товара упаковками. Действительно, такая высокая точность нужна для промежуточных расчетов, а входные и выходные данные для данного метода практически всегда целые числа.
Старый 01.02.2007, 22:59   #2  
Михаил Андреев is offline
Михаил Андреев
Участник
Компания АМАНД
Лучший по профессии 2009
 
1,300 / 239 (10) ++++++
Регистрация: 09.11.2001
Адрес: Химки, Московская область
Цитата:
Сообщение от Alenka Посмотреть сообщение
Для интересующихся: существует такой метод - метод Гоморри, у нас он используется для автоматического подбора нужного количества товара упаковками. Действительно, такая высокая точность нужна для промежуточных расчетов, а входные и выходные данные для данного метода практически всегда целые числа.
Понятно.
Тогда сразу огорчу.
Для некоторого набора данных Вам и 16 цифр значащих будет мало. Там используется выделение дробных частей из разниц вещественных чисел. Попробуйте выделить дробную часть из выражения типа 1+2/27-1/14. В десятичной системе исчисления будет очень нетривиально. Точность нужна нехилая. Но ручками считается легко и непринуждённо.
Так что, приношу свои извинения oip - при правильной постановке задачи его метод будет более эффективен и довольно быстр.
Потому вариантов вижу несколько. Либо вывести алгоритм за пределы Аксапты, например, написав всё это на каком-то другом языке, поддерживающем высокую точность чисел в расчётах. Либо поменять алгоритм. Либо сделать свой обработчик данного алгоритма на базе целых чисел (обработчик дробей).
Кстати, в интернете полно описаний разного рода алгоритмов для такой задачи.
__________________
Михаил Андреев
https://www.amand.ru

Последний раз редактировалось Михаил Андреев; 01.02.2007 в 23:23.
За это сообщение автора поблагодарили: Alenka (1).
 

Похожие темы
Тема Автор Раздел Ответов Посл. сообщение
Каких прав не хватает? NNB DAX: Администрирование 3 27.06.2008 11:19
Расчёт зарплаты «не хватает виртуальной памяти». 3oppo DAX: Функционал 16 25.07.2005 10:12
Товарная накладная - непонятный алгоритм умножения количества на стоимость ATimTim DAX: Функционал 4 11.08.2004 16:59
При изменении количества в заявке ошибка создания партии. ddadream DAX: Функционал 0 17.10.2003 15:31
Неправильный подсчет количества в распечатке Счета ddadream DAX: Программирование 0 28.01.2002 12:42
Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск
Опции просмотра
Комбинированный вид Комбинированный вид

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.
Быстрый переход

Рейтинг@Mail.ru
Часовой пояс GMT +3, время: 03:34.