Неправильное округление величины - DAX: Функционал

15.02.2011, 13:48

#18

AvrDen

Участник

134 / 26 (1)

Регистрация: 04.08.2005

Адрес: Усть-Каменогорск

Цитата:

Сообщение от S.Kuskov

Т.е.на форме вводим 8933.72, а в таблицу попадает 8933,719999999999

Да, именно так...

После долгих экспериментов, удалось установить что неправильное значение присваиваеться в super() inventJournalTrans.update(). Я сделал выборку строки журнала ДО super, и ПОСЛЕ. До в CostAmount было значение 8933.72, после 8933,719999999999

« Предыдущая тема | Следующая тема »

Похожие темы
Тема	Автор	Раздел	Ответов	Посл. сообщение
Округление при расчете НДФЛ	barry allen	DAX: Программирование	1	20.12.2010 15:15
Расчеты с персоналом // Виды зарплаты // Округление	farlander	DAX: Функционал	0	29.04.2009 09:54
Неверное округление физ. Обновляемого количества товара	fur-lined	DAX: Функционал	14	10.11.2006 11:02
округление в OLAP	xconsul	DAX: Администрирование	2	19.11.2005 14:33
Тип проводки - округление накладной по закупке	Ann	DAX: Функционал	0	23.06.2004 14:05

Ваши права в разделе
Вы не можете создавать новые темы Вы не можете отвечать в темах Вы не можете прикреплять вложения Вы не можете редактировать свои сообщения BB коды Вкл. Смайлы Вкл. [IMG] код Вкл. HTML код Выкл.