Округление до десятых

Victor · Сообщение **Victor** » 01 фев 2005, 13:28

Вопрос почему interbase в select-е автоматически округляет сотые доли до десятых,у меня есть процедура которая производит вычисления с вещественными числами и возврашает результа в select, а там он почему то автоматически округляется до десятых.
Проверял процедуру в трасировки там все нормально возврашает до сотых.

Сообщение **kdv** » 01 фев 2005, 14:00

читаем документацию (datadef.pdf) по типам данных, www.ibase.ru/devinfo/migration.htm и в ней ссылку на особеннсти числовых типов в диалекте 3.

"вопрос" про округление задан слишком абстрактно.

Victor · Сообщение **Victor** » 01 фев 2005, 14:22

Возможно я немного не правельно поставил вопрос он не округляет например 2.59 в 2.6 он округляет как 2.60, документация я читаю прежде чем лезть на форум,и задаю вопросы только когда не нахоже ответы

.

Сообщение **kdv** » 01 фев 2005, 14:28

ТИП ДАННЫХ КАКОЙ, И В КАКОМ СЛУЧАЕ ОКРУГЛЯЕТ.

Victor · Сообщение **Victor** » 01 фев 2005, 14:36

kdv писал(а):ТИП ДАННЫХ КАКОЙ, И В КАКОМ СЛУЧАЕ ОКРУГЛЯЕТ.

ти возврашаемогозначения из процедуры NUMERIC(15,3),при использование в selecte процедуры возврашаемое числе например 25779.59 округляется как 25779.60 причем когда трасеруеш процедуру в возврашаемом пораметре стоит значение 25779.59

Лысый · Сообщение **Лысый** » 01 фев 2005, 15:16

Возвращаемый парамметр случаем не инициализируется перед выборкой скажем =0.0 ?

Victor · Сообщение **Victor** » 01 фев 2005, 15:21

Лысый писал(а):Возвращаемый парамметр случаем не инициализируется перед выборкой скажем =0.0 ?

нет не инициализируется

Сообщение **kdv** » 01 фев 2005, 15:23

диалект базы какой? Interbase какой?... все надо клещами вытаскивать. numeric(15,3) на базе какого типа - double precision или int64?

Victor · Сообщение **Victor** » 01 фев 2005, 15:25

kdv писал(а):диалект базы какой? Interbase какой?... все надо клещами вытаскивать. numeric(15,3) на базе какого типа - double precision или int64?

диалект первый ,FireBirde 1.5 работаю в IBExpert

Odysseos · Сообщение **Odysseos** » 03 фев 2005, 14:51

Попробуй посмотреть, что у IBExpert'а прописано тут:
меню "Настройки" -> "Настройки среды" -> "Формат полей" -> "Дробные числа"