Страница 1 из 1

тонкости в типах данных

Добавлено: 11 сен 2006, 12:42
makaveli
Подскажите пожалуйста, каким образом можно записать в базу значение типа float=4.5127648. Дело в том, что при такой записи данные урезаются до 4.512. Может где-то задается разрядность?

Добавлено: 11 сен 2006, 12:53
Ivan_Pisarevsky
самый обычный дабл пресижн не канает разве?

Добавлено: 11 сен 2006, 12:54
WildSery
Учись задавать вопросы ;)
Кем обрезается? Как ты проверил, что обрезаются?

Добавлено: 11 сен 2006, 13:09
makaveli
Ivan_Pisarevsky писал(а):самый обычный дабл пресижн не канает разве?
ввожу 4.5127648 а при double precision получаю 4,5127649307251.

Добавлено: 11 сен 2006, 13:30
WildSery
Какой диалект/сервер?

Добавлено: 11 сен 2006, 13:31
Ivan_Pisarevsky
Редкая десятичная дробь может быть переведа в двоичную форму без потери точности (почему можно почитать мануал тут же на сайте), если формат фиксирован храни как децимал/нумерик, если нумерик не подходит, то остается дабл пресижн (без погрешности не обойтись, но она существенно меньше, чем у флоат) либо хранить в виде строки, а обрабатывать своими библиотеками.

Добавлено: 11 сен 2006, 15:24
kdv
ввожу 4.5127648 а при double precision получаю 4,5127649307251.
срочно читать

http://www.delphikingdom.com/asp/viewit ... alogID=374

от начала и до конца.

p.s. single = float, double = double precision