ru.perl

 
 - RU.PERL ----------------------------------------------------------------------
 From : Artem Chuprina                       2:5020/371.32  05 Jun 2000  17:17:38
 To : mike@mix.nordlink.ru
 Subject : Re: s?printf
 -------------------------------------------------------------------------------- 
 

 mmnr> Столкнулся с проблемой округления функциями s?printf и format'ным выводом.
 mmnr> когда то раньше уже это проходил и решал, но совершенно не помню как :(
 
 mmnr> например,
 mmnr> sprintf("%.2f", 1.555) == 1.55 (хотя должноб быть 1.56)
 mmnr> sprintf("%.2f", 0.555) == 0.56 (тут нормально)
 
 mmnr> при увеличении точности до 20 знаков после запятой видно
 mmnr> sprintf("%.20f", 1.555) == 1.55499999999999993783
 mmnr> что все и объясняет.
 mmnr> но число то 1.555 задано с явной точностью, и очень уж охота чтоб
 mmnr> и округлялось оно явно :)
 
 Дда? И с каких это пор 1.555 можно задать с явной точностью в _двоичной_
 системе счисления? Тогда тебе требуются библиотеки, работающие со строковым
 представлением. За соответствующую (на порядок минимум) потерю в скорости.
 
 -- 
 Счастливо!
   Ран.
 --- ifmail v.2.14.os-p7-tma3
  * Origin: MemoNet (2:5020/371.32@fidonet)
 
 

Вернуться к списку тем, сортированных по: возрастание даты  уменьшение даты  тема  автор