[Moscow.pm] WTF?

Dmitry Arsentiev dmarsentev на gmail.com
Вт Дек 23 06:00:33 PST 2008


> 1000 тоже не поможет :-)
> # perl -e'printf "%3.20f", 100 * (8.37 - 0.37)'
> 799.99999999999988631316

Есть чему поучиться у младших товарищей (Java BigDecimal)
http://256bit.ru/Java/Glava4/Index5.htm


23 декабря 2008 г. 16:00 пользователь Andrew Shitov <andy на shitov.ru> написал:
>>> Стандартное решение:
>>> perl -MData::Dumper -e 'print Dumper( int((8.37-0.37  )*100 + 0.5) ==
>>> 800)'
>
>> 100, а на 1000.
>
> 1000 тоже не поможет :-)
>
> # perl -e'printf "%3.20f", 100 * (8.37 - 0.37)'
> 799.99999999999988631316
>
> --
> Andrew Shitov
> ______________________________________________________________________
> andy на shitov.ru | http://shitov.ru
> --
> Moscow.pm mailing list
> moscow-pm на pm.org | http://moscow.pm.org
>


Подробная информация о списке рассылки Moscow-pm