[Moscow.pm] int
Михаил Монашёв
postmaster на softsearch.ru
Чт Июн 17 02:28:32 PDT 2010
Здравствуйте, Ackap.
А сколько там всего было цифр на экране? Может калькулятор он был
6-разрядным 10-ти битный и при переполнении все биты были 1, что
давало такой результат.
AA> У меня был калькулятор "Электроника" с такими яркими зелёными цифрами
AA> и огромным аппетитом на батарейки. В ответ на возведение 10 в 6ую
AA> степень он выдавал ответ 999`999.
>> Date: Tue, 8 Jun 2010 16:58:39 +0400
>> From: Иван Бессарабов <ivan на bessarabov.ru>
>> Subject: [Moscow.pm] int
>> To: "Moscow.pm group" <moscow-pm на pm.org>
>> Message-ID:
>>
>> <AANLkTil4PUkgNUkm0Ei-05qWRCjdP9C3YMD1taZQlJ7y на mail.gmail.com>
>> Content-Type: text/plain; charset=UTF-8
>>
>> Скрипт:
>> {{{
>> #! /usr/bin/perl
>>
>> my $a = "19.4016";
>>
>> print '$a = ' . $a . "\n";
>> print '$a*10000 = ' . $a*10000 . "\n";
>> print 'int($a*1000) = ' . int($a*10000) . "\n";
>> }}}
>>
>> Результат работы:
>> {{{
>> $a = 19.4016
>> $a*10000 = 194016
>> int($a*1000) = 194015
>> }}}
>>
>> Да, в "perldoc -f int" написано что "machine representations of
>> floating-point numbers can sometimes produce counterintuitive
>> results", но я все равно сильно удивлен. Это нормально, что скрипт так
>> работает?
AA> --
AA> Moscow.pm mailing list
AA> moscow-pm на pm.org | http://moscow.pm.org
--
С уважением,
Михаил Монашёв
mailto:postmaster на softsearch.ru
ICQ# 166233339
http://michael.mindmix.ru/
Без бэкапа по жизни.
Подробная информация о списке рассылки Moscow-pm