[Moscow.pm] int

Михаил Монашёв postmaster на softsearch.ru
Чт Июн 17 02:28:32 PDT 2010


Здравствуйте, Ackap.

А сколько там всего было цифр на экране? Может калькулятор он был
6-разрядным 10-ти битный и при переполнении все биты были 1, что
давало такой результат.

AA> У меня был калькулятор "Электроника" с такими яркими зелёными цифрами
AA> и огромным аппетитом на батарейки. В ответ на возведение 10 в 6ую
AA> степень он выдавал ответ 999`999.

>> Date: Tue, 8 Jun 2010 16:58:39 +0400
>> From: Иван Бессарабов <ivan на bessarabov.ru>
>> Subject: [Moscow.pm] int
>> To: "Moscow.pm group" <moscow-pm на pm.org>
>> Message-ID:
>>      
>>  <AANLkTil4PUkgNUkm0Ei-05qWRCjdP9C3YMD1taZQlJ7y на mail.gmail.com>
>> Content-Type: text/plain; charset=UTF-8
>>
>> Скрипт:
>> {{{
>> #! /usr/bin/perl
>>
>> my $a = "19.4016";
>>
>> print '$a =           '  . $a            . "\n";
>> print '$a*10000 =      ' . $a*10000      . "\n";
>> print 'int($a*1000) =  ' . int($a*10000) . "\n";
>> }}}
>>
>> Результат работы:
>> {{{
>> $a =           19.4016
>> $a*10000 =      194016
>> int($a*1000) =  194015
>> }}}
>>
>> Да, в "perldoc -f int" написано что "machine representations of
>> floating-point numbers can sometimes produce counterintuitive
>> results", но я все равно сильно удивлен. Это нормально, что скрипт так
>> работает?
AA> --
AA> Moscow.pm mailing list
AA> moscow-pm на pm.org | http://moscow.pm.org


  

-- 

С уважением,
Михаил Монашёв
mailto:postmaster на softsearch.ru
ICQ# 166233339
http://michael.mindmix.ru/
Без бэкапа по жизни.



Подробная информация о списке рассылки Moscow-pm