Вторая неделя поисков подходила к концу. Кажется, в схеме не осталось ни одной точки, к которой меньше десяти раз мы прикоснулись щупом тестера или осциллографа. Однако все это оказывалось бесполезным. Более того, поведение схемы, казалось бы, опровергало — в конце концов мы окончательно пришли к этому убеждению — элементарные законы физики. Но убеждения убеждениями, а дело делом. А вот дело явно не двигалось вперед.Схема, установленная в обширном помещении, занимала три большие стойки. Стойки были такими высокими, что до верхней части схемы можно было добраться только став на табуретку. Когда мы паяли там, наверху, капли расплавленного олова падали вниз и обязательно замыкали что-нибудь в средних этажах. Такие замыкания потом приходилось отыскивать часами. Перепайки внизу приходилось делать лежа в классической позе автомобилистами капли расплавленного олова норовили попасть за шиворот. Последствия отнимали меньше времени, но их отнюдь нельзя было назвать более приятными. Лицом, то есть стороной, на которой расположены лампы, стойки были обращены к проходу и отгораживали узкий закуток, в котором мы и ютились, отрезанные от внешнего мира. Если один лежал под стойкой, второй вынужден был через него перешагивать (и при этом частенько что-нибудь ронял на лежащего).Со всеми этими неудобствами можно было бы легко примириться, если бы получался хоть какой-нибудь результат. Однако к концу второй недели последние слабые надежды на получение этого результата стали постепенно угасать. А там, по ту сторону стоек, бодро шагали свободные, удачливые люди. И вот, когда сознание собственной непригодности окончательно созрело в нас, из прохода раздался голос нового сотрудника:— Эй, ребята, проверьте накал!Когда мы выскочили из-за стойки, мы увидели лишь, как за ним захлопывается дверь.Несколько прикосновений щупами тестера, и ситуация предстала перед нами во всей своей простоте. Из шести накальных трансформаторов (по два на стойку) два оказались не подключенными к сети. Каких-нибудь пятнадцать минут, и все заработало. Физическая картина мира вновь обрела свою стройность.— Он гениален, — единодушно решили мы.— Какая дьявольская интуиция!Правда, сам он впоследствии объяснял все иначе:— Я шел мимо и заметил, что в некоторых лампах на ваших стойках не светятся нити накала. Если бы так было у одной или двух ламп, можно было бы подумать, что они перегорели, но у вас не светились добрых три десятка. Единственное разумное объяснение — неисправность в цепях накала.Возможно, причиной было наше желание сохранить хоть каплю уважения к себе (ведь мы-то сами прошли перед стойками не меньше сотни раз!), но свое первоначальное мнение об этом человеке мы не изменили даже после его объяснений. Действительно, шел мимо чужих стоек, явно погруженный в собственные мысли. При этом взгляд его машинально зафиксировал отсутствие темно-красного, чуть заметного свечения у нескольких ламп, а ум так же. машинально выстроил ясную цепочку причин и следствий. Интуиция, и больше ничего!Так или иначе, но упущенные две недели наверстать не удалось. Месячный план оказался невыполненным, и квартальная премия, как говорят, нам улыбнулась. Так на собственном опыте мы познали, что такое ценность информации.Еще более ярким примером, иллюстрирующим понятие информации и ее ценности, могла бы служить история, рассказанная А. Пушкиным в «Пиковой даме», если бы эта история не была выдуманной. Правда, А. Пушкин так и оставил потомков лицом к лицу с загадкой: откуда все-таки взялась роковая дама? То ли Герман перепутал карты, то ли туз, стремясь сохранить равновесие, сам превратился в даму. На языке современной теории связи мы сказали бы, что сигнал оказался искаженным под воздействием шумов.
Слово «информация» лишь сравнительно недавно стало научным термином. Поэтому мы достаточно часто встречаем в разговорном языке такие выражения, как «передача информации», «сжатие информации», «обработка информации» и даже «дезинформация». Здесь каждый раз речь идет не об информации в строгом смысле этого слова, а о некоторых сведениях или, иначе, сообщениях. Например, по телеграфу всегда передается сообщение, то есть строчка, состоящая из символов некоторого языка. Такая строчка может содержать, а может и не содержать информацию. Сообщение можно сжать, то есть убрать все лишние символы и • м-1мнить лишь те, которые действительно необходимы для представления данной информации. Наконец, дезинформация — это сообщение, заведомо не содержащее информации.Что же означает слово «информация» в его научном значении?- Пытаясь ответить на подобный вопрос, мы и клялись писать эту книгу.В настоящее время существуют два различных взгляда на то, что принято называть информацией. Один взгляд, и его, по-видимому, придерживается большая часть специалистов и неспециалистов, сводится к тому, что существует как бы два сорта информации. Первый из них — это информация техническая, та самая, которая передается по телеграфным линиям или отображается на экранах радиолокаторов. Количество такой информации может быть в точности вычислено, и процессы, происходящие с такой информацией, подчиняются физическим законам.Другой сорт информации — информация семантическая, то есть смысловая. Это та самая информация, которая содержится, к примеру, в литературном произведении. Для такой информации тоже предлагаются различные количественные оценки и даже строятся математические теории. Но общее мнение скорее сводится к тому, что оценки здесь весьма условны и приблизительны и алгеброй гармонию все-таки не проверишь.Второй взгляд, которого мы и будем придерживаться в этой книге, состоит в том, что информация — это физическая величина, такая же, как, например, энергия или скорость. Определенным образом и в определенных условиях информация равным образом описывает как процессы, происходящие в естественных физических системах, так и процессы в системах, искусственно созданных. Обосновать такую точку зрения — основная задача этой книги.Как всегда, при наличии двух резко противоположных мнений существует и третье, примиряющее. Сторонники третьего подхода считают, что информация едина, но вот количественные оценки должны быть разными. Отдельно нужно измерять количество информации, причем количество информации — это строгая оценка, относительно которой можно развивать единую строгую теорию. Кроме количества информации, следует измерять еще и ценность. А вот с ценностью информации происходит то же самое, что и с понятием семантической информации. С одной стороны, вроде ее можно померить или даже вычислить, а с другой стороны, все эти вычисления справедливы лишь в ограниченном числе случаев. И вообще, кто может точно вычислить, скажем, ценность крупного научного открытия?В этой книге мы надеемся убедить читателя, во-первых, в том, что информация едина, во-вторых, в том, что достаточно лишь одной меры количества информации, и, наконец, в том, что современная теория информации — это фундаментальная научная дисциплина, все значение которой, наверное, до сих пор не понято до конца даже теми, кто ее развивает. Но если и удастся это сделать, то лишь к самому концу книги. А пока что нам нужно немножко освоиться с тем кругом понятий, которые в дальнейшем станут предметом обсуждений и размышлений.
Более трехсот лет тому назад проживал в городе Тулузе знаменитый французский математик П. Ферма. Сын торговца, он изучил законоведение и с 1631 года до конца жизни был советником Тулузского парламента (то есть суда). Но занимался он отнюдь не только судебными кляузами. Будучи широко образованным человеком, он изучал и комментировал древних авторов и, кроме того, сам весьма успешно работал в области математики и физики. Широкую известность П. Ферма получил главным образом благодаря своей так называемой великой теореме Ферма. Формулировку ее он записал на полях принадлежащего ему тома сочинений Диофанта и там же указал, что нашел очень красивое и простое доказательство теоремы, но изложение его на полях не поместится.С тех пор ни одному из крупнейших математиков мира не удалось ни доказать, ни опровергнуть великую теорему Ферма. Это одна из загадок, которые П. Ферма оставил своим потомкам. Интересно, что при жизни он почти не издавал своих трудов. Большинство его научных достижений стало известно по всякого рода пометкам, вроде пометки на полях книги Диофанта, а главным образом из его обширной переписки с современниками.Второе открытие (или вторая загадка) менее популярно, но для нас оно будет представлять значительно больший интерес. Изучая законы распространения и преломления света, ученый сформулировал положение, известное ныне как принцип Ферма. Согласно этому принципу свет, распространяясь в неоднородной среде, всегда выбирает такой путь, время прохождения по которому оказывается наименьшим среди всех возможных. На первый взгляд нет тут ничего особенного, а тем более загадочного. Сформулирован некий физический принцип, справедливость которого неоднократно проверялась и была доказана экспериментально. Количественное выражение законов преломления света известно в физике под названием закона Снелла, по имени голландского математика В. Снелла, сформулировавшего свой закон в 1621 году.Загадка возникает тогда, когда мы начинаем размышлять над принципом Ферма. Не сочтите за труд, дорогой читатель, и посмотрите на приведенный здесь рисунок (рис. 1). В точке А расположен источник света (лампочка), а в точке Б вы видите световое пятно от этой лампочки на экране. Между точками А и Б расположена стеклянная пластинка. Сплошной линией показан путь света от точки А к точке Б. Это тот самый путь, на движение по которому согласно принципу Ферма будет затрачено наименьшее количество времени. Все очень просто, и картинка эта всем хорошо известна. Именно с нее начинается изучение так называемой геометрической оптики.Но вот вопрос. Скорость распространения света хоть и очень велика, но конечна. Значит, существует такой момент времени, когда свет уже вышел из точки А, но еще не дошел не только до точки Б, но даже до ближайшей к точке А грани стеклянной пластинки. Спрашивается, откуда свет знает, что нужно двигаться именно по пути, изображенному на рисунке сплошной линией? Ведь имеются такие моменты времени, когда луч света еще не дошел до стеклянной пластинки и, казалось, было бы правильным двигаться по прямой, соединяющей точки А и Б (пунктирная линия).Положение, которое мы пытаемся здесь обрисовать, становится особенно выпуклым, если рассуждать с позиций современного корпускулярного представления о природе света. Тогда уже не световой луч (понятие достаточно расплывчатое), а каждый отдельный фотон, покидая точку А, в каждый момент времени принимает решение о том, в каком направлении ему двигаться. И неизменно фотон выбирает именно тот путь, время движения по которому окажется минимальным. Вот что говорит об этом известный американский физик Ричард Фейнман:«Свет проходит, видит перед собой поверхность и отклоняется, потому что на поверхности с ним что-то происходит. Легко понять идею причинности, проявляющуюся в том, что свет идет из одной точки в другую, а затем в следующую точку. Но принцип наименьшего времени есть философский принцип, который совсем иначе объясняет причину явлений в природе. Вместо причинной обусловленности, когда из одного нашего действия вытекает другое и т. д., этот принцип говорит следующее: в данной ситуации свет выбирает путь с наименьшим, или экстремальным, временем. Но как удается свету выбирать свой путь? Вынюхивает он, что ли, соседние пути и сравнивает их потом друге другом?»Современная релятивистская квантовая физика дает нам по меньшей мере два различных пути для размышлений о принципе Ферма. Первый из них таков. Если мы точно знаем положение точек А и Б, а также положения всех промежуточных точек пути, по которому распространяется свет, следовательно, мы точно знаем длину волны этого света. Лучи с различной длиной волны отклоняются по-разному. На этом основано разложение белого света в спектр с помощью стеклянной приемы. Если мы точно знаем длину волны света, значит, мы точно знаем импульсы соответствующих фотоном. Но согласно принципу неточностей Гейзенберга точное знание импульса означает полную неопределенность координаты. Про фотон нельзя сказать, что в данный момент времени он находится где-то в определенной точке. Наоборот, как любят выражаться физики, фотон размазан по всему пути от А до Б. Ну а коли так, то о чем, собственно, толковать?Другой путь рассуждений подсказывает нам теория относительности. Фотон движется со скоростью света. Представим себе, что наблюдатель связан с системой координат, в которой фотон неподвижен. Эта вторая система движется со скоростью света относительно той (первой) системы координат, в которой расположены точки А И Б и стеклянная пластинка. Наблюдатель видит первую систему координат с точками А и Б так, что все расстояния, совпадающие с направлением движения систем друг относительно друга, равны нулю (как говорят, они испытывают лоренцево сжатие). Опять-таки мы приходим к выводу, что перед фотоном не возникает вопроса о выборе пути. Он как бы одновременно находится и в точке А и в точке Б.Если у читателя создалось впечатление, что хотя бы один из предложенных способов рассуждений дает ответ на загадку света, спешим разочаровать его. Это далеко не так. В лучшем случае мы просто можем заменить один вопрос другим. Откуда свет (или фотон) знает, что он должен двигаться (или быть размазанным) по пути, соответствующему кратчайшему времени?Вся история была здесь рассказана с определенной целью. Нельзя не заметить поразительную аналогию между вопросом о свете: откуда свет знает и т. д., — и вопросом: откуда наш новый сотрудник узнал и т. д. Более того, в наших рассуждениях с позиций теории относительности, возможно, брезжит какой-то намек на возможный путь рассуждений, связанный с вопросом о найденной неисправности. Шахматисты часто утверждают, что, планируя комбинацию, они видят ее конечную цель, то есть как бы одновременно находятся в начальной и конечной точках пути. Все это и называется одним словом — интуиция.Однако не слишком ли мы зарвались? Не кощунственно ли сравнивать специалиста-электронщика с каким-то там фотоном? Поскольку понятие информации играет в этой книге одну из первых ролей, придется поискать еще примеры, которые позволили бы нам до конца разобраться в сути дела.
Давайте сыграем в такую игру. Один загадывает число, скажем, в пределах от единицы до тысячи, а второй в попытках угадать это число задает вопросы, ответом на которые может быть только «да» или «нет». Цель игры — угадать задуманное число, задав минимальное количество вопросов. Сегодня в такую игру можно сыграть не только с приятелем, но и с карманным электронным калькулятором.Хорошо известна стратегия этой игры, позволяющая, во всяком случае, не проиграть. Следуя подобной стратегии, вы должны мысленно разделить интервал, в пределах которого загадываются числа, пополам и задатьвопрос:— Задуманное вами число больше пятисот двенадцати?По причинам, которые будут ясны в дальнейшем, мы берем не точно половину интервала, то есть не число «пятьсот», а ближайшую к этому числу целую степень двойки (и все остальные называемые в вопросах числа — это также целые степени двойки ‘либо суммы таких степеней). В случае положительного ответа вы делите пополам верхнюю половину интервала и задаете следующий вопрос:— Задуманное вами число больше семисот шестидесяти восьми?В случае же отрицательного ответа на первый вопрос пополам делится нижняя половина интервала и соответственно следующий вопрос формулируется так:— Задуманное вами число больше двухсот пятидесяти шести?Легко убедиться в том, что каким бы ни было задуманное число, если только оно находится в пределах интервала от нуля до тысячи, отгадать его можно, следуя такой стратегии, не более чем за десять вопросов. В общем случае минимальное количество вопросов равно целому, ближайшему (сверху) к двоичному логарифму от ширины интервала, в пределах которого загадываются числа.Спрашивается, сколько информации вы получаете, узнав задуманное число? Академик А. Колмогоров предложил принять за количество информации, содержащейся в некотором сообщении, грубо говоря, минимальное количество ответов типа «да» — «нет», которые надо получить, чтобы угадать это сообщение. Существенную роль здесь играет слово «минимальное». Имеется в виду, что, во-первых, всегда существует стратегия, позволяющая так, как это было в только что рассмотренном примере, угадать сообщение, задавая вопросы, ответами на которые могут быть только «да» или «нет». Но это еще не все. Имеется также в виду, что среди многих таких стратегий (или алгоритмов, следуя терминологии А. Колмогорова) существует одна, обладающая тем свойством, что при ее использовании задается минимальное количество вопросов.Возникают вопросы и у нас. Мы живем в мире, насыщенном информацией: газеты, радио, телевидение, кино, книги и периодические издания. Известно, что число научных публикаций настолько велико, что подчас оказывается проще сделать некоторое открытие заново, чем отыскать его описание, пользуясь при этом даже самой современной информационной техникой. Вряд ли кто-нибудь из наших современников поставит под сомнение существование такой категории, как информация. Иное дело количество. Можно ли измерить количество информации точно так же, как, например, мы измеряем массу тела или силу электрического тока?Тот же вопрос можно сформулировать и иначе: можно ли вообще применительно к такой категории, как информация, говорить о некоторой объективной сценке, понимаемой как количество?Наш повседневный опыт скорее свидетельствует в пользу отрицательного ответа на этот вопрос. Действительно, на основе нашего опыта мы, казалось бы, должны прийти к выводу, что количество информации в некотором сообщении существенным образом зависит от того, кто получает сообщение. Например, если сообщение составлено на английском языке, то для человека, не знающего этого языка, оно представляется бессмысленным набором букв (или звуков). Аналогичным образом представляется не содержащим никакой информации сообщение, составленное на знакомом языке, если его содержание общеизвестно: снег белый, летом тепло, зимой холодно.Согласно известному физическому принципу Паули в любой системе, состоящей из элементарных частиц (атом, молекула, кристаллическая структура), не может быть двух электронов, находящихся в одинаковых состояниях (то есть характеризуемых одинаковыми значениями квантовых чисел). Справедливость этого принципа давно уже подтверждена десятками тысяч экспериментов. Но возникает естественный вопрос: каким образом электрон узнает, что в данной системе, которая может быть очень сложна, например в случае кристалла, уже имеется один электрон с таким же набором значений квантовых чисел? Можно ли говорить, что электрон получает информацию о структуре, и если да, то можно ли измерить количество такой информации? Или же, наконец, может быть, электрон проявляет интуицию?Несмотря на то, что теория информации как самостоятельное научное направление существует уже более сорока лет, однозначных ответов на все эти вопросы пока еще не дано. С другой стороны, как мы надеемся показать в этой книге, именно с ответами на эти вопросы связаны самые фундаментальные, самые глубинные представления естественных наук. Не говоря уже о том, что сам процесс научного творчества, во всяком случае в области естественных наук, представляет собой не что иное, как угадывание на основании вопросов, которые исследователь задает природе. В большинстве случаев природа отвечает на эти вопросы лишь «да» или «нет» (подтверждается ли некоторая теория экспериментом или нет).Здесь, правда, возможно возражение. Результат расчетов, проведенных на основании некоторой теоретической предпосылки, и результат измерений, проведенных в эксперименте, никогда не совпадают абсолютно точно. Поэтому, казалось бы, можно говорить о степени подтверждения теории экспериментом. Более того, можно измерять эту степень подтверждения, например, количеством десятичных знаков после запятой, в котором совпадают данные расчета и данные эксперимента. Читатель наверняка заметил здесь аналогию с проведенными раньше рассуждениями.Однако в большинстве случаев это не так. Каждая теоретическая предпосылка уже содержит в самой себе оценку той необходимой точности, с которой должны совпасть результаты расчетов и результаты экспериментов, для того чтобы можно было утверждать, что теория подтверждается экспериментом. Например, такая фундаментальная физическая величина, как отношение заряда электрона к его массе, была измерена вначале с весьма невысокой точностью. Погрешность измерения составляла несколько процентов. И все же этих данных оказалось достаточно для того, чтобы утверждать существование самостоятельной частицы — электрона — с неизменными значениями заряда и массы.С другой стороны, весьма малое (порядка десятой доли процента) расхождение теоретических и экспериментальных данных при исследовании бета-распада привело, как известно, к чрезвычайно сложной ситуации. Такой крупнейший физик, как Н. Бор, с которым мы еще не раз встретимся на страницах этой книги, предлагал даже, основываясь на этом расхождении, отказаться от закона сохранения энергии. Восторжествовала, однако, гипотеза В. Паули, согласно которой при радиоактивном распаде, кроме альфа-частиц, электронов и гамма-квантов, образуются еще другие, неизвестные в то время частицы — нейтрино. Через много лет нейтрино были обнаружены в эксперименте, и тогда только природа дала свой положительный ответ на вопрос, заданный ей В. Паули.
Существует еще вопрос, имеющий гораздо более общий характер, Вправе ли мы ставить знак равенства между понятиями «электрон знает» и «мы с вами знаем»? Более того, применимо ли вообще понятие «знает» к атому?В попытке ответить на первый вопрос перенесемся на пару тысяч лет назад. Без сомнения, все наши читатели знают, что утверждение о прерывистом (атомарном) строении вещества первыми (во всяком случае в Европе) высказали греческие мыслители Левкипп и его ученик Демокрит. И именно потому, что этот факт из истории науки является общеизвестным, мы берем на себя смелость высказать предположение, что далеко не все, во всяком случае среди читателей этой книги, знают, какие именно рассуждения привели Демокрита к подобному утверждению.Это не были экспериментальные данные. Древнегреческие ученые вообще не ставили экспериментов, а если бы даже и ставили, во времена Демокрита не было возможности поставить эксперимент, результаты которого хотя бы косвенно могли дать малейший намек на дискретность структуры материи. Наоборот, все свидетельства наших органов чувств говорят об одном: если материя и дискретна, то лишь в большом. Можно отделить одну песчинку от другой, но чем глубже мы проникаем внутрь материи (напоминаем, речь идет о свидетельствах наших органов чувств), тем в большей мере она демонстрирует свои непривычные свойства.Так откуда же в головы Левкиппа и Демокрита могла прийти мысль о том, что все окружающие нас предметы состоят из мельчайших, недоступных нашим органам чувств-частиц — атомов? Точно так же, как электрону «приходит», что его место занято? Из опыта? Отнюдь нет. Идея об атомарной структуре материи была выведена Демокритом путем следующего рассуждения. Мир находится в непрерывном движении (это утверждение принималось как очевидное, поскольку в его пользу свидетельствовал повседневный опыт), но любое материальное тело может двигаться лишь в том случае, если оно окружено пустотой. Чтобы двигаться, надо иметь пространство, куда двигаться. Значит, повсеместное движение возможно лишь в том случае, если материя состоит из частиц, разделенных промежутками, в которые эти частицы перемещаются при своем движении. А из того факта, что наши органы чувств не способны воспринять этой дискретности, как раз и следует, что атомы малы. Настолько малы, что принципиально не могут быть восприняты.Смотрите, как интересно! Материя дискретна именно потому, что мы не замечаем этой дискретности. Знание непосредственно выводится из незнания. Но важно даже не это. Не дает ли нам только что сказанное основание утверждать, что для знания (во всяком случае, для познания того, что представляет собой окружающий нас мир) совсем необязателен эксперимент. Нужно лишь как следует подумать, Ведь рассуждения Демокрита предельно убедительны. И если нам не удастся найти здесь некорректности, все наши вопросы «как?» и «почему?» попросту потеряют смысл.Говорят, что И. Ньютона спросили однажды, как ему удалось открыть закон всемирного тяготения. «Я думал об этом!» — был ответ.Как видите, все очень просто.На самом деле все обстоит, конечно, не так просто, и нам не надо даже искать некорректность в рассуждениях Демокрита. Это сделал за нас другой древнегреческий мыслитель — Пифагор. Пространство, рассуждал Пифагор, существует лишь постольку, поскольку существует материя. Там, где нет материи, нет и пространства. Поэтому никаких пустых промежутков между материальными частицами существовать не может. Что же касается движения, то оно представляет собой лишь непрерывное превращение одних видов материи в другие.Мы могли бы пойти дальше и привести, скажем, пример того, как на основании исходного предположения о дискретности не только материи, но и пространства еще один древнегреческий философ — Зенон — пришел к своим знаменитым апориям, причем сделал это на основании логики, не менее безупречной, чем логика Демокрита. Но, наверное, примеры уже не нужны. Мы поняли главное. Логические построения действуют до тех пор, пока они не исчерпали информацию (все-таки информацию!), содержащуюся в исходных посылках. Логика, как и математика, — это мельница, которая перемалывает все, что в нее засыпано. Правильную картину мира нельзя составить, размышляя в комнате без окон. И мы с неизбежностью опять возвращаемся на круги своя, то есть к тому же вопросу. Сейчас, если угодно, мы можем сформулировать его так: откуда Демокрит (или Левкипп) мог знать, что… и т. д.?Специально для тех, кто предпочитает лишь модные направления в научно-популярной литературе, можем привести два небезынтересных факта. Во-первых, Демокрит действительно считал, что весь окружающий нас мир состоит из атомов. Но слово «атом» в точном переводе с греческого означает не «неделимый», а «неразрезаемый». Именно в этом смысле употреблял слово «атом» Демокрит. Неразрезаемый в том смысле, что если разрезать атом на части, то свойства его частей будут отличаться от свойств целого. В то же время Демокрит считал, что сами атомы состоят из еще более мелких частиц — амеров. Слово «амер» как раз и означает «неделимый». Надо отметить, что Демокрит ни в коей мере не претендовал на авторство атомарной теории строения мира. Наоборот, он указывал, что сведения о строении мира он почерпнул из рукописей вавилонских (халдейских) мудрецов, с которыми имел возможность познакомиться, путешествуя по Египту.
Все только что сказанное снова приводит нас к обсуждению вопроса о количестве информации. Мы угадывали числа, и количество информации вроде бы зависело (во всяком случае, читатель мог прийти к такому заключению) от величины интервала, в пределах которого происходит угадывание. Всякий физический эксперимент также представляет собой своеобразное угадывание некоторого числа. Однако, как мы только что говорили, в процессе эксперимента получается лишь ответ «да» или «нет» на вопрос, заданный естествоиспытателем.Впервые мера количества информации была предложена американским инженером Р. Хартли в 1927 году. Он рассуждал так. Всякое поступающее к нам сообщение выбирается из некоторого конечного набора. Чем богаче такой набор, тем труднее угадать, какое именно сообщение будет получено. Следовательно, тем больше информации оно несет с собой. Значит, количество информации должно зависеть от количества сообщений в исходном наборе.Проще всего было бы приравнять количество информации полному количеству сообщений в исходном наборе. Но здесь существует одна трудность. Пусть имеются два набора, каждый из которых содержит, скажем, но десять сообщений. Можно представить себе сложное сообщение, составленное из двух — по одному из каждого набора. Всего их можно образовать сто штук. Вот и получается, что если принять за меру количества информации количество сообщений в исходном наборе, то каждое из них, взятое из первого набора, будет содержать десять единиц информации, взятое из второго набора, — тоже десять. А сложное сообщение, составленное из двух простых, будет содержать не двадцать, как естественнее всего было бы ожидать, а сто единиц информации.Чтобы избежать этой трудности, Р. Хартли предложил брать в качестве меры количества информации не количество сообщений в исходном наборе, а двоичный логарифм этого количества. Легко показать, что в этом случае количество информации, переносимое сложным сообщением, окажется в точности равным сумме количеств информации, содержащихся в составляющих его простых.Возвращаясь к нашему примеру с угадыванием чисел, подсчитаем, чему равно количество информации по Хартли, содержащейся в одном угаданном числе, взятом в интервале от нуля до тысячи. Исходный набор содержит здесь тысячу возможных сообщений. Двоичный логарифм тысячи примерно равен десяти. Следовательно, меры Хартли и Колмогорова в, этом случае совпадают.Главная заслуга Р. Хартли состоит в том, что, он впервые связал понятие о количестве информации с понятием многообразия (количество сообщений в исходном наборе)., Второе важное положение теории Хартли состоит в том, что процесс получения информации рассматривается как выбор одного элемента из некоторого множества. Если исходное множество содержит только один элемент, выбирать не из чего и количество информации равно нулю. Тут снова оправдывается использование логарифма, поскольку логарифм единицы всегда нуль.Наконец, важнейшее положение теории Хартли состоит в том, что количество информации в ней целиком определяется свойствами источника и никак не зависит от свойств получателя. В теории Хартли роль получателя информации совершенно пассивна. Он лишь воспринимает сообщения, которые кто-то (отправитель, автомат, природа) выбирает из наперед заданного набора. Наоборот, в теории Колмогорова получателю отводится основная, активная роль. Это он задает вопросы. Ясно, что количество вопросов, необходимое для угадывания, зависит от того, насколько удачно они поставлены.Однако возможен принципиально иной подход к решению вопроса о количестве информации. Если предложить какому-либо человеку (при этом он не должен быть профессионалом математиком и, кроме того, не следует заранее вводить его в курс дела) выбрать наугад число из интервала от нуля до тысячи, он почти наверняка не загадает единицу или девятьсот девяносто девять. Напротив, в большинстве случаев загаданное число будет расположено где-то недалеко от середины интервала. В чем состоят психологические особенности загадывания чисел, мы не знаем (интуиция?), но каждый из читателей может легко убедиться в справедливости сказанного, предложив загадывать числа нескольким своим приятелям. Для этого не надо даже брать большие интервалы. Вполне достаточно, скажем, загадывать числа из интервала от нуля до десяти.С учетом этих соображений стратегию отгадывания можно построить следующим образом. Будем предполагать, что загаданное число почти наверняка не находится в интервалах от нуля до двухсот пятидесяти шести и от семисот шестидесяти восьми до тысячи. Попытаемся отгадать его, исходя из предположения, что оно заключено в интервале от 256 до 768. Далее используем уже известную стратегию деления пополам. Первый вопрос тот же самый:— Задуманное вами число больше 512?Однако второй вопрос уже будет сформулирован иначе. Если ответ на первый вопрос был положительным, то следующим мы зададим вопрос:— Задуманное вами число больше 640? (640 — половина интервала между 513 и 768.)Если же ответ на первый вопрос был отрицательным, то следующий вопрос будет звучать так:— Задуманное вами число больше 384? (384 — половина интервала между 257 и 512.)Легко подсчитать, что подобная стратегия позволяет отгадать число не более чем за девять вопросов, если, конечно, загаданное число взято из интервала от 256 до 768. Ну а если это не так?Тогда мы все равно отгадаем число. Но потратить придется больше, чем десять вопросов. Можно показать, что если все время придерживаться гипотезы об интервале, из которого выбрано загаданное число, и отказаться от нее лишь тогда, когда будет доказано, что она несправедлива (для этого тоже потребуется девять вопросов), то общее количество вопросов в этом случае будет семнадцать. Все дело в том, как часто принятая гипотеза будет оказываться несправедливой.Предположим, что мы только тем и занимаемся, что отгадываем числа. Предположим далее, что, как и считалось с самого начала, в подавляющем большинстве, например в 96 случаях из ста, загаданное число оказывается в пределах интервала от 256 до 768 и, следовательно, может быть отгадано за девять вопросов. Лишь в четырех случаях из ста загаданное число окажется вне этого интервала, и на его отгадывание затрачивается 17 вопросов. Среднее число вопросов будет, очевидно, равно 9,32, то есть меньше десяти.Значит, если строить стратегию отгадывания с учетом психологии своих приятелей, а проще говоря, с учетом вероятности нахождения загадываемого числа в пределах того или иного интервала, то среднее количество задаваемых вопросов окажется меньше, чем в том случае, когда стратегия отгадывания строится с учетом равной вероятности нахождения числа в любом месте исходного интервала. Меньше, даже, несмотря на то, что в отдельных случаях количество задаваемых вопросов будет значительно больше среднего. Переходя к терминологии, принятой в теории Хартли, можно сказать, что в последнем случае стратегия отгадывания строится с учетом распределения вероятности, заданного на исходном наборе чисел, или, как мы будем дальше говорить, на исходном многообразии.Здесь имеет смысл сказать несколько слов об интуиции. Что, например, следует думать о человеке, который отгадал число с первой попытки? Можно ли считать, что он проявил интуицию? Все только что проведенные рассуждения говорят, что это не так. Любое суждение как о процессе отгадывания, так и о свойствах отгадывающего, можно выносить лишь на основе подсчета среднего количества сделанных попыток. Мы еще вернемся к этому вопросу в главе третьей.Американский математик К. Шеннон в 1949 году предложил использовать в качестве меры количества информации как раз величину среднего количества вопросов, необходимого для отгадывания при использовании соответствующей стратегии. В теории Шеннона так же, как и в теории Хартли, предполагается, что сообщения поставляются (генерируются некоторым источником, который выбирает их из конечного наперед заданного набора сообщений. За количество информации, содержащейся в одном сообщении, принимается среднее значение логарифма от вероятности этого сообщения, взятое со знаком «минус». На первый взгляд представляется, что такое определение не имеет ничего общего со всем, что говорилось ранее. Однако можно убедиться, что это не так.Достаточно лишь вспомнить, что если все сообщения равновероятны, то вероятность получения одного из них равна единице, деленной на общее число сообщений и наборе. А логарифм обратной величины равен взятому со знаком «минус» логарифму от этой величины. Следовательно, в случае равновероятности всех сообщений количество информации по Шеннону совпадает с количеством информации по Хартли, а это последнее, в свою очередь, как было показано выше, совпадает, во всяком случае для примера с отгадыванием чисел, с количеством информации по Колмогорову.Другая, крайность имеет место тогда, когда вероятность появления одного из сообщений в- наборе равна единице, а всех остальных —соответственно нулю. Можно считать, что набор состоит из одного-единственного сообщения, поскольку все остальные в течение любого разумного интервала времени все равно не будут получены. Логарифм единицы равен нулю, поэтому, по Шеннону, количество информации, переносимой сообщением, вероятность появления которого равна единице, равно нулю. Тот же результат мы получаем, применяя меру Хартли к набору, состоящему из одного-едннственного сообщения. Наконец, ясно, что, если ваш приятель всегда загадывает одно и то же число, угадать его можно, не задавая никаких вопросов.Итак, мы установили, что в двух, как говорят, экстремальных случаях применение мер Хартли, Шеннона и Колмогорова дает одно и то же количество информации. Можно показать, что для неравновероятных сообщений количество информации, по Шеннону, будет всегда меньше максимально возможного, получаемого для равновероятных сообщений. В этом и состоит основное отличие теории Шеннона от теории Хартли. Теперь мы знаем, что существует по меньшей мере три различные меры количества информации. То, что их три, а также и то, что вообще-то говоря, не существует четкого рецепта, когда какой пользоваться, как раз и свидетельствует о незавершенности современной теории информации.Еще, один вопрос требует немедленного ответа. Каждая из трех рассмотренных нами мер предусматривает наличие источника, причем такого, который содержит лишь конечное число сообщений. А как быть в случае источника с бесконечным разнообразием сообщений?Чтобы мы могли свободно рассуждать в дальнейшем, необходимо доказать, что в природе не может существовать источник, располагающий бесконечным разнообразием сообщений (для искусственных источников это утверждение не требует доказательства). Посмотрим, что происходит, когда источником сообщений является сама природа, а точнее, некоторая определенная система конечных размеров, наблюдаемая нами в течение конечного интервала времени.Такая система может что-то сообщать лишь о своем собственном внутреннем состоянии. Согласно принципу неточностей Гейзенберга состояние физической системы может быть воспринято лишь с некоторой ошибкой (неточностью), причем эта неточность не может быть меньше определенной величины. Значит, любые два состояния системы могут отличаться друг от друга только в том случае, если они разделены некоторым конечным интервалом. В любой реальной системе описывающие ее физические величины не могут принимать бесконечные значения. Отсюда следует, что число различимых состояний любой ограниченной физической системы всегда конечно.Пусть, например, мы судим о состояниях системы по ее массе, а массу определяем с помощью весов со шкалой и стрелкой. Поскольку стрелка всегда имеет конечную ширину, невозможно измерить массу (произвести взвешивание) с точностью большей, чем, скажем, 1 грамм. Если мы знаем к тому же, что масса системы не более 1 килограмма, то не может быть более тысячи отличающихся друг от друга результатов взвешивания. Итак, наша предпосылка о конечности числа различных сообщений в источнике не снижает, как говорят, общности рассуждений.
Один из важнейших вопросов, до сих пор до конца не решенный современной наукой, — это вопрос о причине движения. Мир материален, и заполняющая его материя находится в непрерывном движении — эта истина в настоящее время практически ни у кого не вымывает, сомнений. Но почему в движении? Что является причиной движения? Такие вопросы задавали себе еще древнегреческие ученые.Фалес из Милета считал, что всему причиной демоны. Все полно демонов, утверждал Фалес. По Гераклиту, единственной стихией, из которой все возникает п в которую все разрешается, является огонь (энергия?), который есть не что иное, как процесс горения. Огонь вечно подвижен и все движет. Он не только изменяется, но и сам все изменяет, сходит с неба и восходит к небу, угасая и воспламеняясь:«Итак, все изменяется, все течет и горит, но всякое изменение есть переход от чего-либо одного к чему-либо другому, причем второй момент вытесняет первый и постольку отрицает его собою; процесс явлений, в своем вечном круговороте, обусловлен вечной борьбой и враждою всего сущего. Все состоит из противоположностей, борющихся и переходящих друг в друга в живой стихии горенья. Единое согласуется с собою в вечном противоречии, и гармония мироздания вытекает из сочетания противоположных колебаний».Наконец, уже упоминавшийся Демокрит считал, что причина движения очень проста — все состоит из атомов, и эти атомы непрерывно движутся вниз (?!). Просто вниз, и все. Вопрос о причине движения имеет прямое отношение к другим вопросам, которые будут рассмотрены в этой книге. Скажем больше — это один из основных вопросов естествознания.В. Нернст, автор так называемого третьего начала термодинамики, имел небольшую собственную ферму. Однажды его спросили:— Почему бы вам не завести на ферме несколько десятков кур или хотя бы несколько овец?— Я не идиот, — ответил В. Нернст. — Разводить теплокровных животных — это все равно что за свой счет отапливать вселенную.Девятнадцатый век можно назвать веком зарождающейся энергетики. К середине его ученым стали окончательно ясны две вещи: во-первых, то, что энергия не может взяться ниоткуда или исчезнуть бесследно, она лишь непрерывно переходит из одной формы в другую, во-вторых, то, что различные формы энергии отличаются друг от друга по качеству. Самая «плохая» энергия — тепловая, лучше ее – механическая, формы энергии высшего качества — это энергия электрическая и энергия химическая. Переходы энергии из формы высшего качества в форму низшего качества наблюдаются в природе повсеместно. Наоборот, случаи перехода от формы низшего качества к форме высшего качества наблюдаются относительно редко. Кроме того, как правило, только часть запасов энергии низшего качества может преобразоваться в форму более высокого качества. Эта часть определяется: величиной, называемой коэффициентом полезного действия (КПД).Энергия высшего качества — это такая энергия, которая целиком может перейти в энергию более низкого качества. Пусть, например, в аккумуляторе запасен один джоуль электрической энергии. Этот джоуль можно целиком преобразовать в тепло. Наоборот, если мы вращаем электрический генератор с целью преобразовать механическую энергию в электрическую, то лишь часть имеющегося у нас запаса механической энергии перейдет в электрическую, а другая часть этого запаса преобразуется опять же в тепло (нагревание подшипников и обмотки). Следовательно, механическая энергия по качеству хуже, чем электрическая. Повторяем, все это было известно уже к середине XIX века. Однако и в наши дни мало кто может ответить на вопрос: почему, к примеру, тепловая энергия хуже механической?Попробуем: хотя бы, поискать пути к ответу на этот вопрос и для этого рассмотрим принцип действия какого-нибудь преобразователя тепловой энергии в механическую, например принцип действия паровой машины. Первые паровые машины представляли собой устройства, весьма сложные в обращении. Работала машина примерно так. Человек открывал кран, в цилиндр, в пространство под поршнем, поступал пар из котла. Поршень постепенно выдвигался. Когда поршень доходил до упора, кран в трубе, подводящей пар, закрывали, а цилиндр обливали холодной водой, Пар в цилиндре конденсировался, превращался в воду, и под действием атмосферного давления поршень вдвигался внутрь цилиндра. Через специальный кран из цилиндра спускали воду, в которую превратился пар, затем снова наполняли цилиндр паром и т. д. Как видите, человеку, обслуживающему такую паровую машину, скучать было некогда.Современная паровая машина отличается от только что описанной лишь тем, что цилиндр не обливают холодной водой, а просто выпускают из него отработавший пар. Система клапанов оказывается еще более сложной и оформляется в виде так называемого золотника. Золотник автоматически перемещается в соответствии с перемещениями поршня.Посмотрим теперь, в чем состояла основная функция человека, обслуживавшего первые паровые машины. Она состояла не в том, чтобы просто открывать и закрывать краны, а в том, чтобы делать это в строго определенные моменты времени. Именно тогда, когда поршень достигал наивысшей или наинизшей точки. Человек получал информацию о положении поршня, должным образом перерабатывал ее и затем использовал для управления состояниями кранов. В современной паровой машине задачи получения и преобразования информации решаются с помощью кривошипа и штока золотника.Возможно, кто-то из читателей захочет возразить нам, сославшись на то, что, например, в паровой турбине нет ни золотников, ни штоков и тем не менее задача преобразования тепловой энергии в механическую решается в турбине ничуть не хуже, а может быть, даже лучше, чем в паровой машине с цилиндром и поршнем. Штоков и золотников в паровой турбине действительно нет. И все же в ней выполняются все те же операции, что и в поршневой машине. Просто паровая турбина представляет собой удачную и остроумную конструкцию, где один и тот же рабочий орган — лопатка — выполняет функции и поршня, когда паровая струя ударяется именно в данную лопатку, и клапана, когда очередная лопатка принимает давление струи пара на себя и закрывает тем самым от воздействия пара лопатку, которая работала непосредственно перед этим. Расположение лопаток на колесе выбирается таким, чтобы переход действия струи пара с одной лопатки на другую совершался в тот момент, когда использование предыдущей лопатки становится далее неэффективным. В турбине получается и преобразуется ровно такое же количество информации, что и в поршневой машине, Просто функции получения и преобразования информации реализуются тем же самым колесом. Все сказанное справедливо также для двигателей внутреннего сгорания (дизельных и карбюраторных) и газовых турбин.
По соображениям, которые станут ясны лишь по прочтении последующих глав, можно утверждать, что весьма высоким качеством (правда, не самым высоким) обладает энергия лазерного луча. Принцип действия лазера (его мы рассмотрим в дальнейшем) связан с достаточно сложными процессами получения и преобразования информации.При работе любого преобразователя тепловой энергии в механическую исходный запас тепловой энергии затрачивается на совершение механической работы.Спрашивается, куда затрачивается информация? Все сказанное приводит нас к единственному возможному ответу. Получение энергии более высокого качества из энергии более низкого качества возможно лишь в системе, в которой происходят процессы получения и преобразования информации (одним словом, можно сказать, процессы управления). А значит, можно считать, что качество энергии определяется количеством информации, затраченной при ее получении. Короче говоря, качество энергии есть не что иное, как ее информативность.Конечно, подобное утверждение звучит пока что достаточно голословно. Одна из целей нашей книги состоит в том, чтобы показать, что так оно и есть на самом деле. Это можно только показать, но не доказать, поскольку, как уже не раз отмечалось, сама теория информации является к настоящему времени незавершенной отраслью в науке.
К середине XIX века считалось, что причина движения найдена и получила свое название — это энергия. Энергия есть способность материальной системы совершать работу. Энергия не может взяться из ничего и не может исчезнуть. Этот закон, ставший краеугольным камнем здания классической физики, был открыт еще в XVIII веке великим М. Ломоносовым.Во вселенной разлит определенный запас энергии (все полно демонов?). Каждая материальная система также обладает некоторым запасом энергии. Обладать запасом энергии значит быть способным совершать работу, в частности, двигаться. Энергия может переходить из одной формы в другую. Уже известны такие формы, как механическая, химическая, электрическая. Но главная форма энергии, конечно же, тепловая. Именно в этой форме постоянно, бесплатно и в огромных количествах поставляет энергию Солнце. К тому же век пара и электричества — это в первую очередь век паровых машин или, как их вежливо называют в учебниках физики, тепловых двигателей.Казалось бы, все ясно. Но не тут-то было! Энергия обусловливает способность материальной системы совершать движения, это верно. Но энергия не есть причина этих движений. Вот на вершине горы лежит камень. Этот камень обладает потенциальной энергией. Чем тяжелее камень и чем выше гора, тем больше запас потенциальной энергии. Но этот камень почему-то не падает вниз. А другой камень, может быть, даже меньших размеров и, соответственно, с меньшим запасом потенциальной энергии, вдруг покатился вниз, да еще увлек за собой целую лавину камней.Так в чем же причина движения? Вопрос этот мучил многих. Размышлял над ним и немецкий ученый Р. Клаузиус. Всем, кто строил и исследовал тепловые двигатели, был хорошо известен следующий факт. Тепло охотно переходит от нагретого тела к холодному и никогда не переходит в обратном направлении. Если в стакан, налитый до половины холодной водой, долить кипятку, кипяток и холодная вода перемешаются и вся вода в стакане постепенно приобретет одинаковую температуру. При переходе тепла от нагретого тела к холодному может быть совершена работа. Наоборот, если имеются два тела с одной и той же температурой, то нагреть одно из них и охладить другое можно, только затратив определенное количество работы.Заинтересовавшись этими фактами, Р. Клаузиус заметил и нечто другое. Тепловую энергию можно преобразовать в механическую, электрическую или химическую. При этом на единицу затраченной тепловой энергии будет получена в точности единица энергии другого вида — никаких потерь здесь не происходит. Но если снабдить некоторую материальную систему запасом, скажем, химической или электрической энергии и затем предоставить эту систему самой себе, то в ней начнутся различные, подчас очень сложные преобразования и в конце концов, если не вся, то большая часть электрической или химической энергии перейдет в тепловую.Подметил Р. Клаузиус и многое другое. Высокие остроконечные горы постепенно, хотя для этого требуются целые геологические периоды, осыпаются, становятся более пологими. Ущелья, напротив, заполняются осадочными породами. Реки мельчают, заболачиваются. Извилистые русла рек постепенно спрямляются. Какой бы прочный дом вы ни построили, он постепенно разрушится. Создается впечатление, что все процессы в природе каким-то образом направлены.Р. Клаузиус ввел новую физическую величину, чтобы как-то оценить подобные преобразования, и назвал ее энтропией. Для всякой материальной системы энтропия — это мера близости системы к состоянию равновесия. Если система находится в состоянии равновесия, в ней невозможно движение, а энтропия ее максимальна. Например, если в некотором сосуде заключена жидкость и в любой точке внутри сосуда температура этой жидкости одна и та же, то, как уже говорилось, тепло не сможет переходить из одной области сосуда в другую. Работа внутри такого сосуда, обусловленная тепловыми процессами, совершаться не может, а энтропия системы «сосуд с жидкостью» будет максимальной.Повторим еще раз, потому что это очень важно. Пусть имеется материальная система, обладающая любым сколь угодно большим запасом Энергии и не взаимодействующая с другими системами. Если, однако, энтропия этой системы равна своему максимально возможному для данной системы значению, никакая работа внутри системы совершаться не может. Иначе говоря, если в данной системе вообще возможны некие процессы, которые мы определяем как процессы преобразования, или эволюции, то они неизбежно заканчиваются при достижении энтропией своего максимально возможного значения.И наоборот, пусть некая материальная система характеризуется некоторым значением энтропии, не равным максимально возможному для этой системы значению. Величина, показывающая, сколько не хватает до максимально возможного значения энтропии, и есть в определенном смысле мера способности системы совершать внутри себя работу. С другой стороны, эта величина равна разности между некоторым постоянным значением энтропии (для данной системы) минус реальное значение энтропии. Можно условиться принимать постоянную за начало отсчета, то есть за нуль. Тогда мера способности системы совершать работу будет представлять собой реальное значение энтропии, взятое со знаком «минус». Мы просим читателя как следует запомнить только что сказанное. В дальнейшем нам удастся прийти к довольно неожиданному выводу.Первоначально энтропию определяли для тепловых систем, причем полагали, что изменение энтропии пропорционально изменению количества тепла при данной температуре. Тот факт, что тепло всегда переходит только от более нагретого тела к менее нагретому, теперь можно сформулировать иначе: все самопроизвольные процессы в тепловых системах происходят всегда в сторону возрастания энтропии. Это утверждение, впервые высказанное Р. Клаузиусом, получило название второго начала термодинамики в отличие от первого начала — закона сохранения энергии, гласящего, что энергия не может возникнуть из ничего или исчезнуть бесследно.Уже отмечавшиеся нами наблюдения, а также многие-многие другие привели к выводу, что область действия второго начала термодинамики отнюдь не ограничивается тепловыми двигателями. Стало ясно, что так же, как и закон сохранения энергии, второе начало термодинамики или, как его иначе называют, закон неубывания энтропии, является фундаментальным физическим законом, справедливым для всех без исключения материальных систем.Размышления над вторым началом термодинамики привели к довольно жуткой картине — так называемой тепловой смерти вселенной. Действительно, раз тепло всегда переходит лишь от более нагретого тела к более холодному, рано или поздно во всей вселенной должна установиться одна и та же температура — звезды погаснут, а планеты нагреются, прекратятся все процессы и, конечно, жизнь во всех ее проявлениях. И что самое обидное, общего количества энергии, то есть способности совершать работу, в такой уравновешенной вселенной будет ровно столько же, сколько сейчас или, скажем, несколько миллиардов лет тому назад. Способность к движению сохранится, а вот причина, побуждающая систему к движению, исчезнет. К счастью, на самом деле все обстоит не так трагично. Правда, доберемся мы до объяснения истинного положения вещей лишь к самому концу книги.Пока что нам стало ясно одно: причина движения, которую тщетно искали ученые, начиная с самых древних времен, найдена, Современная наука утверждает: причина движения суть физическая величина, получившая название энтропии и взятая с обратным знаком. Чем дальше система от состояния равновесия, чем меньше истинное значение энтропии по сравнению с максимально возможным — тем больше движения может совершиться в такой системе.Правда, здесь снова возникает вопрос. Многочисленные адепты самых разнообразных религий также претендовали на то, что они знают, в чем причина движения. Эту причину они усматривали, смотря по вкусу, в божестве, божествах, демонах, вселенской идее или вселенском разуме, как у Аристотеля и Платона. В конце концов бог или демон — это всего лишь слова. Может быть, и энтропия — всего лишь слово, пришедшее на смену устаревшему и мало убедительному понятию вселенского разума?Нет, это не так. Оказывается, отталкиваясь от первого и второго начал термодинамики, чисто формально производя одни лишь математические преобразования, можно вывести практически все законы классической физики. История физики знает и весьма яркие примеры использования закона неубывания энтропии в достаточно далеких на первый взгляд областях. Всем известно, например, что М. Планк открыл свой знаменитый закон квантования энергии, положивший начало квантовой физике, и ввел новую фундаментальную физическую константу — постоянную Планка, — исследуя процессы излучения черного тела. Однако мало кто знает, что М. Планк проделал все это, рассуждая о том, как возрастает энтропия в системе, состоящей из черного тела и излучателей энергии. Так что понятие энтропии и закон, которому подчиняется эта физическая величина, позволяют не только объяснить уже известные физикам явления, но и предсказать новые, которые действительно затем обнаруживаются в природе. А это и есть лучшее доказательство справедливости физических утверждений.Универсальность понятия энтропии потребовала и другого определения, более общего, чем определение через количество тепла и температуру. Развитие статистической физики позволило очень быстро найти такое определение. Величину энтропии, характеризующую данное состояние материальной системы, стали определять как логарифм вероятности для системы принять это состояние.Произнеся слово «вероятность», мы не можем не высказать здесь ряд дополнительных соображений. В природе совершаются события, о которых принципиально можно узнать лишь очень немногое. Например, вся мощь современной науки и техники не позволяет определить точку, в которую попадет артиллерийский снаряд после выстрела. Можно лишь приближенно указать некую площадь земной поверхности, в пределах которой заключена эта точка. С другой стороны, имеется возможность с достаточной степенью точности предсказать, как будет выглядеть эта площадь после, скажем, ста выстрелов, произведенных без изменения прицела. Выполнить это нам помогает наука — теория вероятностей. А с точки зрения информации можно отметить, что в определенных условиях наше знание о явлениях природы приобретает довольно своеобразную форму: почти ничего не зная об отдельных явлениях, мы можем знать достаточно много о массе таких явлений, если они совершаются в неизменяющихся условиях.Эта книга посвящена информации, ее свойствам и связанным с нею закономерностям. Во второй половине XX века получила бурное развитие техника переработки информации. Мы не станем затрагивать здесь вопросы этой переработки, поскольку даже самое поверхностное их рассмотрение требует отдельной книги. Наша задача состоит в другом: вскрыть единство информационных процессов, совершающихся в самых различных искусственных и естественных системах. Подобные процессы, как правило, оказываются заложенными в самой основе физических явлений. Поэтому читателя не должно смущать, что подчас мы не будем достаточно долго произносить слово «информация».Мы намерены показать, что, казалось бы, совершенно бессмысленная игра в вопросы и ответы, которой мы отвели столько места в начале главы, имеет самое непосредственное отношение не только к принципу действия тепловых двигателей, но и к описанию процессов, происходящих, например, в столь экзотических астрономических объектах, как черные дыры. Однако все это потребует от читателя соответствующей подготовки.В этой главе мы еще почти ничего не сказали ни об информации, ни об интуиции. Задача здесь состояла в том, чтобы ввести читателя в круг понятий, с которыми мы будем иметь дело в дальнейшем. И все же было сделано одно утверждение, проливающее уже достаточно яркий свет на природу информации: качество энергии, сказали мы, определяется ее информативностью.
