Холмогоров приравнял сложность к случайности, а, следовательно, и сложность к информации. Это не самая лучшая идея, так как благодаря ей обезьяна, с сумасшедшим усердием барабанящая по клавишам, порождает больше сложности, чем творения Иоганна Себастьяна Баха.

Таким образом, с сложностью Холмогорова что-то было явно не так.

Но в то же время эта мера является самой привычной. И потому в 1986 году возникла проблема. «Интуитивное представление о сложности структуры не совпадает с единственным объективным определением сложности любой специфической структуры, которое видится возможным (имеется в виду определение Холмогорова)», — объясняет Грассбергер. — Это загадка, известная уже в течение определенного времени, хотя создается впечатление, что в печатном виде она появилась только недавно».

Бернардо Хуберман и Тад Хорр, ученые в исследовательском центре Rank Xerox, Пало Альто, Калифорния, в 1985 году указали, что сложность должна лежать где-то между порядком и беспорядком, и, следовательно, ее невозможно измерить в качестве алгоритмической сложности информации. Они предложили другой способ измерения сложности, который предполагал, что она является наибольшей в системах, в которых не слишком много и не слишком мало порядка.

Грассбергер позже осознал, что подход Хубермана и Хогга был не нов: еще в 1962 году его выразил Херберт А. Саймон, один из основателей исследований искусственного интеллекта.

Тем не менее нам не придется возвращаться во времени дальше 1986 года за тем, что ведущий международный физик вроде Питера Грассберга признал полной новинкой предположение о том, что сложность лежит между порядком и хаосом и что она довольно существенно отличается от случайности, которая измеряется информацией Шеннона.

Тем не менее перед тем, как лекция 1986 года была напечатана, Грассбергер, один из самых благородных представителей физики, демонстрировавший вежливость и скромность, в доказательной части прибавил извинения: «В то время, когда я писал это, к сожалению, я не был знаком с понятием С.Х. Беннетта о «логической глубине».

А в предыдущем году произошел великий прорыв в изучении сложности.

«У меня есть критерий смысла», — робко высказался Чарльз Беннетт во время обеда в «Паскале» в Санта Фе в апреле 1990 года. Беннета и его близкого коллегу из IBM Рольфа Ландауэра попросили объяснить, что исследования вычислительной теории могли бы рассказать о нашей повседневной жизни.

«Серия подбрасываний монетки может иметь высокую информационную составляющую — но мало пользы. Эфемерида, дающая информацию о положении Луны и планет на каждый день в течение столетий, содержит не больше информации, чем уравнения движения и изначальные условия, на основе которых она была высчитана — но она позволяет владельцу не трудиться над тем, чтобы самому пересчитывать эти положения, — написал Чарльз Беннетт в 1985 году, когда представлял свои критерии смысла. — Ценность сообщения, таким образом, скорее всего, содержится не в его информации (его совершенно непредсказуемой части) и не в его очевидной избыточности (словесные повторения, неравная частота цифр), но скорее в том, что может быть названо его скрытой избыточностью — это части, которые можно считать предсказуемыми лишь с натяжкой. Другими словами, ценность сообщения представляет собой объем математической или другой работы, которая уже выполнена тем, кто его послал, который принимающей стороне не придется повторять».

Логическая глубина. Это название критерия Беннетта: логическая глубина сообщения — это мера его значения, его ценности. Чем больше сложностей у отправителя, тем больше логическая глубина сообщения. Чем больше «вычислительного времени» он потратил — с помощью своей головы или компьютера — тем большей будет ценность сообщения, так как в этом случае отправитель избавляет получателя от необходимости самому выполнять эту работу.

Больше или меньше времени придется в результате потратить — не столь важно (для любого, кроме телефонной компании). Важно то, сколько времени было потрачено на создание сообщения для передачи.

В 1985 году Беннет предположил, что сложность может быть измерена как логическая глубина. Она также может быть использована как критерий, с помощью которого мы сможем определить, сколько смысла содержится в сообщении. Сложность нужно измерять не продолжительностью сообщения, а той работой, которая предварительно была выполнена. Смысл не возникает из информации в сообщении — он возникает из информации, которая была отсеяна в процессе формулирования сообщения, которое имеет определенную информационную составляющую.

Важно не то, чтобы сказать, как можно больше. Смысл в объеме размышлений перед тем, чтобы что-то сказать.

«Если говорить неофициально, логическая глубина — это количество шагов дедукции, или причинная связь, которая соединяет вещь с ее вероятным источником», — пишет Беннет. Но можно дать и более точное определение.

Мы начинаем с алгоритмической информационной теории: сообщение можно сжать до самой возможной короткой формы, до самого короткого описания, которое позволит машине Тьюригна сформулировать сообщение. Самая короткая форма — это мера действительного количества информации, присутствующей в сообщении. Но машине Тьюринга потребуется определенное время, чтобы сформулировать само сообщение, базирующееся на самом коротком возможном описании. К примеру, когда законы, управляющие движением планет, нужно перевести в таблицу солнечных затмений. Сжатую информацию нужно распаковать. Это требует времени. Это время и будет измеряться как логическая глубина.

There is a bus every seven minutes. The buses depart from the bus station twelve minutes before they get to my bus stop. The first bus leaves at five. It is now half past six. When is the next bus? At 17:54.

Каждые 7 минут приходит автобус. Автобусы отъезжают со станции за 12 минут до того, как они доходят до моей остановки. Первый автобус отправляется в пять. Сейчас половина седьмого. Когда будет следующий автобус? В 17:34.

Информационная составляющая «17:34» не очень велика — сама по себе. Но время вычисления довольно значительно, особенно если я только выхожу из двери. Кто бы ни поработал уже над вычислением результата, может помочь, сообщив его другому человеку. Эта помощь сэкономит получателю определенное вычислительное время — она содержит смысл.

Логическая глубина — это мера процесса, который ведет к определенному количеству информации, а не к количеству информации, которая была произведена и может быть передана. Сложность, или смысл — это мера процесса производства, а не продукта, скорее рабочего времени, а не результата работы, информации, которая была отсеяна, а не оставшейся информации.

Понятие логической глубины, следовательно, будет перпендикулярно информационному содержанию. Все обладает номинальной стоимостью в отношении информационного содержания. Но номинальная стоимость не всегда может многое нам сообщить о глубине — насколько сложно было ее создавать.

За данным сообщением или продуктом может стоять огромное количество работы или мыслительных усилий. Тем не менее они могут оставаться незамеченными. Сложно заставить вещи выглядеть простыми. Ясность требует глубины.

С другой стороны, ерунда не отличается глубиной: вздор — это просто беспорядочная пустая болтовня, которая не может быть выражена более кратко, так как в ней нет порядка. Следовательно, не существует разницы между самой возможно короткой программой для его повторения и самим этим вздором. Так что не потребуется никакого вычислительного времени — только то время, которое потребуется, чтобы произнести этот вздор.

У обычного беспорядка тоже нет глубины, так как беспорядок нельзя описать короче, чем он сам себя описывает, просто будучи беспорядком.

Суть предложения Беннетта заключается в том, что любые осмысленные или сложные количества можно описать в более короткой форме, хотя это и необязательно: они могут быть сжаты в виде краткого рецепта.