Подобным образом, сохраненная информация может преподнести опыт, если ее побудить на это определенным действием. Файл на жестком диске действительно содержит объективно существующую информацию. Тот факт, что биты различимы, а не перемешаны в кучу — подобно тому как жар сплавляет предметы, — и делает их битами.

Но биты потенциально могут для кого-то что-то означать лишь в том случае, если с ними что-то делают. Когда это случается, между хранителем и получателем битов действует общность культуры. Опыт — вот единственный процесс, способный открыть информацию.

Та разновидность информации, которая, как говорят, стремится к свободе, есть не что иное, как отражение нашего разума, и сама по себе она не может ничего хотеть и никуда стремиться. Ей не станет хуже, если она не получит того, что хочет.

Но если вы намерены отойти от старой религии с ее надеждой на то, что Господь дарует бессмертие в другой жизни, к новой, где вы мечтаете стать бессмертным, загрузившись в компьютер, то вам просто необходимо верить в то, что информация реальна и жива. Тогда для вас будет важно изменить человеческие институты — искусство, экономику и право, чтобы позволить укрепить представление об одушевленности информации. Вы требуете, чтобы остальные жили в рамках вашей новой концепции государственной религии. Вам нужно, чтобы мы обожествили информацию и укрепили вашу веру.

Это заблуждение, имеющее примечательные истоки. Его сформулировал Алан Тюринг незадолго до того, как покончил с собой.

В научных кругах самоубийство Тюринга — щекотливая тема. Об этом избегают говорить, поскольку мы не хотим, чтобы один из отцов-основателей выглядел как герой таблоидов и чтобы необычные обстоятельства его смерти затмевали память о нем.

Наследие Тюринга-математика превыше любых сенсаций. Его вклад поистине элегантен и фундаментален. С его помощью были сделаны огромные скачки в развитии, в том числе, математических основ цифровых вычислений. Высшая награда в области информатики, наша Нобелевская премия, названа в его честь.

Однако также необходимо признать Тюринга и культурной фигурой. Прежде всего надо понимать, что он был одним из величайших героев Второй мировой войны. Он был первым хакером — человеком, использовавшим компьютер для взлома систем безопасности врага. Например, он применил один из первых компьютеров для взлома нацистского шифра «Энигма», который математики считали неприступным. Сами нацисты декодировали «Энигму» с помощью механического устройства размером с сигарную коробку. Тюринг взломал шифр, преобразовав его в последовательность битов, которую можно было проанализировать с помощью компьютера. Кто знает, в каком мире мы бы сейчас жили, если бы Тюрингу не удалось взломать «Энигму»?

Второе, что надо знать о Тюринге, — он был геем в те времена, когда это было противозаконно. Британские власти, полагая, что совершают очень благородное дело, принудили его пройти шарлатанские медицинские процедуры, которые предположительно должны были скорректировать его гомосексуальность. Странно, но они заключались во введении больших доз женских гормонов.

Чтобы понять, как они додумались до такого плана, стоит вспомнить, что до того, как появились компьютеры, широко распространенной метафорой понимания природы человека был паровой двигатель. Сексуальное давление нарастало и приводило к поломке машины, поэтому противоположная сущность, женского рода, должна была сбалансировать механизм и снизить давление. Пусть эта история послужит предостережением. Всеобщее использование компьютеров, как мы их понимаем сегодня, в качестве источника моделей и метафор нас самих, по-видимому, настолько же оправданно, как и использование для этих целей парового двигателя годы назад.

У Тюринга выросла грудь и появились другие женские признаки, а также развилась тяжелейшая депрессия. Он покончил с собой, пропитав яблоко цианидом и съев его в своей лаборатории. Незадолго до смерти он опубликовал духовный текст, который нужно оценивать отдельно от его технических достижений. Это знаменитый тест Тюринга. По-настоящему новые духовные идеи появляются крайне редко, и то, что Тюринг сформулировал ее, — еще один пример его гения.

Тюринг представил идею в виде мысленного эксперимента, основанного на популярной викторианской салонной игре. Мужчина и женщина прятались, а арбитр должен был определить, кто есть кто, основываясь только на текстах передаваемых записок.

Тюринг заменил женщину компьютером. Сможет ли арбитр определить, где человек (мужчина)? Если нет, то имеет ли компьютер сознание? Разум? Заслуживает ли он равных прав с человеком?

Мы не можем знать, какую роль сыграла пытка, которой Тюринг подвергался, когда работал над этим текстом. Но невозможно отрицать, что одного из людей, сыгравших ключевую роль в разгроме фашизма, после окончания войны уничтожили мы сами, и лишь потому, что он был геем.

Неудивительно, что в своем воображении он задавался вопросами прав странных существ.

Ко времени смерти Тюринга программное обеспечение находилось в столь ранней стадии развития, что никто не мог себе представить, каким запутанным оно станет в будущем. Тюринг придумал чистую, кристаллизованную форму существования в цифровом мире, и, думаю, было облегчением представить себе форму жизни, отдельную от страданий плоти и политики сексуальности. Примечательно, что компьютером ученый заменил именно женщину и что самоубийство Тюринга повторило падение Евы.

Каковы бы ни были мотивы, Тюринг придумал первую метафору, поддерживающую идею того, что биты могут жить своей жизнью, независимой от людей-наблюдателей. Эта идея с тех пор появлялась тысячи раз, от искусственного интеллекта до коллективного разума, не говоря уже о множестве раздутых стартапов Кремниевой долины.

Однако мне кажется, что тест Тюринга не совсем верно интерпретировался поколениями технологов. Обычно его приводят в защиту тезиса, что машины могут достичь того, что у людей называется разумом. В конце концов, если машина заставила вас поверить, что она разумна, утверждать после этого обратное было бы проявлением фанатизма.

Даже если Тюринг надеялся на что-то другое, на самом деле тест говорит только о том, что разумность машины можно оценить лишь относительно, глазами человека-наблюдателя. [9]

В этой книге я критикую способ мышления, аналогичный искусственному интеллекту. Если машина может быть разумна, то вычислительное облако будет лучшим и гораздо более мощным разумом, чем разум отдельного человека. Если вы в это верите, то работа на благо вычислительного облака, а не отдельного человека ставит вас на сторону ангелов.

Но тест Тюринга работает в обе стороны. Вы не можете сказать, это машина стала умнее или вы снизили собственные стандарты понятия «разумный» до такой степени, что машина кажется умной. Если вы способны разговаривать с персонажем, представленным программой искусственного интеллекта, можете ли вы определить степень деградации вашего чувства личности, необходимую, чтобы иллюзия работала на вас?

Чтобы машины все время казались умными, люди сознательно деградируют. До кризиса банкиры верили в якобы умные алгоритмы, способные просчитать кредитные риски прежде, чем выдавать плохие кредиты. Мы требуем от педагогов обучения прохождению стандартизованных тестов, чтобы ученики хорошо выглядели с точки зрения алгоритма. Мы неоднократно демонстрировали беспредельную способность нашего вида снижать стандарты, чтобы информационные технологии выглядели хорошо. Каждое проявление разума в машине двусмысленно.

Та же двусмысленность, которая в прошлом послужила мотивом создания сомнительных проектов в области искусственного интеллекта, сегодня преподносится в виде массовой культуры. Действительно ли поисковик знал, что вам нужно, или вы подыгрываете, снижая стандарты, чтобы он казался умным? Хотя совершенно естественно ожидать, что восприятие человека будет меняться в результате взаимодействия с новыми технологиями: чтобы человек рассматривал разум машины как реальный, требуется ослабить собственную связь с реальностью.