Рассмотрим так называемый бред Капгра. Этим синдромом страдают пациенты, у которых повреждена зона мозга, соединяющая две другие зоны — кору височной доли, отвечающую за распознавание других людей, и лимбическую систему, в которой локализуются чувства и эмоции. Человек, у которого разовьётся бред Капгра, сможет узнавать знакомых людей, но не вспомнит, какая эмоциональная связь у него с ними была. (Противоположное расстройство называется прозопагнозия — утрачивается способность узнавать людей.)

Можно себе представить, что сделает с человеком такой синдром. Одна пациентка, миссис Д., заболела бредом Капгра в возрасте 74 лет. Видя мужа, она узнавала этого человека, у неё сохранились все ментальные ассоциации, свидетельствующие: «Это мой муж», но она больше не чувствовала к нему привязанности, только безразличие. Она знала, что должна что-то чувствовать к нему, поэтому мозг подсказал ей разумное объяснение подобной нестыковки: «На самом деле это не мой муж, а его двойник, как две капли воды похожий на него».

Случай миссис Д. не уникален. Известно много других пациентов, страдавших от каких-либо повреждений мозга, радикально сказывавшихся на их эмоциональном состоянии или личности. Вне всяких сомнений, это отнюдь не доказывает, что «разум» — это всего лишь способ рассуждения о том, что происходит в физическом мозге. Но, в сущности, это должно снижать для нас субъективную вероятность традиционного картезианского дуализма до минимального уровня.

Остаются два варианта: либо физикализм (весь мир, считая людей, имеет чисто физическую природу), либо какой-нибудь новомодный вариант некартезианского дуализма. Чтобы окончательным разобраться с этим вопросом, нужно более глубоко поразмыслить о том, что значит быть сознающим, чувствующим человеком.

Глава 39

Каково это — мыслить?

В романе Роберта Э. Хайнлайна «Луна жёстко стелет» колонисты-лунтики восстают против Главлуны. Их положение было бы практически безнадёжным, если бы не Майк — центральный компьютер, управлявший всеми основными автоматизированными процессами в большинстве лунных городов. Майк был не просто очень важной машиной — он совершенно спонтанно обрёл самосознание. Вот как это описывает рассказчик, Мануэль О’Келли Дэвис.

В мозгу у человека что-то около десяти в десятой нейронов. По третьему году в Майка нейристоров запичужили столько и ещё полстолько.

И он созрел.

Мануэль О’Келли Дэвис — наладчик компьютеров, не особенно задумывающийся о том, как у Майка пробудилось сознание и каковы глубинные причины этого. Совершается революция, она должна победить, а появление самосознания — вероятно, такая штука, которая всегда происходит с думающими устройствами, как только они становятся достаточно крупными и сложными.

Вероятно, в реальности всё несколько сложнее. В человеческом мозге много нейронов; но они не просто соединены как попало. У коннектомы есть структура, постепенно развившаяся под действием естественного отбора. Есть такая структура и в архитектуре компьютера как на программном, так и на аппаратном уровне, но представляется маловероятным, что подобная компьютерная архитектура может обрести самосознание просто по воле случая.

А что, если бы такое произошло? Как бы мы узнали, что компьютер именно думает, а не просто выполняет бездумные операции с числами? (И есть ли разница?)

* * *

Некоторыми из этих проблем ещё в 1950 году занимался британский математик и информатик Алан Тьюринг. Тьюринг описал так называемую игру в имитацию, более известную под названием «Тест Тьюринга». С восхитительной прямотой Тьюринг начинает статью словами: «Я собираюсь рассмотреть вопрос “Могут ли машины мыслить?”». Но сразу же решает, что подобный вопрос потонул бы в бесконечных спорах о терминологии. Поэтому, в лучших научных традициях, он отбрасывает этот вопрос и заменяет более прикладным: может ли машина беседовать с человеком таким образом, чтобы человек принял эту машину за другого человека? (Самые лучшие философские традиции с упоением увлекли бы нас в споры о терминологии). Тьюринг утверждал, что способность сойти за человека в таком испытании — разумный критерий, определяющий, что такое «думать».

Тест Тьюринга закрепился в нашем культурном лексиконе, и мы регулярно читаем новостные сюжеты о том, что та или иная программа наконец-то прошла тест Тьюринга. Пожалуй, в это сложно не поверить — ведь мы живём в окружении машин, которые рассылают нам электронную почту, управляют нашими автомобилями и даже говорят с нами. На самом деле ни один компьютер и близко не подобрался к прохождению настоящего теста Тьюринга. Те соревнования, о которых пишут в новостях, неизменно устроены так, чтобы собеседники не могли озадачить компьютер таким образом, как предполагал Тьюринг. Вероятно, когда-нибудь мы достигнем такого уровня, но современные машины не «думают» в тьюринговском понимании.

Когда и если нам удастся сконструировать такую машину, которая к почти всеобщему удовлетворению пройдёт тест Тьюринга, мы по-прежнему будем спорить о том, на самом ли деле машина «думает» именно так, как думает человек. Существует проблема сознания, а также смежная с ней проблема «понимания». Неважно, насколько умные беседы сможет вести компьютер, — вопрос в том, сможет ли он по-настоящему понимать, о чём говорит? Если речь зайдёт об эстетике или эмоциях, сможет ли программа, работающая на кремниевом транзисторе, оценить красоту или испытать скорбь, подобно человеку?

Тьюринг догадывался об этом и действительно выдвинул так называемое возражение с точки зрения сознания. Он довольно точно определил эту проблему как различие между точкой зрения «от третьего лица» (как мои действия воспринимают окружающие) и «от первого лица» (как я вижу и понимаю сам себя). Возражение с точки зрения сознания казалось Тьюрингу в конечном счёте солипсическим: единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Как вы узнаете, что и другие люди в мире обладают сознанием, кроме как по их действиям? Тьюринг предвосхищал идею философского зомби — существа, выглядящего в точности как обычный человек, но не обладающего внутренним опытом, или квалиа.

Тьюринг считал, что, для того чтобы достичь прогресса в этом отношении, нужно сосредоточиться на решении вопросов, на которые можно объективно ответить, наблюдая мир, а не прикрываться рассуждениями о личном опыте, который по определению скрыт от стороннего наблюдателя. С долей очаровательного оптимизма он приходит к выводу о том, что любой, кто глубоко задумается об этих вещах, в конечном итоге с ним согласится: «Большинство из тех, кто поддерживает возражение с точки зрения сознания скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения».

Однако можно утверждать, что о мышлении и сознании нельзя судить извне, но при этом признавать, что остальные люди, вероятно, обладают сознанием. Кто-то может подумать: «Я знаю, что у меня есть сознание, и другие люди похожи на меня, поэтому, вероятно, сознание есть и у них. Однако компьютеры на меня не похожи, поэтому к ним я могу относиться более скептически». Я не думаю, что такая точка зрения правильна, но логически она непротиворечива. Тогда возникает вопрос, на самом ли деле компьютеры настолько от нас отличаются? Правда ли, что такое мышление, которое происходит в моём мозге, качественно отличает его от компьютера? Главный герой Хайнлайна так не думает: «Не вижу никакой разницы, протеиновые это цепи или платиновые».

* * *

«Китайская комната» — это мысленный эксперимент, предложенный американским философом Джоном Сёрлем. Эксперимент призван заострить внимание на том, почему тест Тьюринга, возможно, не позволяет ухватить истинный смысл «мышления» или «понимания». Сёрль предлагает вообразить человека, запертого в комнате с огромными кипами бумаги, причём на каждом листе записан какой-либо китайский текст. В стене есть прорезь, через которую можно передавать листы бумаги, а также имеется набор инструкций в форме справочной таблицы. Человек говорит и читает по-английски, но ни слова не понимает по-китайски. Когда в комнату через прорезь просовывают лист бумаги с каким-то китайским текстом, человек может свериться с инструкциями и выйти на один из имеющихся у него листов бумаги. Затем передать этот лист обратно через прорезь.