Средний человек в смятении. С одной стороны, ИИ и И–жизнь во многом напоминают людей: столь же загадочны, увлекательны, непредсказуемы, зачастую малопонятны и опасно неконтролируемы. Более того, они кажутся автономными и порой возникают («рождаются») путем самоорганизации. С другой стороны, они совсем другие: могут вести себя (и часто себя ведут) не просто странным, но совершенно чуждым для нас образом. Однако обе стороны этой амбивалентности можно назвать «магическими». Согласно «магическому» взгляду, науке и технологии нельзя доверять: они доказали, что неспособны давать нам то и только то, что мы заказывали. (Требование «то и только то» возникло, разумеется, много лет назад, благодаря таким нежелательным эффектам, как побочные действия лекарств и загрязнение окружающей среды.)

Некоторые, возможно, полагают, что «магическое» восприятие ИИ и И–жизни «благоприятно» для религии. Разумеется, отворачиваясь (по любой причине) от науки, люди часто обращаются к религии или по крайней мере начинают смотреть в ее сторону. Яркий пример — «Создание контркультуры» Теодора Рожака [37]. Эта увлекательная книга — преамбула к яростной атаке [38] на то, что он называет «механической подделкой» и «обесчеловечивающим действием» ИИ, свела воедино различные направления неоромантической мысли. Основной ее тезис: очернение науки и пропаганда религии — какой угодно.

Когда она вышла в свет, я уже много лет преподавала философию религии. Я наслаждалась этой работой: помимо увлекательности самого содержания, общаться со студентами было настоящим удовольствием. Их было немного (курс был по выбору), но все они действительно интересовались темой. Яростные атеисты, пламенные верующие, обеспокоенные агностики — все они стремились думать о религиозной вере и искали связные аргументы (за или против), которые бы им в этом помогли. Когда «Контркультура» стала культовой книгой, число студентов утроилось. Но интеллектуальная серьезность исчезла. Теперь можно было говорить все что угодно, лишь бы это кому‑то нравилось. Необязательно стало даже следить за связностью речи. Фрейд был изгнан, на его место пришел Юнг: вопрос о существовании Бога относился больше не к реальности, а к душевному миру вопрошающего и даже в таком качестве не воспринимался серьезно. Звучали громогласные заявления, но аргументация сделалась излишней. (После двух или трех лет таких мучений я передала курс другому преподавателю.)

Короче говоря, «магический взгляд» на науку и технологию весьма толерантен к религии или к тому, что бездумно выдается за таковую. Впрочем, терпим он и к более интеллектуально респектабельным версиям религии. ИИ далекого будущего, разумеется, будет куда более непредсказуем и куда менее понятен, чем современные системы. Вполне вероятно, что эта технология, все более «магическая», подтолкнет множество людей к религии в социологическом смысле слова.

Но, если вернуться к теории — должно ли это происходить? Ответ на этот вопрос зависит от того, поддержит ли ИИ будущего взгляды на человеческую природу, имеющие религиозную значимость, а именно понятия человеческой свободы, уникальности, эмоций, самости и сознания, в том числе религиозного опыта. Иными словами, он включает в себя весьма сложные и спорные вопросы, относящиеся к теоретической психологии и философии разума.

Далее я собираюсь показать, что ИИ уже предлагает теоретическую поддержку этих понятий. В сущности, он обогащает их, помогая нам понять и оценить то, что в них содержится. Таким образом, как ни парадоксально это покажется многим, ИИ далекого будущего вполне способен углубить наше понимание человечности как таковой.

Ранее я сказала, что системы И–жизни в каком‑то смысле автономны. Они не программируются на любые действия, какие только вздумаются программисту, как СДИИ («старый добрый ИИ»: Ходжленд [27]), а действуют сами. Это связано либо со встроенными в них «рефлексами», либо с самоорганизацией снизу. Например, в эволюционирующей робототехнике можно наблюдать постепенное появление роботов, специально приспособленных для выполнения каких‑либо задач [18, 29]. Исследователи И–жизни публикуются в журналах, посвященных «Автономным системам» или «Автономным роботам», и рассматривают свои саморегулирующиеся системы как более жизнеподобные (а следовательно, и разумоподобные), чем классический ИИ.

Однако дальнейшие успехи в создании автономных систем такого рода не имеют отношения к нашей нынешней теме. Дело в том, что человеческая свобода — гораздо более широкая и глубокая форма автономии [7]. Она предполагает сознательное самонаправление к тем или иным целям и обдуманный выбор между различными вариантами возможных действий.

В целом свободный выбор направляется моральными принципами (которые могут противоречить друг другу); личными предпочтениями и жизненными целями; житейской мудростью и опытом, в том числе пониманием других людей; а также предвидением возможных последствий своих поступков и сравнением их между собой. Может требоваться понятийный анализ: «Не убий» — но что считать убийством? Часто важную роль играет образ себя, в особенности того, каким человек хотел бы быть. Моральные принципы и житейская мудрость могут передаваться в виде ролевых моделей или историй, часто извлеченных из религиозного контекста (например, Иисус, святые или добрый самаритянин). Значимость этих примеров меняется в зависимости от ситуации. В целом сложный моральный выбор предполагает тонкую игру гипотетических обвинений и оправданий (впрочем, очень сложным бывает и выбор, не носящий морального характера).

Чтобы пролить свет на этот тип свободы, нам требуется не И–жизнь, а ИИ. Коннекционный ИИ помогает нам понять, как мы усматриваем аналогию между новозаветной притчей и собственной жизненной ситуацией ([4], глава 6; [32]). А классический ИИ помогает понять, как в принципе мы структурируем свои мысли и желания и взвешиваем различные противоречивые факторы, решая, что делать ([2], глава 9; [21]).

У очень маленьких детей нет ни свободы, ни моральной ответственности, поскольку необходимая для этого когнитивная и мотивационная сложность у них еще не развита. Например, они судят о том, «хорош» человек или «плох», по результатам его поступков, а не по намерениям, поскольку еще не обладают теорией сознания, позволяющей им осознавать и различать намерения других людей ([5], с. 48). Мэри, разбившую десять тарелок в попытке помочь маме помыть посуду, они называют более «плохой девочкой», чем Джоан, которая разбила всего две тарелки, шаря в буфете в поисках варенья, которое ей есть не полагалось. Теория сознания, как и необходимый для нее жизненный опыт, появляется у детей позже. И только тогда человек становится по–настоящему свободным. (Если она не возникает, человек становится аутистом, что очень серьезно ограничивает его свободу [1].)

Что касается животных, не относящихся к роду человеческому, они не обладают свободой, отличной от простой автономии. Дело в том, что у них нет языка, делающего возможным абстрактное мышление и рассуждение. (Вопрос: может ли собака сделать выбор между различными исходами или выработать план действий? Ответ: не может.)

Кстати сказать, совершенно не к месту здесь обычно вспоминают о детерминизме и индетерминизме [28]. Многие полагают, что для свободного выбора необходим индетерминизм, и приводят принцип Гейзенберга в качестве научного обоснования свободы. Но хотели бы вы, чтобы ваши важные решения, в том числе этические, определялись какой‑то внутренней «игрой в орлянку» или квантовым скачком? А как насчет почитаемых религиозных учителей или святых: неужели мы продолжали бы их уважать, если бы выяснилось, что их действия объясняются не религиозными и моральными убеждениями, а случайностью? Короче говоря, индетерминизм в причинах действия убивает истинную свободу — свободу, предполагающую «владение собой» и ответственность. Говорим ли мы о моральном выборе или о творческой оригинальности (часто облекаемой в квазирелигиозные термины) ([4], глава 11), для нас важна сложная структура сознания взрослого человека.