Литмир - Электронная Библиотека
Содержание  
A
A

Поскольку ИИ не отрицает этого, более того, помогает нам это понять, нет причин считать, что он должен подорвать веру людей в свободу. Однако такое может случиться, если они и дальше будут рассматривать свободу через призму детерминизма/ индетерминизма, как поступают многие сейчас. Вот яркий пример того, что я имела в виду, называя эти вопросы глубоко проблематичными. Чтобы обсуждать воздействие технологий, необходимо сперва договориться о философских терминах.

Большое значение здесь имеет понятие «образа себя». Работа в области философии ИИ (а также эмпирической психологии) предполагает, что «самость» не является чем‑то простым, изначально заданным: это сложная психологическая конструкция, используемая для руководства специфически человеческим поведением ([2], глава 7; [8]; [22], глава 13). Оно включает в себя рефлексию, определяющую приоритеты конкретных целей и ценностей (идеал себя). Пока что ИИ не может дать нам детальных теорий самости, для этого он недостаточно разработан; однако он уже дает нам общее математическое представление о том, что представляет собой этот психологический конструкт и как он возможен.

Даже столь близкий к самости феномен, как скорбь от потери любимого, может быть (в общих чертах) понят в терминах ИИ. Подобно тому как для свободного выбора необходима определенная когнитивно–мотивационная архитектура, так же определенная психологическая архитектура требуется и для возникновения скорби, и для переживания ее на протяжении нескольких месяцев или лет [46]. Скорбь от потери любимого, при всех ее дестабилизирующих эффектах, неизбежна, учитывая психологическую природу — математическую архитектуру — личной любви. Этот тип любви (в отличие от похоти или даже агапе) представляет собой сложно структурированную привязанность, глубоко укорененную в личных когнитивных и мотивационных ресурсах, не в последнюю очередь, в теории сознания [26]. Она вступает в игру всякий раз, когда перед человеком предстает выбор, способный так или иначе повлиять на любимого.

Дети в экспериментах Теркл, как и большинство наших современников, полагали, что ИИ не имеет ничего общего с эмоциями. Но это ошибка. Действительно разумная система, биологическая или искусственная, не может не обладать эмоциями в какой‑либо форме. Дело в том, что эмоции вообще, от легкого беспокойства до безутешного горя, необходимы для управления поведением в условиях ограниченности ресурсов и множества конфликтующих мотивов или целей. Они не опциональное дополнение, а математическая необходимость. («У меня только две руки!» — это выражение имеет не только буквальный, но и глубокий психологический смысл.) Наличие эмоций у ИИ признается с конца 1960–х годов (хотя, кажется, часто игнорируется) ([39]; [2], глава 6; [41]; [46]).

Эмоции тесно связаны с религией, поскольку бесстрастная вера вряд ли заслуживает своего имени. Аскетический деизм может приглушать эмоции и определенно отвергает любые личные аспекты Высшего Существа и отношения к Нему людей. Но даже деизм предполагает определенные эмоции — благоговение и трепет. (Без них он превращается в холодную научную космологию.) Анимистские религии могут добавлять к этому страх, радость, агрессию, мольбу, даже благодарность. А полномасштабный теизм включает в себя опыт (иллюзорный или реальный) отношений любви с личным Богом, что выводит нас на ту же базовую психологическую архитектуру, что и чувство скорби.

Однако скорбь здесь невозможна, так же как невозможно для разумного взрослого человека испытывать негодование из‑за дождя. (Раздражение, быть может, но не негодование.) В особенности невозможно это потому, что здесь любимый (как мы верим) не может ни умереть, ни изменить. Точнее, в это невозможно поверить, пока тверды наши богословские убеждения. Но иногда они колеблются. Тогда могут возникнуть эмоции, сравнимые со скорбью, негодованием или горьким разочарованием; вспомним возглас псалмопевца: «Боже мой, Боже мой, для чего Ты меня оставил?» С богословской точки зрения испытывать подобные эмоции столь же неверно, как негодовать на дождь; правильное отношение к Богу даже пред лицом самых черных злодейств и бедствий — непоколебимое доверие Иова. Ибо невозможно, буквально невозможно, чтобы Бог покинул народ свой. Бросить в беде — самый мерзкий из видов предательства, ибо бросить может только сильный и только слабого ([3], с. 80–86). Наши представления о личной любви исключают предательство во всех его формах, и прежде всего — способность бросить в беде. (Вот почему цитата из псалмопевца в устах Иисуса на кресте так же глубоко проблематична, как и «искушение» его дьяволом.)

Короче говоря, такие эмоции, как любовь, скорбь или негодование, — это не просто чувства. Скорее это тонко структурированные психологические диспозиции, создаваемые сложной вычислительной архитектурой.

Однако практическая работа с ИИ (законченными компьютерными моделями) дает немного оснований для выводов о самости и эмоциях. Один из ранних исследователей ИИ, а также доктор медицины и практикующий психоаналитик попытался проверить на ИИ фрейдовскую теорию невроза. Его интересовало то, как суперэго порождает тревогу; как тревога распространяется на предметы, аналогичные представляющим реальную угрозу; как выбирается один из доступных защитных механизмов (проекция, замещение, отрицание и т. п.) и как эти механизмы влияют на специфические трансформации вызванных тревогой представлений ([19], см. главы 2–3). Позже он попытался также смоделировать системы вызванных тревогой представлений, характерные для параноидной шизофрении [20]. Но эти попытки были явно незрелыми; достаточно трудно заставить компьютер рационально стремиться даже к одной цели, не говоря уж о смешении нескольких мотивов под влиянием тревоги и/или суперэго.

Современные исследования ИИ включают в себя более реалистичную (хотя и далеко не столь амбициозную) стимуляцию эмоций и изучение их способности регулировать поведение в условиях нескольких потенциально конфликтующих целей. Самый удачный пример на сегодняшний день — это эмоциональная история няни, ухаживающей за дюжиной младенцев: каждого из них нужно кормить, пеленать, ласкать и развлекать в разное время и с разной интенсивностью и каждого немедленно спасать, если он подползет слишком близко к реке или к дороге [45]. (У няни, разумеется, только две руки, она не может делать все сразу и потому вынуждена составлять себе определенное «расписание».) Но даже такая модель ИИ пока еще, увы, очень груба и не затрагивает ни образа себя, ни понятия самости.

В далеком будущем ИИ может сильно измениться. По причинам, которые объясню ниже, я не верю, что когда‑нибудь он сможет воспроизводить все сложности и тонкости человеческого сознания. Однако не сомневаюсь, что ИИ далекого будущего смогут воспроизводить гораздо больше эмоций и делать это намного тоньше. Возможно, они будут включать в себя даже эффективное различение образа системы и идеала системы. В сущности, почему бы и нет? Марвин Мински, первопроходец ИИ, давным–давно указывал на то, что сложному разуму необходим образ себя [34] (и некоторые ранние ИИ–программы в его лаборатории могли исследовать собственное поведение в свете своих целей и соответствующим образом его исправлять [42]). Это в принципе возможно, поскольку понятие рекурсии делает возможной рефлексивную обработку информации. Так исчезает «парадокс» ссылки на самого себя.

13.4. Телесность

Все, что я говорила до сих пор о воздействии ИИ на наши представления о себе, полагаю, может быть без разногласий принято всеми исследователями этой темы. Но это отчасти связано с тем, что до сих пор я старательно избегала любых намеков на ту важнейшую роль, которую играет в наших представлениях о сознании, личности, самости понятие тела. В этом вопросе сами исследователи ИИ далеко не всегда друг с другом согласны.

Научная фантастика изобилует историями о бестелесных сознаниях или, точнее, интеллектах. Различные авторы, включая недавно почившего Фреда Хойла, представляют нашему вниманию странные «облачные» структуры, занимающие огромное пространство, однако каким‑то образом идентифицируемые как единый индивидуум (или индивидуумы) и обладающие свойствами, аналогичными свойствам компьютера, сознания, живого существа. Однако такой футуристический сценарий почти немыслим. Что это за «свойства, аналогичные свойствам компьютера, сознания, живого существа», однако не требующие тела? И как могут эти «облака», не имея тел, удовлетворять принципу самоорганизации, на котором строится любая жизнь? То, что писатели–фантасты порой предлагают нам поразмыслить над такой идеей, еще не гарантирует, что эта идея, если повнимательнее к ней приглядеться, будет иметь смысл [9].

60
{"b":"161862","o":1}