Нужно проехать на машине в Дели? Бороться с преступностью в Берлине? Доставлять продукты в Ухане? Для всего этого есть алгоритм. По мере развития технологий многие начинают видеть в искусственном интеллекте средство исцеления социальных зол, с которыми человек оказался неспособен справиться. Это, как они надеются, выведет человечество из нынешней тьмы иррациональности и обеспечит победу разума. Сторонники искусственного интеллекта превозносят его за возможность отобрать процесс принятия решений у людей и перенести его в компьютер.
Ничуть не хуже слышны голоса эмоционалистов, и эти голоса утверждают противоположное: человечество страдало от чрезмерной рациональности, излишне полагалось на данные и холодное, безжалостное аналитическое рассуждение. Они считают, что главная проблема человечества не в избытке страсти, а в ее недостатке, что мы страдаем из-за недостаточного доверия к своей интуиции и инстинктам. Они жаждут, чтобы люди со сходным образом мышления объединялись в общества с четко определенными признаками и границами, отделяющими «чужих». Обращение к эмоциональным корням – по сути призыв принять иррациональность как главную характеристику человеческого рода.
Мы наблюдаем подобное явление справа и слева в индустриализованных демократиях и в развивающихся странах. Его принято связывать с правыми популистами, предпочитающими решительное действие старому доброму рассмотрению фактов. Руководство – это чувство, лидерство – эмоция, решения принимаются на основе глубинного ощущения правоты собственных воззрений. В то же время оно возникает и в левой части социальной сферы, когда активисты желают заставить замолчать тех, кто критикует их мировоззрения, или лишить легитимности тех, с кем не согласны.
И хотя растущая власть искусственного интеллекта – новое явление, с подобной борьбой мы имеем дело на протяжении столетий. Противостояние разума и чувств, мастерства и природы, размышления и интуиции лежит в основе того, как мы строим нашу жизнь и управляем обществом. В 1600-е годы французский философ и математик Рене Декарт защищал образ жизни, основанный на разуме, порядке и очевидности. Парки Парижа с их идеально симметричной планировкой служат напоминанием о его влиянии.
Столетием позже Жан-Жак Руссо провозгласил другой подход, основанный на доверии к чувствам и интуиции, на обращении за ответами к внутреннему «я»: «Все зло, когда-либо сделанное мной в жизни, было результатом размышления, – писал он, – а то немногое добро, которое мне удалось совершить, было результатом порыва чувств». Наш мир – это мир намеков, страстей и аппетитов, и бешеные припадки ярости совершенно извиняемы как доказательство человеческой природы. Когда американские и английские ландшафтные дизайнеры пытаются придать паркам видимость нетронутого буйства природы, это невольный кивок в сторону Руссо и его воззрений.
Та же самая поляризация проявилась в бизнесе XX века. Пользующаяся значительным влиянием теория научной организации труда Фредерика Тейлора стремилась дать численное выражение каждому аспекту работы компании. Менеджеры, вооруженные секундомерами и блокнотами, появлялись во всех точках завода, пытаясь таким образом повысить производительность труда. Тем не менее звездой конца столетия стал напористый генеральный директор GE Джек Уэлч, чья автобиография была весьма красноречиво озаглавлена Straight from the Gut[5].
В этом стремлении отвергнуть линейную, насыщенную фактами рациональность ради легкого, человечного разрешения эмоциям участвовать в принятии решений чувствуется нечто подлинное. Не все может быть сведено к числу или логической формуле. Но подобный этос не способен решать проблемы – только прославлять их. Он годится, чтобы разрушать, но не строить. В последние 50 лет психологи и специалисты в области поведенческой экономики собрали огромный массив экспериментальных данных, демонстрирующий более низкое качество интуитивных решений в сравнении с рациональными. Все, что мы можем приобрести, поставив интуицию во главу угла, – приятное внутреннее чувство, что поступаем так, как нам представляется правильным. Но получить таким образом работоспособную стратегию решения стоящих перед нами проблем невозможно.
Между тем искусственный интеллект, может быть, и способен принимать более качественные решения, чем люди, и отбирать у нас рабочие места, но компьютеры не способны к фреймингу. Искусственный интеллект отлично справляется с поиском ответа на заданный вопрос, в то время как фреймеры задают вопросы, никогда прежде не звучавшие. Компьютеры действуют только в существующем мире, а люди живут в мирах, которые представляют себе при помощи фрейминга.
Давайте рассмотрим недостатки компьютера в той области, где его достижения превозносят больше всего: в настольных играх. Даже люди, хорошо знакомые с событиями в ней, обычно извлекают из них ложный урок.
В 2018 году подразделение Google под названием DeepMind показало систему AlphaZero, научившуюся побеждать в шахматы, го и сёги исключительно путем игры против себя самой. Она не получила от человека никаких навыков или информации, кроме правил игры. Всего через девять часов, в течение которых система сыграла с собой 44 миллиона партий в шахматы, она обыгрывала самую сильную программу в мире Stockfish. Когда с ней играли гроссмейстеры, они поражались ее чуждой, незнакомой тактике. Больше ста лет шахматные мастера придерживались единой точки зрения относительно основных идей и стратегий игры, например об относительной ценности фигур и позиций на доске. AlphaZero делала непривычные ходы, явно предпочитая мобильность позиционному преимуществу и будучи всегда готовой к жертвам. Казалось, она создала новую стратегию шахматной игры.
Проблема заключалась только в том, что это не так.
Система с искусственным интеллектом не способна создать представление о чем-либо. Она не может строить ментальные модели. Она не может ни обобщать, ни объяснять. AlphaZero представляет собой черный ящик как для нас, так и для себя самой. Люди, а не искусственный интеллект были способны взглянуть на ходы и перейти к концепциям «позиции на доске» или «жертвы». Люди дают фрейм действиям AlphaZero, делая их объяснимыми и применяя их обобщенным образом. Люди становятся умнее, поскольку мы способны дать абстрактное выражение достижениям искусственного интеллекта. Оценить урок и применить его в будущем – вот то, чего искусственный интеллект сам по себе не может.
Как рационалисты, так и сторонники чувств и интуиции совершенно верно чувствуют некоторое уникальное свойство, присущее человеческому сознанию. Но оба пути заканчиваются тупиком. Ни один из них не дает удовлетворительного ответа на трудные вопросы, стоящие перед нашей цивилизацией. Но и от их синтеза мы вряд ли можем ожидать многого. Попытка слить воедино два подхода, построенных на ущербных основаниях, в лучшем случае приведет к сохранению хрупкой напряженности между ними без всякой надежды на действительный прогресс.
В этой ситуации критически важен вывод, что наш выбор не сводится к двум вариантам. Не обязательно выбирать между расчеловечивающей сингулярностью и цунами популистского террора – или пытаться слить их в коктейль сомнительной пригодности. В нашем распоряжении есть другая стратегия, иная человеческая способность, на которую до настоящего момента не обращали внимания: фрейминг. Умение применять, оттачивать и заново создавать ментальные модели дает нам инструмент для решения наших проблем без того, чтобы полагаться на машину или принимать волю толпы.
В результате мы возвращаемся к Регине Барзилай. Мы обнаружили, что находимся на распутье. Перед нами стоят проблемы гигантского масштаба. Как и в случае с антибиотиками, многие наши уязвимости мы создали сами, они стали последствиями принятых решений, не замеченных альтернатив, не совершенных действий. Мы сами завели себя туда, где находимся. Хорошая новость заключается в том, что мы можем и вывести себя оттуда. Но для этого нужно научиться воспринимать мир по-другому.
