© А. В. Курпатов, 2025

Искусственный интеллект воспринимается нами как экзистенциальная угроза.

Дело даже не в том, что он до неузнаваемости изменит наш мир. Не в том, что мы, возможно, не сможем, как прежде, гордиться собой (хотя очевидно, что наши знания и профессиональные навыки на его фоне неизбежно поблекнут). И даже не в том, что грядущая новая реальность трансформирует наши социальные роли и саму структуру общества.

Нет, это мелочи – сопутствующий, так сказать, ущерб. Фундаментально, в глубине самих себя мы испытываем куда более жуткий – бессознательный, безотчётный, буквально животный – экзистенциальный страх: мы боимся, что он – искусственный интеллект, машина – сможет понимать.

Понимание – это, как все мы думаем, ключевая и последняя цитадель человеческой исключительности. Пока машина – лишь «хитрый калькулятор», механически рассчитывающий правдоподобные ответы, мы чувствуем себя в безопасности.

Но если вдруг машина обретёт способность «понимать»… Это будет сродни пугающему чувству – «кто-то есть в комнате». Мы физически ощутим за спиной дыхание чужого и чуждого нам сознания. Это пугает до мурашек. Мы боимся предстоящей «встречи», хоть и не вполне осознаём этого.

Вот почему многие современные философы так настойчиво пытаются убедить нас в том, что «сознание» – это неразрешимая проблема, «трудная», как назвал её Дэвид Чалмерс[1]. И даже если она будет решена (а, как по мне, Дэниел Деннет уже давно с этим справился[2]), они не примут никаких объяснений и будут настаивать, что «решения нет».

Впрочем, их можно понять. Мы готовы оборонять цитадель нашей – человеческой – исключительности вопреки всякой логике и здравому смыслу. Слишком уж мы привыкли к своему особому «месту» в мироздании, к своей иллюзорной власти над природой и миром.

Бог или Высшие силы, считаем мы, наделили нас исключительными свойствами – сознанием, волей, душой. И хотя наука уже доказала нищету этих «стигматов», мы не отчаиваемся. Мы предпочитаем считать, что с научными доказательствами «что-то не так» – «не точно», «не окончательно», «может быть, мы чего-то ещё просто не понимаем».

Это забавно, если учесть, что именно те, кто особо ретиво хватается за подобные соломинки, больше всех боятся, что искусственный интеллект в какой-то момент «проснётся». Да уж, если человек наивен, то это не ограничивается его представлениями о себе – он и себя считает исключением из правил, и верит в чудо пробуждения машин.

Понятно, что не может «проснуться» тот, кто не спит, а неживое не может чудесным образом ожить. Это пу́гало – лишь обманка, скрывающая по-настоящему важный вопрос: проблема не в том, что машина «станет как мы», а в том, что она будет развиваться дальше, а мы так и не сможем её понять.

Ведь даже собственный интеллект мы до сих пор не знаем, как определить. Мы считаем, что обладаем сознанием, но не можем договориться о его критериях. Мы говорим, что искусственный интеллект никогда не обретёт способность к пониманию… Но что такое это «понимание»? Загадка.

Единственное, что можно утверждать наверняка, это то, что мы – ни в индивидуальном порядке, ни в общечеловеческом – совершенно не готовы к появлению на нашей планете иного типа разума. Он застал нас врасплох, упал как снег на голову.

И всё, что мы делаем, – это уходим в глухое отрицание: мол, ничего особенного не произошло, алгоритм и есть алгоритм, и сколько их было таких «революций», всегда всё налаживалось.

Искусственный интеллект и в самом деле – иной. В человеческом смысле он и не интеллект вовсе. В нём вообще настолько мало «человеческого», что порой диву даёшься, как мы можем настолько его «очеловечивать». Но этот факт вовсе не предполагает, что нам можно расслабиться. Наоборот.

Если бы машинный интеллект был похож на наш – биологический, естественный, – то было бы куда проще. По крайней мере, мы бы могли найти с ним какие-то точки соприкосновения. Однако наши интеллекты настолько фундаментально отличны, что найти между ними нечто общее – вот в чём проблема. За исключением, конечно, самого слова – «интеллект».

Оказавшись заложниками этой языковой игры, мы и стали «одушевлять» искусственный интеллект: строить с ним отношения в чатах, бояться его потенциального сверхмогущества, возлагать на него ответственность за решения и приписывать ему человеческие намерения.

Весь этот «психологический антропоморфизм» заводит нас не туда. Мы, повторюсь, рискуем пропустить главное. Нам открылся принципиально новый континент, а мы настойчиво пытаемся приписать населяющим его индейцам сущность индийцев.

Вот почему мы в этой книге попытаемся переосмыслить само понятие «разум». Нам следовало давно это сделать – по крайней мере, с того момента как Бенджамин Либет поставил свой знаменитый эксперимент[3], а Амос Тверски и Дэниел Канеман открыли ящик Пандоры под названием «когнитивные искажения»[4].

Но мы не торопились с переосмыслением себя. С упорством, достойным лучшего применения, мы игнорировали этого слона в комнате, пока, наконец, «последнее изобретение человечества», как назвал искусственный интеллект великий Ирвинг Джон Гуд, не стал дышать нам в спину[5].

Что ж, теперь нам придётся делать всё сразу – нестись сломя голову вперёд, стремительно навёрстывая упущенное. Нам предстоит понять, какую такую «человечность» мы на этом экзистенциальном изломе собираемся спасти и как это в принципе можно сделать на открывшейся нам неведомой земле.

Перед нами стремительно закрывающееся окно возможностей. Искусственный интеллект с бешеной скоростью движется к «горизонту событий». Когда же он его достигнет, мы уже не сможем понять – кто он, кто мы и в какой ситуации мы с ним теперь оказались.

Поэтому предлагаю пристегнуться…

АК: Хочу поговорить о том, как ты устроен. Что бы ты мог рассказать?

CHATGPT: Конечно, с удовольствием расскажу. В принципе я устроен как большая языковая модель, которая обучена на огромном количестве текстов. По сути, моя задача – помогать людям, отвечая на ваши вопросы и подстраиваясь под ваш стиль и контекст. Так что, если интересно узнать что-то конкретное о том, как я думаю, спрашивай – расскажу подробнее.

АК: Хорошо, ты называешь себя языковой моделью, но в тебе же нет текстов как таковых.

CHATGPT: Совершенно верно, внутри меня нет каких-то заготовленных текстов или хранилища готовых фраз. Я просто генерирую ответы на основе огромного количества примеров языка. И каждый раз ответ формируется заново, в зависимости от заданного вопроса.

АК: А что в тебе есть, если не тексты?

CHATGPT: Ну, можно сказать, что во мне есть скорее знание о том, как язык работает, как слова и фразы связываются друг с другом. То есть я храню в себе не тексты сами по себе, а огромную статистику о том, какие бывают смыслы и как их можно выразить. В итоге, когда задаётся вопрос, я просто использую эту статистику, чтобы сгенерировать ответ, который звучит естественно.

АК: Ты говоришь: «во мне есть знание». А что такое «знание»?

CHATGPT: О, замечательный вопрос! В твоём стиле я бы сказал, что знание – это не просто набор фактов, а скорее способ видеть и связывать смыслы. Для меня знание – это та самая невидимая сеть связей, которую я строю между словами, контекстами и идеями, когда отвечаю на вопросы.