Однако некоторые философы не соглашались с подобным подходом. Они считали, что манипулирование символами кардинально отличается от действительного понимания их значения. Джон Серл, один из таких философов, тактично возразил оппонентам в форме рассказа о китайской комнате. Суть его в следующем. Человек, не знающий китайский язык, находится в комнате, куда через специальное отверстие ему передают листы бумаги с вопросами, написанными китайскими иероглифами. У человека есть четкая инструкция, в которой говорится, каким образом можно получить ответ на поставленный вопрос. В результате человек находит ответ, записывает его на другой лист и возвращает.

Казалось бы, человеку в комнате можно задать любой вопрос и получить на него разумный ответ. Но на самом деле в ответе не будет истинного понимания. Человек всегда следует инструкции, используя символы для поиска других символов. Он никогда не понимает ни вопроса, ни ответа, потому как не знает ни одного китайского иероглифа.

Серл утверждал, что именно это и делает ИИ, когда выполняет обработку символов. Он манипулирует ими в соответствии с установленными правилами, но никогда не понимает, что эти символы и правила значат. На вопрос «какого цвета спелый банан?» ИИ, вероятно, сумеет найти ответ и «сказать»: «желтого». Кроме того, он сможет последовать еще ряду правил, чтобы сделать ответ более человечным: «Желтого, конечно. Вы думаете, что я глупый?». ИИ не знает, что означает «желтый». Он не видит связи между символом «желтый» и внешним миром, поскольку не знает, что такое внешний мир, и ИИ никогда не удастся получить какой-либо жизненный опыт. Такой ИИ не обладает интенциональностью – способностью принимать решение на основе собственного понимания. Поэтому Серл утверждал, что ИИ просто симулирует интеллект. «Формальные символьные манипуляции сами по себе не обладают интенциональностью; они совершенно бессмысленны, – писал он. – Эта интенциональность, которой, как считается, обладают компьютеры, находится исключительно в умах тех, кто эти компьютеры программирует, использует, вводит в них данные и интерпретирует данные на выходе».

Даже если такой ИИ пройдет тест Тьюринга, это не будет иметь значения. ИИ – это механизм, разработанный, чтобы обманывать нас, подобно античным родосским автоматонам. ИИ слаб, а создание так называемого сильного ИИ, то есть обладающего реальным интеллектом, может оказаться непосильной задачей.

Несмотря на критику, идеи символьной обработки привели к значительному успеху. Еще в 1955 году Ньюэлл, Саймон и Шоу разработали первую программу ИИ (даже до того, как был предложен термин «искусственный интеллект»). Они назвали ее «Логический теоретик» и на Дартмутской конференции в 1956 году с гордостью представили другим исследователям. Используя логические операции, программа могла доказывать математические формулы. Чтобы это продемонстрировать, Ньюэлл и Саймон взяли популярную книгу Альфреда Уайтхеда и Бертрана Рассела «Основания математики» и показали, что программа способна доказать многие из приведенных там формул. Более того, в некоторых случаях «Логический теоретик» предлагал более короткие и элегантные доказательства.

В 1959 году появилось несколько других версий «Теоретика», одну из которых назвали «Универсальный решатель задач». Он смог проводить также логические и физические манипуляции и к тому же обладал очень важной особенностью, благодаря которой так хорошо работал: он отделял знания (символы) от метода, используемого для манипулирования этими знаниями. Манипулирование символами производилось с помощью программного обеспечения, названного «решатель», который использовал поиск, чтобы найти правильное решение.

Представьте, что вы робот и вам нужно переместить пирамидку из дисков разного размера с одного стержня на другой, сохраняя их в порядке уменьшения размера. Эта головоломка, называется «Ханойские башни». Вы можете перемещать лишь по одному диску за раз и брать диск только сверху. Нельзя положить диск большего размера поверх меньшего. И есть всего три стержня. Каким образом нужно перекладывать диски? В рамках каждого хода, учитывая текущее состояние стержней, возможны два или больше перемещений. Какой же диск выбрать? На какой стержень его перенести? После того как вы перенесете диск, у вас появится больше доступных ходов, и после очередного принятого решения их количество будет расти. Игра подобна дереву возможностей, каждая ветвь которого ведет вас к решению, если вы сделали верный ход. Но как с таким множеством вариантов выбрать правильный?

Решение – это поиск. ИИ представляет, что, делая выбор за выбором, он движется по дереву возможностей вниз и выносит суждение: в этот момент, если бы я сделал такой ход, я бы стал ближе к решению? Рассмотрев достаточное количество комбинаций вариантов, ему удается найти правильный путь, а значит, теперь можно принять следующее решение – я положу этот диск туда. После этого ИИ находит новое дерево возможностей, на один шаг дальше, и ищет следующий ход.

Поиск в сочетании с символическим представлением знаний стал стандартным подходом в ИИ. Независимо от того, ищет ли ИИ способ, как выиграть партию в шахматы или го, пытается доказать формулу или планирует маршрут, позволяющий роботу избежать препятствия на пути, он, вероятно, ищет среди тысяч, миллионов, а возможно, и триллионов вариантов. Размер пространства поиска быстро стал ключевым ограничивающим фактором в основанном на поиске символическом ИИ, поэтому было разработано много умных алгоритмов для удаления маловероятных областей «деревьев» или деления большой проблемы на более мелкие задачи. В меньшем пространстве и вариантов для поиска тоже меньше.

Но размер пространства (его комбинаторика) все же оставался проблемой. По иронии судьбы выяснилось, что программы вроде «Универсального решателя задач» непригодны для решения общих задач – пространство возможностей оказывалось слишком большим, что делало поиск невозможным в обозримом временном промежутке. Хотя эти программы могли справиться с проблемой вроде головоломки «Ханойские башни», они пасовали перед сложностями реального мира. Как оказалось, большего успеха можно достичь, если каждый ИИ сосредоточить на определенной задаче. Создайте набор правил о соответствии медицинских симптомов и различных заболеваний. Тогда компьютер сможет задать ряд вопросов, например «вы чувствуете боль?», «это острая боль или тупая?», «где локализуется боль?» и так далее, которые выявят симптомы, и в результате предложить одну или несколько версий вероятных заболеваний.