Компьютер обрабатывает информацию. Это означает, что он манипулирует символами на основе определенных правил. Символы представляют собой определенные элементы, загружаемые в компьютер извне; в ходе обработки информации изменений в структуре машины не происходит. Физическая структура компьютера неизменна, она определена замыслом разработчика и конструкцией.
Нервная система живого организма функционирует существенно иначе. Как мы видели, она взаимодействует со своим окружением, постоянно изменяя свою структуру таким образом, что в каждый определенный момент ее физическая структура является записью предыдущих структурных изменений. Нервная система не обрабатывает информацию из внешнего мира, но, наоборот, творит некий мир в процессе познания.
В человеческом познании используется язык и абстрактное мышление и, следовательно, символы и ментальные отображения; но абстрактная мысль — это лишь малая часть человеческого познания, и, вообще говоря, она не служит основой для наших повседневных решений и действий. Человеческие решения никогда не бывают в полной мере рациональными, зато всегда окрашены эмоциями; человеческая мысль всегда погружена в телесные ощущения и процессы, которые вносят свой вклад в полный спектр познания.
В книге «Компьютеры и познание» исследователи компьютеров Терри Уиноград и Фернандо Флорес подчеркивают, что рациональная мысль отфильтровывает и отбрасывает подавляющую часть когнитивного спектра и тем самым вызывает «слепоту абстракции». Подобно шорам, термины, принятые нами для самовыражения, ограничивают диапазон нашего взгляда на мир. В компьютерной программе, как поясняют Уиноград и Флорес, различные цели и задачи формулируются в терминах ограниченного набора объектов, свойств и операций; этот набор и воплощает ту слепоту, которая приходит вместе с абстракциями, необходимыми для создания программ. Однако:
Существуют ограниченные типы задач, в которых эта слепота не исключает достаточно разумного поведения. Например, многие игры предполагают прямое применение... таких программ, которые позволяют переигрывать соперника-человека... Это те области, в которых идентификация требуемых характеристик весьма прямолинейна, а природа решений имеет четкий и ясный характер27.
Большая путаница вызвана тем, что компьютерщики используют слова «интеллект», «память» и «язык» для описания компьютеров, тем самым как бы уравнивая эти понятия с человеческими феноменами, хорошо известными из повседневного опыта. Это серьезная ошибка. Например, самая суть разума заключается в том, чтобы действовать наилучшим образом в условиях неопределенной проблемы и неочевидных решений. Разумное человеческое поведение в таких ситуациях основано на здравом смысле, накопленном из жизненного опыта. Здравый смысл, однако, недоступен компьютерам из-за слепоты абстракции и неизбежной ограниченности формальных операций; поэтому и невозможно запрограммировать компьютер на разумность28.
Одновременно с идеей искусственного интеллекта появился и великий соблазн запрограммировать компьютер на понимание человеческого языка. Однако после нескольких десятилетий тщетной работы над этой проблемой изобретатели АИ (автоматического интерпретатора) начинают понимать, что все их усилия обречены на неудачу: компьютерам не дано в более или менее достаточной степени понять человеческий язык29. Причина в том, что язык вложен в паутину социальных и культурных условностей, которая содержит и негласный контекст смысла. Мы понимаем этот контекст, потому что он эквивалентен нашему здравому смыслу, но компьютер нельзя запрограммировать на здравый смысл и, следовательно, на понимание языка.
Это положение может быть проиллюстрировано множеством простых примеров, вроде текста, приведенного Терри Уиноградом: «Томми только что подарили новый набор кубиков. Он как раз открывал коробку, когда вошел Джимми». Как поясняет Уиноград, компьютер ни за что не догадается, что лежит в коробке, мы же сразу предполагаем, что в ней лежат новые кубики Томми. Мы-то знаем, что подарки обычно приносят в коробках и что самое естественное в этом случае — открыть коробку. И, что еще более важно, мы полагаем, что два предложения в тексте взаимосвязаны, тогда как компьютер не видит смысла в том, чтобы связывать коробку с кубиками. Другими словами, наша интерпретация этого простого текста основана на некоторых связанных со здравым смыслом предположениях и ожиданиях, недоступных компьютеру30.
Тот факт, что компьютер не может понять язык, отнюдь не означает, что он не может быть запрограммирован на распознавание простых лингвистических структур и манипуляции с ними. Действительно, в последние годы в этой области был достигнут значительный прогресс. Сегодня компьютер может распознавать несколько сотен слов и фраз, и этот базовый словарь продолжает расширяться. Так, машины все чаще используются для взаимодействия с людьми посредством структур человеческого языка и выполнения ограниченного круга заданий. Например, я могу позвонить в свой банк и запросить информацию о моем текущем счете; компьютер, если он получит также особый кодовый сигнал, сообщит мне состояние баланса, номера и суммы последних выплат и вкладов и т. п. Такое взаимодействие, предполагающее комбинацию простых произнесенных слов с набранным кодовым номером, очень удобно и полезно; но из этого вовсе не следует, что банковский компьютер понимает человеческий язык.
К сожалению, налицо поразительный диссонанс между критическими оценками АИ и радужными проектами компьютерной индустрии (последние явно мотивированы коммерческими интересами). Новейшая волна самых восторженных обещаний исходит от так называемого «проекта пятого поколения», запущенного в Японии. Анализ его грандиозных планов показывает, тем не менее, что они не более реальны, чем аналогичные предыдущие проекты, хотя вполне вероятно, что в рамках программы будет создано немало полезных побочных продуктов31.
Центральной идеей проекта пятого поколения и других подобных исследовательских программ служит разработка так называемых «экспертных систем», ориентированных на то, чтобы соперничать с экспертами-людьми в решении определенных задач. Здесь мы опять сталкиваемся с неудачным использованием терминологии. Как отмечают Уиноград и Флорес:
Называть программу «экспертом» — значит вводить в заблуждение точно так же, как и называть ее «разумной» или говорить, что она «понимает». Такое неадекватное представление может быть полезным для тех, кто пытается обеспечить финансирование своих исследований или продавать подобные программы, но оно может вызвать .необоснованные ожидания у тех, кто пытается их использовать32.
В середине 80-х философ Хьюберт Дрейфус и исследователь компьютеров Стюарт Дрейфус предприняли тщательное исследование экспертизы, проводимой людьми, и сопоставили ее с компьютерными экспертными системами. Вот что они обнаружили:
...следует расстаться с традиционным убеждением, что новичок учится на частных случаях и лишь по мере приобретения профессионального мастерства начинает абстрагировать и усваивать все более тонкие законы... Приобретение мастерства происходит как раз в противоположном направлении — от абстрактных законов к особым случаям. Похоже, что новичок делает умозаключения, используя законы и факты точно так же, как и эвристически запрограммированный компьютер, однако при наличии таланта и с приобретением соответствующего опыта новичок превращается в эксперта, который интуитивно видит, что нужно делать, не пользуясь законами33.
Это замечание показывает, почему экспертные системы никогда не достигают уровня экспертов-людей: последние действуют не по жесткой системе правил, а на основе интуитивного восприятия всей совокупности фактов. Дрейфус и Дрейфус отмечают также, что экспертные системы практически проектируются на основе опроса экспертов-людей, владеющих знанием соответствующих правил. Когда это делается, эксперты чаще всего формулируют те законы, которые запомнили со времен ученичества, но перестали использовать, став профессиональными экспертами. Если эти законы ввести в компьютер, результирующая экспертная система будет копировать новичка, но никогда не сможет соперничать с настоящим экспертом.
