Леди Лавлейс не менее, чем Баббадж, отдавала себе отчет в том, что, пытаясь создать аналитические машины, человечество флиртовало с искусственным разумом — в особенности, если эти машины способны «укусить себя за хвост» (так Баббадж описывал Странную Петлю, получавшуюся, когда его машина «залезала внутрь себя» и меняла заложенную в нее программу). В 1842 году она написала в своих мемуарах,[5] что аналитическая машина «может воздействовать не только на цифры, но и на другие вещи». В то время, как Баббадж мечтал о создании шахматного или «крестико-ноликового» автомата, леди Лавлейс предположила, что если записать на цилиндры машины тона и гармонии, то она могла бы «создавать искусно сделанные научные музыкальные композиции любой сложности и длины». Впрочем, там же она объясняет: «Аналитическая машина не претендует на создание чего-то нового, она может делать только то, что мы умеем ей приказать». Верно поняв, какая мощь заложена в механических вычислениях, она, тем не менее, оставалась скептически настроенной по отношению к механическому разуму. Однако могла ли она, со всей своей проницательностью, предположить, какие возможности откроются, когда человечество подчинит себе электричество?
В нашем веке пришло время для компьютеров, превзошедших самые смелые мечты Паскаля, Лейбница, Баббаджа или леди Лавлейс. В 1930-х и 1940-х годах были разработаны и построены первые «блестящие электронные головы». Это послужило катализатором к соединению трех ранее совершенно различных областей науки, теории аксиоматических рассуждений, изучения механических вычислений и исследований по психологии человеческого разума. В те же годы гигантскими скачками двигалась вперед теория компьютеров. Эта теория была тесно связана с математикой. Фактически, теорема Гёделя имеет параллель в теории вычислений: Алан Тюринг открыл существование неизбежных «дыр» в возможностях даже самого могучего компьютера. Словно в насмешку, как раз когда делались эти довольно мрачные прогнозы, строились новые компьютеры, чьи возможности росли на глазах, далеко превосходя самые смелые предсказания их создателей. Баббадж, сказавший однажды, что он с радостью отдал бы остаток жизни за возможность вернуться на три дня лет через пятьсот, чтобы получить возможность ознакомиться с наукой будущего, возможно, потерял бы дар речи от удивления уже через сто лет после своей смерти, пораженный как новыми машинами, так и их неожиданными ограничениями.
В начале 1950-х годов казалось, что до механического разума — рукой подать: однако за каждой преодоленной вершиной вставала новая, препятствуя созданию по-настоящему думающей машины. Возможно ли, что это упорное отдаление цели имело глубинные причины?
Никто не знает, где пролегает граница между разумным и не-разумным поведением; в самом деле, возможно, что само предположение о существовании четкой границы звучит глупо. Однако мы с уверенностью можем перечислить основные критерии разума:
гибко реагировать на различные ситуации;
извлекать преимущество из благоприятного стечения обстоятельств;
толковать двусмысленные или противоречивые сообщения;
оценивать различные элементы данной ситуации по степени их важности;
находить сходство между ситуациями, несмотря на возможные различия;
находить разницу между ситуациями, несмотря на возможное сходство;
создавать новые понятия, по-новому соединяя старые;
выдвигать новые идеи.
Здесь мы сталкиваемся с кажущимся парадоксом. Компьютеры, по определению, являются самыми негибкими, безвольными и послушными приказам существами. Несмотря на свою быстроту, они, тем не менее, сама бессознательность. Как же, в таком случае, можно запрограммировать разумное поведение? Не является ли уже само это предположение кричащим противоречием? Одна из основных идей этой книги — показать, что это вовсе не противоречие. Одна из основных целей этой книги — побудить каждого читателя встретиться с кажущимся парадоксом во всеоружии, попробовать его на вкус, вывернуть его наизнанку, разобрать его на части, пошлепать в нем, как ребенок в луже, чтобы в результате читатель смог взглянуть по-новому на кажущуюся неприступной пропасть между формальным и неформальным, одушевленным и неодушевленным, гибким и негибким
Это и составляет предмет исследований науки об искусственном интеллекте (ИИ). Работа специалистов по ИИ кажется странной и удивительной именно потому, что они разрабатывают строго формальные правила, говорящие негибким машинам, как стать гибкими
Что же это за правила такие, могущие описать всю сложность поведения разумных существ? Безусловно, это должны быть правила самых разных уровней: «простые» правила, «метаправила» для модификации «простых», «метаметаправила» для модификации метаправил, и так далее. Гибкость нашего разума зависит именно от огромного количества правил и сложности их иерархии. Некоторые ситуации вызывают стереотипные реакции, для которых годятся «простые» правила. Другие ситуации представляют собой комбинации из стереотипных ситуаций; тут нужны правила, говорящие, какие из «простых» правил приложимы к данной ситуации. Некоторые ситуации вообще не поддаются классификации — следовательно, требуются правила для изобретения новых правил… ит. д., и т. п. Без сомнения, Странные Петли, правила, изменяющие сами себя, находятся в самом сердце разума. Иногда сложность нашего разума кажется нам настолько поразительной, что у нас опускаются руки перед задачей понять и описать его; тогда нам кажется, что никакие, даже самые замысловатые иерархические правила не способны управлять поведением разумных существ.
...и Бах
В 1754 году, четыре года спустя после смерти И. С. Баха, лейпцигский теолог Иоганн Микаэль Шмидт написал в своем труде о музыке и о душе следующие достойные внимания строки:
Не так давно из Франции сообщили, что там сделана была статуя, способная исполнить несколько пьес на Fleuttraversiere; статуя эта подносит флейту к губам и затем ее опускает, двигает глазами и т. д. Однако никто еще не изобрел образа, который бы думал, желал, сочинял или делал бы что-либо отдаленно подобное. Пусть любой, кто желает в этом убедиться, обратится к последним фугам Баха, которому мы уже воздали почести ранее. (Эти фуги были выгравированы на меди, но не были закончены, так как этому помешала слепота композитора.) Пусть увидит наблюдатель, какое искусство содержится в этой музыке — еще более он будет поражен чудесным Хоралом, который был записан под диктовку слепого Баха. «Wenn wir in hőchen Nothen seyn». Я уверен, что наблюдателю вскоре понадобится душа, ежели он желает прочувствовать всю содержащуюся в этой музыке красоту или, более того, исполнить эту музыку и составить суждение об авторе. Все аргументы чемпионов Материализма должны рассыпаться в прах лишь от одного этого примера.[6]
Скорее всего, под главным «чемпионом Материализма» здесь имеется в виду не кто иной как Жюльен Оффрой де Ламеттри, придворный философ Фридриха Великого, автор книги «Человек как машина» и материалист до мозга костей. С тех пор прошло более двухсот лет, но битва между сторонниками Иоганна Микаэля Шмидта и Жюльена Оффроя де Ламеттри все еще в полном разгаре. В этой книге я надеюсь дать читателю некоторую перспективу этой битвы.
«Гёдель, Эшер, Бах»
Эта книга построена необычно — как контрапункт между Диалогами и Главами. С помощью такой структуры я смог вводить новые понятия дважды: каждое из них сначала представлено в метафорической форме в диалоге, что дает читателю конкретные зрительные образы; эти образы затем служат интуитивным фоном для более серьезного, абстрактного обсуждения того же понятия. Многие Диалоги создают поверхностное впечатление, что я говорю о какой-то определенной идее, когда на самом деле я имею в виду совсем иную идею, тщательно замаскированную.
