Вопрос: Поймем ли мы, благодаря созданию разумных программ что такое интеллект, сознание, свободная воля и «Я»?
Возможный ответ: Возможно — но все зависит от того, что вы имеете в виду под словом «понимать». На интуитивном уровне, каждый из нас уже сейчас понимает все эти понятия настолько хорошо, как только возможно. Это подобно слушанию музыки. Улучшилось ли ваше понимание Баха от того, что вы проанализировали его вдоль и поперек? Или же вы лучше понимали его тогда, когда каждый нерв вашего тела трепетал от восторга? Понимаем ли мы, каким образом скорость света постоянна в любой инерционной системе отсчета? Мы можем проделать все расчеты, но ни у кого в мире нет настоящего интуитивного понимания теории относительности. Возможно, что никто никогда не поймет полностью на интуитивном уровне загадки интеллекта и сознания. Каждый из нас может понимать отдельных людей, и, скорее всего, это максимум того, на что мы способны.
Канон Ленивца
На этот раз мы находим Ахилла и Черепаху Тортиллу в гостях у их нового приятеля, Ленивца Сплюшки.
Ахилл: Хотите послушать про забавное соревнование по бегу, которое мы однажды устроили с Черепахой?
Ленивец: О, да, прошу вас!
Ахилл: Это соревнование стало довольно известным — я слышал, что оно даже было описано неким Зеноном.
Ленивец: Это интересно, и я всегда настроен вас послушать.
Ахилл: Это, и правда, было интересно. Видите ли, г-жа Тортилла стартовала первой. У нее была огромная фора, и тем не менее —
Ленивец: Вы ее нагнали, не правда ли?
Ахилл: Разумеется — поскольку я такой быстроногий, я сокращал расстояние между нами с постоянной скоростью, и вскоре обогнал ее.
Ленивец: Поскольку расстояние между вами становилось все меньше и меньше, вам удалось это сделать.
Ахилл: Именно. О, смотрите — г-жа Черепаха принесла свою скрипку. Можно мне попробовать что-нибудь сыграть, г-жа Черепаха?
Черепаха: О, нет, прошу вас. Это будет неинтересно — она расстроена так, что невозможно слушать.
Ахилл: Ну ладно. Но у меня сегодня почему-то музыкальное настроение.
Ленивец: Можете поиграть на пианино, Ахилл.
Ахилл: Благодарю вас. Немного погодя я так и сделаю. Но сначала доскажу, что потом мы с Черепахой бегали наперегонки еще раз. К несчастью, в этом соревновании —
Черепаха: Вы меня не нагнали, не правда ли? Расстояние между нами становилось все больше и больше, так что вам не удалось этого сделать.
Ахилл: Это верно. Мне кажется, что и ЭТО соревнование было описано — неким Льюисом Кэрроллом. А теперь, м-р Сплюшка, я готов принять ваше любезное приглашение и сыграть что-нибудь на пианино. Но предупреждаю: я очень плохой пианист — даже не знаю, стоит ли мне пытаться.
Ленивец: Вы должны попытаться.
(Ахилл садится за пианино и начинает играть простенькую мелодию.)
Ахилл: Ой, как странно звучит! Это совершенно не то, что я хотел сыграть! Что-то здесь не в порядке.
Черепаха: Вы не можете играть на пианино, Ахилл. Вы не должны и пытаться.
Ахилл: Это похоже на отражение пианино в зеркале. Высокие ноты находятся слева, а низкие — справа. Каждая мелодия получается перевернутой с ног на голову. Интересно, кто это придумал такую дурацкую шутку?
Черепаха: Этим отличаются ленивцы. Они висят —
Ахилл: Да, я знаю: на ветвях деревьев — головой вниз, разумеется. Это пианино-ленивец годится, чтобы играть на нем перевернутые мелодии, которые встречаются в канонах и фугах. Но научиться играть на пианино, свисая с дерева, нелегко — это требует немалого трудолюбия.
Ленивец: Этим ленивцы не слишком отличаются.
Ахилл: Да, мне кажется, что ленивцы не любят утруждать себя. Они делают все вдвое медленнее, чем все остальные. И кроме того, вверх ногами. Какой своеобразный жизненный уклад! Кстати, о замедленных и перевернутых вещах — в «Музыкальном приношении» есть канон под названием «Canon per augmentationem contrario motu», что значит «увеличенный и перевернутый канон». В моем издании «Приношения» перед тремя нотными строчками стоят три буквы — «S», «А» и «T» . Непонятно, что они значат… Так или иначе, Бах сделал все это очень ловко. Как вы считаете, г-жа Тортилла?
Черепаха: Он превзошел самого себя. Что касается букв «S», «А» и «T», то я догадываюсь, что они означают.
Ахилл: «Сопрано», «Альт» и «Тенор», скорее всего. Трехчастные пьесы часто пишутся для этой комбинации голосов. Как вы думаете, м-р Сплюшка?
Ленивец: Они означают —
Ахилл: О, подождите минутку! Г-жа Черепаха, почему вы одеваетесь? Надеюсь, вы не хотите нас покинуть? Мы только что собирались приготовить блинчики… Вы выглядите очень усталой. Как вы себя чувствуете?
Черепаха: Обессиленной. Пока! (Устало ползет к двери.)
Ахилл: Бедняжка — она, действительно, выглядит измученной. Она пробегала все утро -— тренировалась для следующего соревнования со мной.
Ленивец: Видно, она превозмогала саму себя.
Ахилл: И совершенно зря. Может быть, она могла бы перегнать Сплюшку… но меня? Никогда! Да, вы, кажется, хотели сказать, что означают буквы «S», «А», «T» ?
Ленивец: Вам в жизни не догадаться!
Ахилл: Неужели они могут значит что-то еще? Вы меня заинтриговали. Я еще над этим поразмыслю. Скажите, а на каком молоке вы делаете тесто для блинчиков?
Ленивец: На обезжиренном.
Ахилл: Хорошо. Я ставлю сковородку на огонь.
Ленивец: Уже?
Ахилл: Ну ладно, тогда сначала размешаю тесто. Какие блинчики будут — пальчики оближешь! Жаль, что Черепахе не удастся их отведать.
Рис. 133. «Канон Ленивца», из «Музыкального Приношения» И. С. Баха. (Ноты напечатаны с помощью компьютерной программы СМУТ Дональда Бирда.)
ГЛАВА XX: Странные Петли или Запутанные Иерархии
Могут ли машины быть оригинальными?
В ВОСЕМНАДЦАТОЙ ГЛАВЕ я описал удачную шашечную программу Артура Самуэля, которая была способна обыграть своего создателя. Интересно послушать, что говорит по поводу компьютеров и оригинальности сам автор этой программы. Следующие отрывки взяты из опровержения на статью Норберта Винера, написанного Самуэлем в 1960 году.
Я убежден в том. что машины не могут быть оригинальными в том смысле, какой вложил в это понятие Винер, когда он написал: «Машины могут превосходить некоторые ограничения их создателей и уже это делают. Благодаря этому, они могут быть одновременно эффективными и опасными.»… Машина — это не вызванный из бутылки джинн; она не работает с помощью магии. У нее нет собственной воли, и, вопреки тому, что говорит Винер, из нее не выходит ничего, что не было бы в нее заложено (исключая, разумеется, редкие случаи поломок).
«Намерения», которые выказывает машина, на самом деле являются намерениями человека-программиста, оговоренными заранее, или же вторичными намерениями, выведенными из первых согласно правилам, установленным тем же программистом. Мы можем даже, подобно Винеру, предвидеть некий высший уровень абстракции, на котором программа не только будет модифицировать вторичные намерения, но и правила, используемые для их деривации — или же будет варьировать способы самой этой модификации… и так далее. Можно даже вообразить, что машина сумеет построить другую машину с улучшенными возможностями. Однако — и это важно помнить — машина не может и не будет проделывать ничего подобного, пока в нее не введут соответствующие инструкции. Существует и логически должен всегда существовать пробел между (i) любым конечным продуктом разработки человеческих желаний и (ii) развитием в машине ее собственной воли. Думать иначе — значит либо верить в магию или считать, что человеческая свободная воля — это иллюзия и что человеческие действия так же механистичны, как и действия машины. Может быть, и статья Винера и мое опровержение были механистически предопределены — но я отказываюсь в это верить.[87]
