Этот вопрос представляется мне чрезвычайно деликатным. Кратким ответом на него, думаю, будет «нет» — хотя бы по той причине, что компьютер не способен испытывать чувственные ощущения, необходимые для того, чтобы отличить хорошее от плохого или превосходное от посредственного. Но тут можно задать встречный вопрос: а почему для того, чтобы вырабатывать собственные «эстетические критерии» и формировать собственные суждения, компьютер непременнодолжен обладать способностью «чувствовать»? Почему такие суждения не могут просто «возникнуть» после достаточно длительного обучения (восходящего типа)? Я, впрочем, думаю, что, как и в случае со способностью к пониманию, гораздо более вероятно, что упомянутые критерии все же придется в компьютер предварительно ввести, причем для получения этих самых критериев потребуется детальный нисходящий анализ, выполненный людьми (вполне возможно, не без помощи компьютера), в полной мере обладающими эстетическим чувством. Разработкой подобного рода схем занимались многие исследователи проблемы ИИ. Например, Кристофер Лонгет-Хиггинс (университет Суссекса) разработал несколько различных компьютерных систем, сочиняющих музыку согласно заложенным в них критериям. Еще в восемнадцатом веке Моцарт с современниками показали, как можно сочинять музыку с помощью так называемой «музыкальной игры в кости» — сочетая известные эстетически приятные фрагменты со случайными элементами, можно получать вполне сносные композиции. Аналогичные устройства были созданы и в области графических искусств — например, программа «AARON», разработанная Гарольдом Коэном, способна выдавать на гора в больших количествах «оригинальные» графические работы, генерируя случайные элементы и комбинируя их с имеющимися в ее распоряжении фиксированными образами в соответствии с определенными правилами. (Множество примеров такого «компьютерного творчества» можно найти в книге Маргарет Боден «Творческий разум» [ 32]; см. также [ 261].)

Думаю, что выражу общее мнение, если скажу, что среди продуктов такого рода деятельности пока нет ничего такого, что могло бы выдержать сравнение с любым творением умеренно способного художника-человека. Наверное, здесь уместно сказать, что даже при весьма значительных объемах предварительно введенных данных создаваемые компьютером «шедевры» оказываются напрочь лишены «души»! Иначе говоря, картина ничего не выражает, потому что компьютер ничего не чувствует.

Разумеется, случайно сгенерированная компьютерная работа может, просто по чистой случайности, оказаться и подлинным шедевром огромной художественной ценности. (Равно как и набирая буквы случайным образом, можно когда-нибудь получить «Гамлета».) В самом деле, следует признать, что и Природа способна волею случая сотворить настоящие произведения искусства, например, скалы причудливых очертаний или звезды в небе. Однако без способности чувствоватьэту красоту невозможно отличить прекрасное от безобразного. Фундаментальная ограниченность полностью вычислительной системы проявится в полной мере еще в процессе отбора.

Опять же можно представить, что человек снабдит компьютер вычислительными критериями для такого различения, и это, возможно, какое-то время будет работать, коль скоро машине останется только генерировать очередные вариации на тему все того же эталона (возможно, так и создается большая часть рядовых «произведений» популярного искусства) — до тех пор, пока плоды такой деятельности не станут вызывать зевоту и нам не захочется чего-нибудь нового. На этом этапе машине потребуется какое-либо подлинноеэстетическое суждение извне, чтобы выяснить, какие «новые идеи» имеют художественную ценность, а какие — нет.

Итак, помимо способности к пониманию, существуют и другие качества, каким полностью вычислительная система никогда не «научится» — например, способность к  эстетическомувосприятию. Сюда же, как мне представляется, следует отнести и все прочие качества и способности, что требуют осознания, — например, способность к нравственномусуждению. Как мы убедились в первой части книги, суждение об  истинностиили ложностиутверждения невозможно свести к чистому вычислению. То же применимо (возможно, даже с большей очевидностью) и к суждениям о прекрасномили о добром. Все эти способности требуют осознания и, как следствие, недоступны роботам с полностью компьютерным управлением. Для имитации роботом наличия этих способностей необходимо постоянное дополнительное управляющее воздействие со стороны какой-либо внешней, чувствующей и осознающей себя сущности — предположительно, человека.

Безотносительно к невычислительной природе упомянутых качеств, можно поинтересоваться, являются ли «красота» и «доброта» идеями абсолютнымив платоновском смысле этого слова, где определение «абсолютный» применимо только к истине — в особенности, к математической истине. Сам Платон высказывался в поддержку такой точки зрения. Может быть, осознавая, мы каким-то образом связываемся с этими абсолютами, и именно в этом заключается уникальное предназначение сознания? Может быть, здесь и следует искать ключ к тому, чемнаше сознание является в действительности и для чегооно нам дано? Не играет ли сознание роль своего рода «моста» между физическим миром и миром платоновских абсолютов? Эти вопросы мы еще раз затронем в последнем параграфе книги.

Вопрос об абсолютной природе нравственности имеет самое прямое отношение к юридическим проблемам, описанным в §1.11. Некоторым образом связан с ним и вопрос о сущности «свободы воли», поставленный в конце §1.11: возможно ли, что есть нечто, что не определяется наследственностью, влиянием окружения и всевозможными случайными факторами, — некая отдельная «самость», играющая ведущую роль в управлении нашими действиями? Я думаю, что мы пока еще очень далеки от ответа на этот вопрос. С полной уверенностью я могу утверждать (и аргументированно доказывать) лишь одно: что бы ни управляло в конечном счете нашим поведением, это что-то в принципе находится за пределами возможностей тех устройств, которые мы сегодня называем «компьютеры».

Любые широкоприменяемые технологии несут с собой как блага, так и опасности. Так, помимо тех очевидных преимуществ, которые дают нам компьютеры, с быстрым развитием этой технологии связано и множество потенциальных угроз обществу. Одной из главных проблем, по-видимому, является чрезвычайная сложность всех совокупностей взаимосвязей, с которыми мы сталкиваемся благодаря компьютерам, — она приводит к тому, что ни один отдельно взятый индивидуум сегодня просто не в состоянии охватить разумом ни происходящее в целом, ни его последствия. И дело не только в самих компьютерах и их технических возможностях, но еще и в почти мгновенной глобальной связи между объединенными в сеть компьютерами по всему миру. Часть возможных проблем находит отражение в нестабильном поведении фондового рынка, где сделки теперь совершаются практически мгновенно на основании общемировых компьютерных прогнозов. Здесь, пожалуй, проблема заключается не столько в недостатке понимания каждым отдельным человеком всей взаимосвязанной системы как единого целого, сколько в нестабильности (не говоря уже о несправедливости), изначально заложенной в систему, которая идеально приспособлена для того, чтобы отдельные ее пользователи мгновенно сколачивали себе состояния путем опережения соперников в скорости счета или быстроте получения информации. Впрочем, вполне вероятно и то, что причиной различного рода нестабильностей и потенциальных опасностей станет одна лишь сложность системы как целого.

Подозреваю, что найдутся люди, которым возможный в недалеком будущем выход уровня сложности системы взаимосвязей за пределы человеческого понимания не покажетсятакой уж серьезной проблемой. Такие люди, возможно, верят в то, что когда-нибудь компьютеры и самиприобретут необходимое понимание системы. Однако, как мы могли убедиться, понимание отнюдь не относится к тем качествам, на которые компьютеры когда-либо окажутся способны, так что помощи с той стороны ждать не приходится.