Отметьте, что мы дали нашему крану-сортировщику возможность изменять одно из правил своей работы, правило о необходимости остановки в том случае, если температура подшипников превышает определенное значение, с целью обретения запрограммированной цели-ценности оптимального соотношения между производительностью крана и продолжительностью срока его жизни. В этой конкретной программе операционального мышления мы не дали компьютеру возможности даже ставить под сомнение внешне заданную цель-ценность максимальной производительности и продления срока службы крана, не говоря уже о том, чтобы ее изменять.

Мы, люди, также обладаем ценностями, которые на первый взгляд кажутся неизменными. Так, например, для обычного человека невозможно убить себя самого путем остановки своего дыхания. Биологически заданная, встроенная в нас ценность выживания имеет явный приоритет над нашей способностью изменять ритм своего дыхания.

Однако лишь немногие ценности являются абсолютно неизменными. Обычно ценности иерархичны: я хотел бы делать А и Б до тех пор, пока это не будет мешать В и Г. Например, программа операционального мышления для максимального повышения производительности крана и продления срока его службы не относится к абсолютным ценностям. Раньше мы уже ввели в программу компьютера две ценности более высокого порядка – остановка работы оборудования и подача сигнала тревоги в том случае, если в помещении возникает пожар или же если в опасной зоне обнаружен человек. Остановка работы с целью спасения человеческой жизни является абсолютно более высокой в иерархии ценностей, чем максимальное повышение производительности. По крайней мере эти ценности являются приоритетными в той части рабочего цикла, где значительная часть времени крана-сортировщика уделяется проверке того, нет ли в помещении пожара и не появился ли кто-либо посторонний в опасной зоне.

Но предположим, что мы не запрограммировали компьютер крана-сортировщика, чтобы он проверял свои датчики, связанные с окружающей средой, в то время когда он «размышляет» об улучшении самого себя. Это можно назвать недостатком, если мы по-прежнему хотим придавать абсолютный приоритет защите человеческой жизни. Многим из нас свойственны такого рода недостатки. Мы погружены в свои мысли и не замечаем того, что происходит вокруг нас, иногда в результате этого подвергая себя большому риску.

Мы могли бы также назвать этот очевидный недостаток ценностями, обусловленными состоянием, так как приоритетность этих ценностей зависит от состояния (чувствования, то есть проверки датчиков, или мышления) крана-сортировщика. Как уже обсуждалось в первой главе, некоторые человеческие ценности также обусловлены состоянием.

Наш кран-сортировщик седьмого поколения дошел в своем развитии до того момента, когда он может проиллюстрировать одну из наиболее важных характеристик человеческого сознания: наш мозг моделирует наш мир. В следующей главе мы подробно рассмотрим эту мысль.

Наш кран-сортировщик седьмого поколения стал в достаточной степени разумным. Он имеет цели и ценности. Он может чувствовать окружающую среду и реагировать на события, происходящие в ней, в соответствии со своими целями, такими как сортировка и перемещение ящиков, чтобы быть продуктивным, или остановка работы, если в опасной зоне находится человек, для сохранения человеческой жизни. Он имеет чувство самосохранения, в том смысле, что он стремится свести до минимума износ своих подшипников. В действительности наш кран-сортировщик даже превзошел ту негибкость поведения, которая у нас обычно ассоциируется с машинами, поскольку он помнит свой прошлый опыт и способен упорядочивать его, моделируя окружающий мир в своем компьютерном мозгу, и он порой может работать новым, более эффективным образом, который позволяет ему успешнее достигать его целей.

Хотя мы не собираемся приписывать нашему крану-сортировщику настоящее сознание, давайте ради нашего обсуждения притворимся, что компьютерный мозг крана обладает сознанием. Теперь мы можем поставить вопросы «Что собой представляет его сознание?» и «Осознанием чего оно является?».

На обычном уровне обсуждения на вопрос о том, чем является его сознание, можно дать простой и прямой ответ: это совокупность электрических импульсов, проходящих по определенным электронным цепям компьютерного мозга. Специфическое функционирование компьютерного мозга в любой момент времени определяется тем, где находятся эти электрические импульсы и какие именно цепи в компьютере эти импульсы активируют в данный момент. Процессы вычисления в компьютере, которые можно было бы назвать мышлением, состоят из различных конфигураций движения электрических импульсов в компьютерных цепях. Любые состояния компьютера, любые его «чувства» или «мысли» могут быть точно определены и поняты как то или иное распределение импульсов в его электронных цепях. Поэтому можно сказать, что для компьютера сознанием является его электрическое состояние.

На вопрос о том, что осознает мозг компьютера, ответ так же прост и прям: он осознает электрические импульсы. Например, он не может видеть ящик на ленте транспортера, потому что ящики не попадают через сканирующую телекамеру внутрь компьютера; туда приходят только электрические импульсы. Ящик, попадающий в поле зрения камеры, создает в камере определенную конфигурацию электрических импульсов, которые передаются компьютеру, и именно эта конфигурация импульсов и «осознается» компьютером. У компьютера нет непосредственного восприятия чего-либо в реальном мире, он может воспринимать только конфигурации электрических импульсов, которые в его «сознании» ассоциируются с событиями и объектами реального мира. Если на складе возник пожар, то для компьютера огонь не является ни красным, ни горячим, ни опасным, ни красивым – для него это просто определенная конфигурация электрических импульсов, поступающих от пожарного датчика. Компьютерная имитация окружающей среды (его «образы») и его вычисления («мысли») являются только лишь конфигурациями электрических импульсов.

Этот упрощенный взгляд на то, что бы собой представляло компьютерное сознание, оказывается почти идентичным современным научным представлениям о природе человеческого сознания [6].

Предположим, что вы смотрите на огонь. Вы воспринимаете, что он красного цвета, вы чувствуете своей кожей тепло, которое от него исходит. Если огонь угрожает вам или вашему имуществу, то вы воспринимаете его как опасность. В другой ситуации и другом настроении вы воспринимаете его как нечто прекрасное. Все это действительно похоже на непосредственное восприятие внешней реальности, но наше современное понимание того, как функционирует мозг, говорит нам о том, что это восприятие на самом деле не является непосредственным, а осуществляется через многие промежуточные процессы, каждый из которых может изменять природу того, что мы воспринимаем.

Пусть огонь воспринимается нами как красный. Мы считаем, что понимаем физический мир достаточно хорошо, чтобы не сомневаться, что горящий огонь создает электромагнитное излучение. Некоторая часть этого излучения относится к такому диапазону частот, что она может восприниматься человеческим глазом, поэтому излучение такого типа мы называем светом. Свет определенной частоты не имеет никаких признаков цвета – это просто колебания световых волн определенной частоты. Если говорить еще более точно, это просто электромагнитное излучение; когда мы называем его «свет», мы просто говорим об излучении такого типа на языке, понятном для человеческих существ.

Это электромагнитное излучение проходит через хрусталик нашего глаза. Хрусталик может налагать свои ограничения на наше восприятие; он, например, не пропускает электромагнитное излучение более высокой частоты, которое мы называем ультрафиолетовым. Однако нет сколько-либо значительных проблем с прохождением излучения от горящего огня, которое позднее будет названо красным светом.