Однако подумайте вот о чем: за тысячи лет развития человеческой цивилизации мы создали технологию, приспособленную для удобств человека. Предметы, используемые людьми, конструируются таким образом, чтобы они подходили нам по размерам и форме. Машины строятся так, чтобы человек мог дотянуться до рычагов управления с учетом, например, длины и расположения человеческих пальцев.

Вспомните лишь о проблемах, которые возникают у тех, кто немного выше или ниже средней нормы — или делает все левой, а не правой рукой — чтобы понять, как важно правильно использовать технологический прогресс.

В таком случае, если нам требуется управляющее устройство, которое сможет работать с инструментами и приборами, предназначенными для людей (а значит, сумеет вписаться в технологическую схему), разумнее всего построить это устройство, придав ему внешний вид человека, со всеми изгибами и сочленениями, характерными для человеческого тела. Нам совсем не нужно, чтобы данное устройство оказалось слишком тяжелым или непропорциональным по нашим представлениям. Во всех отношениях соответствие среднему уровню будет как нельзя лучше.

Следует также заметить, что нам свойственно находить или воображать человеческие качества в существах и предметах, не имеющих никакого отношения к классу людей. Мы даем человеческие характеристики домашним животным и даже автомобилям. Мы персонифицируем природу и все, что к ней относится, а в древние времена делали из разных природных материалов богов и богинь по образу и подобию человека.

И разумеется, когда мы возьмем на службу механизированного думающего партнера (или, в конце концов, думающего слугу), то будем чувствовать себя в его обществе уютнее, а к нему относиться проще, если своими очертаниями он будет напоминать человека.

Гораздо легче подружиться с роботом, похожим на человека, чем со специализированной машиной, имеющей нейтральную форму. Иногда я думаю, что в том отчаянном положении, в котором сегодня оказалось человечество, мы будем рады иметь механических друзей, даже если они будут созданы нами самими.

Роботам не нужно быть слишком умными, чтобы быть достаточно умными. Если робот сможет исполнять простые приказы и делать работу по дому, то есть управлять несложными машинами вроде кухонного комбайна,— иными словами, эффективно заниматься однообразной работой,— нас это полностью удовлетворит.

Построить робота непросто, потому что необходимо засунуть ему в голову компактный компьютер, если вы хотите, чтобы он хотя бы отдаленно напоминал человека. Создать достаточно сложный компьютер размером с человеческий мозг тоже очень трудно.

Но забудем на время о роботах. А зачем нам вообще строить компактный компьютер? Детали, из которых делаются компьютеры, становятся все меньше и меньше — от вакуумных трубок и транзисторов до интегральных схем и силиконовых чипов. Предположим, что в дополнение к тому, что мы уменьшаем детали, мы одновременно увеличиваем всю структуру.

Мозг, который становится слишком большим, в конце концов начинает терять эффективность, потому что нервным импульсам требуется больше времени, чтобы добраться до места своего назначения. Даже самые быстрые из них развивают скорость лишь около 6 километров в минуту. Нервный импульс может попасть из одного отдела мозга в другой за 0,002 секунды, но в мозгу длиной в 15 километров — если мы в состоянии себе представить такой — импульсу потребуется 2,5 минуты, чтобы добраться туда, куда ему нужно. Дополнительная сложность, которая становится возможной благодаря большим размерам, окажется совершенно бесполезной просто потому, что информация будет слишком долго путешествовать и обрабатываться в цепях мозга.

Но компьютеры используют электронные импульсы, которые передвигаются со скоростью более 17,5 миллионов километров в минуту. Компьютер протяженностью 650 километров будет посылать электронные импульсы из конца в конец примерно за те же 0,002 секунды. По крайней мере, в этом отношении компьютер таких громадных размеров в состоянии обрабатывать информацию с той же скоростью, с какой это делает человеческий мозг.

Таким образом, если мы представим себе производство компьютеров, состоящих из все более и более миниатюрных деталей, которые все более и более сложно взаимодействуют между собой, и одновременно представим, что наши компьютеры будут увеличиваться в размерах, не можем ли мы предположить, что рано или поздно наступит момент, когда они начнут выполнять работу, которую сейчас делают люди?

Существует ли теоретический предел разумности компьютера?

Я об этом не слышал. Мне кажется, что всякий раз, когда мы усовершенствуем какую-то модель, делая ее более сложной, возникает ощущение, что этот компьютер способен на большее. Всякий раз, когда мы увеличиваем компьютер в размерах, стараясь одновременно сохранить сложность каждой детали, выясняется, что компьютер способен на большее.

Итак, если мы научимся делать достаточно сложные и достаточно большие компьютеры, почему они не могут быть наделены человеческим умом?

Кое-кто наверняка нам не поверит и скажет: «Разве может компьютер создать великую симфонию, произведение живописи или новую научную теорию?»

В таких ситуациях мне всегда хочется ответить вопросом на вопрос: «А вы можете?» Впрочем, не следует забывать, что в мире, населенном самыми обычными людьми, есть и великие люди, настоящие гении. Однако они становятся гениями лишь потому, что атомы и молекулы у них в мозгу организованы особым образом. У них в головах нет ничего другого, кроме атомов и молекул. Если мы особым образом выстроим атомы и молекулы в компьютере, он тоже сможет создавать гениальные произведения; и даже если отдельные его детали будут не такими крошечными и изощренно сложными, как в человеческом мозгу, мы компенсируем это увеличением размеров компьютера.

Кое-кто скажет: «Но компьютеры могут делать только то, на что они запрограммированы».

Ответ на это таков: «Совершенно верно. Но мозг тоже может делать только то, на что он запрограммирован — генами. Частью программы мозга является способность учиться, что должно войти и в программу сложного компьютера».

На самом деле, если можно создать компьютер, не уступающий по уровню интеллекта человеку, почему нельзя сделать его умнее!

Действительно, почему? Может быть, в этом и заключается эволюция. За три миллиарда лет, методом проб и ошибок на уровне атомов и молекул, в результате чрезвычайно медленного и постепенного усовершенствования появился наконец вид, достаточно разумный для того, чтобы сделать следующий шаг вперед уже в течение века или даже нескольких десятилетий. И вот тогда начнется настоящий прогресс.

Однако если компьютеры станут умнее людей, не возникнет ли опасность, что они нас заменят? Ну а почему бы и нет? Они могут быть не только разумными, но и добрыми и позволят нам просто плыть по течению. Будут держать нас при себе в роли домашних животных или так, про запас.

А теперь подумайте, что мы сами сейчас делаем со всеми живыми существами и с самой планетой, на которой живем. Вполне возможно, уже пора нас заменить? Может быть, главная опасность заключается в том, что компьютеры будут развиваться недостаточно быстро, чтобы занять наше место?

Подумайте об этом[7].

Довольно трудно думать о компьютерах, представляя себе вариант, когда они могут «захватить» наше место.

Заменят ли они нас, превратят ли в какой-то пережиток, выбросят ли на свалку, как мы в свое время расправились с копьями и трутницами?

Если мы представим себе компьютерный мозг внутри металлической имитации человека, которую мы называем роботом, страх окажется еще более ощутимым. Роботы так напоминают людей, что один только их внешний вид может послужить причиной возникновения у них мятежных мыслей.