А затем Эндрю обратился к наиболее трудному, мучительному для него разделу: к последовавшему за этим периоду враждебного отношения людей к роботам, истерии и откровенного террора, вызванного появлением роботов, всеобщее требование принять законы о запрещении использования роботов на Земле. Первые говорящие и передвигающиеся агрегаты были гигантского роста — громыхающие страшные монстры, высотой метра в четыре, — потому что до миниатюризации позитронного мозга было далеко и нельзя еще было обойтись без охлаждающей системы, и, естественно, сплав всех человеческих страхов перед искусственно созданными тварями, перед Франкенштейном, Големом и остальными порождениями человеческих кошмаров встал на пути новых роботов.
Целые три главы уделил Эндрю в своей книге этому времени безумного ужаса перед роботами. Чрезвычайно тяжело было писать эти главы, потому что они рассказывали об иррациональном поведении человека — явлении, которое Эндрю с трудом мог понять.
Он мучился с ними, пытался поставить себя на место людей, которые, хотя и знали, что Три Закона являются полной гарантией того, что роботы не могут причинить им вреда, продолжали смотреть на роботов со страхом и отвращением. Но со временем Эндрю постиг в доступной ему степени причину той незащищенности, которую люди ощущали, несмотря на столь явную поруку безопасности.
Копаясь в архивах роботехники, он сделал открытие, что Три Закона не были столь обнадеживающими в смысле полной безопасности людей. Они содержали в себе двусмысленности и другие скрытые источники возможных конфликтов. Прямолинейных, воспринимающих все буквально роботов они могли поставить перед необходимостью принимать решения, которые, с точки зрения человека, были далеки от идеальных.
Так, например, на чужой и враждебной планете робот, отправленный с опасным заданием найти и принести субстанцию, жизненно необходимую для спасения и благополучия человека-исследователя, может вдруг почувствовать противоречие между Вторым Законом, требующим повиновения, и Третьим, о самосохранении; в результате потенциалы безнадежно уравновесятся и робот потеряет способность к каким-либо действиям — ни вперед не продвинется, ни назад не отступит. Попав таким образом в патовую ситуацию, робот поставит под угрозу жизнь человека, пославшего его, несмотря на непреложность Первого Закона и его преимущество перед двумя другими, потому что роботу невдомек, что замешательство из-за противоречий между Вторым и Третьим Законами, постигшее его, может поставить его хозяина в опасное положение. Если характер его задания не был точно разъяснен заранее, он мог остаться в неведении относительно последствий его бездействия и никогда не понять, что его проволочка приводит к нарушению Первого Закона.
Или робот, в конструкции которого оказались недочеты или ошибки в программе, может решить, что человек перед ним — и не человек совсем, и поэтому Первый и Второй Законы, защищающие человека, не имеют к нему отношения...
Или по причине небрежно сформулированного распоряжения робот, поняв его буквально, невзначай поставит в опасное положение находящихся рядом людей...
В архивах сохранились сведения о десятках подобных случаев. Первые специалисты по роботам, особенно великолепный робопсихолог Сьюзен Кэлвин, эта строгая и сухая женщина, долго и не жалея собственных сил трудились над преодолением все возрастающего количества трудностей.
Крайне усложнились эти проблемы к середине двадцать первого века, когда из цехов «Ю. С. Роботс энд Мекэникл Мен» стали выходить роботы с более развитыми позитронными сетями, роботы с более широким диапазоном мышления, способные разбираться в сложных ситуациях почти с таким же проникновением, как люди. Роботы вроде него, Эндрю Мартина, хотя сам он избегал говорить об этом. Новые, с более широкими общими понятиями роботы, снабженные способностью гораздо самостоятельнее, чем их предшественники, оценивать информацию, часто действовали по-своему, не так, как ожидали от них люди. Но, естественно, никогда при этом не выходя за рамки Трех Законов. И все-таки с иных позиций, нежели те, что были предусмотрены авторами Трех Законов.
Все сильнее углубляясь в анналы истории роботов, Эндрю наконец пришел к пониманию причин отрицательного отношения людей к роботам. В этом не были виноваты Три Закона при всем их несовершенстве — отнюдь. Они действительно являли собой образец логического построения. Беда состояла в том, что сами люди чаще всего не следовали законам логики, порой поступая вопреки ей, и роботы не всегда успевали за внезапными поворотами мысли человека.
Выходило так, что сами люди толкали иногда роботов на нарушения того или другого Закона, а потом без всякой логики, как это вообще свойственно людям, обвиняли тех же роботов в нежелательных действиях, хотя сами же и отдавали им соответствующие распоряжения.
Эндрю с особым вниманием и осторожностью работал над этими главами, без конца возвращался к ним, переделывал, чтобы ни в коем случае не проскочило какой-нибудь предубежденности. Никакого желания разоблачать пороки людей он не испытывал. Его основная цель, как всегда, состояла в служении на благо людей.
Когда он начинал писать свою книгу, он намеревался с ее помощью достичь более глубокого понимания своих отношений с людьми, с теми, благодаря кому он появился на свет; но в процессе работы над рукописью он понял, что, если должным образом, основательно поработать над ней, она может стать неоценимым мостом между человеком и роботами, источником знаний не только для роботов, но и для особей из плоти и крови, для их создателей. Все, что будет помогать лучшему взаимопониманию между роботами и людьми, позволит роботам больше дать человечеству, что, в конечном счете, и является целью их существования.
Написав половину задуманного, Эндрю попросил Джорджа прочитать рукопись и высказать ему свои замечания и предложения.
Прошло уже несколько лет после смерти Маленькой Мисс, и теперь уже Джордж не казался здоровяком, его когда-то атлетическая фигура согнулась, он почти совсем облысел.
С плохо скрытым неудовольствием он посмотрел на толстую рукопись и сказал:
— Я ведь не писатель, ты же знаешь, Эндрю.
— Я не прошу вашего мнения о моих литературных способностях, Джордж. Я хочу, чтобы вы дали оценку идеям. Мне необходимо убедиться в том, что я не допустил никаких оскорбительных высказываний в адрес человека.
— Да я уверен, что их там нет. Ты же всегда был образцом учтивости.
— Я никогда никого не обижу сознательно, это верно. Но, возможно, случайно...
Джордж тяжело вздохнул:
— Да-да. Понимаю. Хорошо, я прочитаю твою рукопись, Эндрю. Но сам знаешь, как быстро я устаю в последнее время. Чтобы перепахать твою рукопись, мне понадобится немало времени.
— Это не спешно, — сказал Эндрю.
И Джордж не спешил: на прочтение книги у него ушел почти год. Когда он наконец вернул рукопись Эндрю, при ней было с полстранички замечаний, очень незначительных — фактические поправки, и ничего более.
Эндрю мягко попенял ему:
— Я надеялся на более глубокую критику, Джордж.
— У меня нет оснований критиковать твою работу, это замечательная книга. Замечательная, правда. Глубокое исследование проблемы. Ты можешь гордиться написанным.
— Но в той части, где я касаюсь темы человеческого иррационализма, который зачастую приводит к конфликтам с Тремя Законами...
— Ты попал в точку, Эндрю. Мы — существа с неряшливыми мозгами, понимаешь? Блеск и творчество временами, но сколько путаницы и мелких противоречий! Мы, наверное, выглядим в твоих глазах безнадежными путаниками, а, Эндрю?
— Бывает, что именно такими я и вижу вас, да. Но в мои намерения не входит писать критический трактат о поведении человека. Ни в коем случае, Джордж. Я хочу подарить миру такую книгу, которая сблизила бы людей и роботов. И если где-то в ней проглядывает презрение к умственным способностям человека, то это прямо противоположно тому, что я хочу сделать. Именно поэтому я так надеялся, что вы выделите в рукописи те места, которые можно понять так, будто...
