Айт встретился взглядом с Мэй. В ее глазах тоже не было ни удивления, ни восхищения. Только мелькнули оживленные смешинки — так, будто и она прекрасно знала возможности этой электронно-вычислительной машины и всю глубину самообмана Кейз-Ола.
А триллионер гордился своим могуществом.
— Вперед! — скомандовал он машине. И та сразу тронулась с места, осторожно обошла электрокар, двинулась к воротам туннеля, распахнула их и умчалась в направлении Урании.
Кнопка «Стоп!»
Случилось несчастье: умная и ласковая «Малютка», любимица всех работников Института автоматики Союза Коммунистических Государств, «сошла с ума».
Машина с выпуклыми глазами-локаторами, с неуклюжими конечностями краба металась из угла в угол в одном из боксов полигона института, ощупывая стены и пол. Время от времени она останавливалась, словно что-то обдумывала, потом снова начинала исследовать помещение. Особенно ее интересовали те участки бокса, которые были перекрыты надежными стальными дверями.
В кабине наблюдения рядом с боксом — двое: инженер Дэйв и его учитель, пожилой директор Института автоматики. Оба не сводят глаз с «Малютки».
— Так в чем же дело, профессор? — спрашивает Дэйв. — Мы недавно проверили всю схему. Никаких повреждений нет, контрольные задания выполняются абсолютно точно. И вот, как видите, включилась самостоятельно и рвется вон из помещения…
— Выпустите ее…
— Нельзя, профессор! — встревоженно возражает Дэйв. — Она натворит таких дел!
— Выпустите.
Пожав плечами, Дейв щелкнул выключателем.
Стальная плита ворот медленно поднялась. «Малютка» насторожилась, подползла к отверстию.
В соседнем боксе находится почти такая же, только меньше размерами кибернетическая машина. Это — первая, еще несовершенная модель электронно-вычислительной машины с самопрограммированием. Ее электронный мозг отключен, атомный реактор удален. Она не могла сделать ни одного движения.
Со своей старшей сестрой кибернетическая «Малютка» встречается впервые. В ее системе машинных рефлексов нет таких, которые определяли бы родственные чувства. Наоборот, инженер Дэйв запрограммировал действия машины так, что она воспринимает каждый неизвестный предмет как потенциального врага. Теперь он и сам не рад этому.
— Хищник! Самый настоящий хищник! — в голосе инженера звучит почти отчаяние.
Сравнение с хищником совсем не случайное. Щупальца «Малютки» шевелятся встревоженно, реле-переключатели электронного мозга лихорадочно стучат. Там сейчас решается сложная задача: «Что это, как в таком случае поступить?»
Неизвестный предмет, который не проявляет агрессивных намерений, по программе, надо ощупать, сфотографировать и обойти. А «Малютка», как только закончился процесс анализа, сорвалась с места, налетела на свою «сестру» и начала ее яростно разрушать.
«Кроха» — машина универсальная. Ее щупальца оборудованы газовыми резаками, пилами, гайковертами. Теперь все эти инструменты пущены в ход. Движения сооружения чрезвычайно слаженные, точные. Она действует не наугад, а в первую очередь уничтожает устройства управления своей жертвы. И в этом есть что-то отвратительное и страшное: с таким равнодушием и методичностью даже мясник не разделывает забитое животное.
— Что ты делаешь, проклятая?! — бледный инженер Дэйв едва сдерживается, чтобы не крикнуть в микрофон безоговорочную команду «Стоп!».
— Не волнуйтесь, Дэйв… — директор института сосредоточен, но спокоен. — Когда она начала проявлять склонность к агрессивности?
— Дня три назад. Обходя препятствия, она поползла прямо на нас с братом. А сегодня утром у нее появилась мания разрушения.
— Разрушения?.. — директор с сомнением покачал головой. — А что делает «Малютка» с деталями разрушенных машин?
— Не знаю, ибо не позволял ей ничего разрушать.
— Ну, сейчас увидим.
«Кроха» продолжала свое дело. Быстро и уверенно она разбирала поверженную машину на составные части, поврежденные детали выбрасывала прочь, а пригодные — бережно сортировала. За какой-то час от сложной установки остался голый металлический скелет и кучи железок, проводов, пластмассы.
Собственно, ничего необычного в действиях «Малютки» до сих пор не было. Еще при конструировании инженер Дэйв вложил в электронную память сооружения программу демонтажа любой другой машины по специальному приказу. Но что же она будет делать дальше?
«Малютка» замерла. Казалось, утолив жажду разрушения, она успокоилась. Однако микрофоны доложили: реле-переключатели сооружения щелкают все интенсивнее, а на дубляжной схеме в кабине наблюдения индикаторы каждого участка электронного мозга машины ярко сияют. Что за процессы анализа и синтеза происходят сейчас в нем? Какие новые команды записываются на барабаны памяти? Определить это уже невозможно. «Малютка» вышла из-под контроля своего создателя, она — «сошла с ума».
Нет, машина не мыслит и сознания не имеет. И разве есть сознание в черве или насекомом? Но ведь они же выполняют сложные целенаправленные действия, порожденные и усовершенствованные трудным и длительным процессом эволюции. Так, может, и машинные рефлексы кибернетической «Малютки» сейчас перестраиваются в направлении наибольшей целесообразности?
— Ну же, ну!
Инженер Дэйв с волнением ждал дальнейших действий «Малютки». Но самостоятельно выработанная программа электронного мозга сооружения была просто невероятной: «Малютка» начала разбирать сама себя. Гайковерты и клешни-зажимы сняли защитный кожух аппаратуры, в схему вдвинулись щупальца, оборудованные электрическими паяльниками.
На дубляжной схеме в кабине наблюдения, один за другим, гасли индикаторы каскадов машины. Их более пятидесяти тысяч, и потеря нескольких десятков из общего количества еще неопасно. Но, в конечном счете, наступит момент, когда электронному мозгу будет нанесен непоправимый вред… Что же будет тогда?
Два противоположных чувства борются в душе инженера Дэйва: желание довести до конца необычный эксперимент и опасения за машину, на строительство которой потрачено так много усилий. Если бы не директор института, конструктор давно бы уже прекратил это саморазрушение машины. Но что, что она делает? Какова его программа действий?
Отключаются не все каскады подряд. Есть определенная закономерность в отключении индикаторов на дубляжной схеме.
— Профессор!.. — Дэйв вскочил, сжал кулаки. — Дальше можно не ждать… Она пытается добраться до кнопки «Стоп»!
— Молчите! Следите! — директор так возбужден, что потерял свою обычную выдержку. — Смотрите и запоминайте на всю жизнь! Сейчас в этом боксе рождается машина высшего класса — «Машина Дэйва». Я горжусь тем, что вы мой ученик!
Дэйв сердито засопел, но не возразил. Это — гибель «Малютки». Достаточно ей выключить кнопку «Стоп!», тот участок электронного мозга, которая блокирует всю схему, и сооружение выйдет из-под контроля человека полностью. Энергии атомного реактора хватит «Крохе» надолго. Она будет делать все, что ей заблагорассудится, не подпустит к себе никого. И ее придется, в конечном счете, уничтожить.
— Ничего не понимаю, профессор… — смущенно сказал Дэйв. — Я породил механического хищника. Ошибочность конструкции «Малютки» — бесспорная…
— Как вы сказали? — Профессор отвел взгляд от иллюминатора, улыбнулся. — Ошибочность конструкции?
— Ничего не понимаю, профессор… — смущенно сказал Дэйв.
— А вот то, что не понимаете, — плохо! Какую программу вы дали «Малютке»? Любой ценой бороться за свое, так сказать, существование? Это означает: устранять все препятствия, противостоять всякому нежелательному воздействию. Кнопка «Стоп!» для электронно-вычислительной машины — самый сильный нежелательный раздражитель. Какую бы программу не произвел ее электронный мозг, вы можете в любую минуту вмешаться и нарушить весь ход машинных рефлексов. Поэтому естественно, что, в конечном счете, процесс логического анализа привел «Малютку» к выводу о необходимости выбросить кнопку «Стоп!»?
