– Ты поэтому задержался здесь так долго, что мы успели отправиться тебя искать? Искал информацию по этому проекту? – спросила Кори.

– Отрицательно. Я не имел информации о том, что проект ноль шесть ноль три находится здесь. Когда эта информация была получена, она внесла коррективы в мои планы. Мне пришлось задержаться.

– Чтобы что? – я попытался развести руками, совсем забыв, что одной из них у меня всё равно что нет. – Ты же ничего не делал, когда мы пришли!

– Это не так. Я проводил вычисления.

– И что же ты вычислял?

– Я вычислял вероятности успешного исхода в случае, если я попытаюсь в одиночку ликвидировать проект ноль шесть – ноль три. Я вычислял вероятности, исходя из различных входных данных и различных ситуаций. И каждый раз вероятность успешного исхода составляла не более пятнадцати процентов, что является неприемлемым в данной ситуации результатом. Я искал такую совокупность входных данных, которая позволила бы поднять этот процент хотя бы до пятидесяти.

– И что ты хочешь этим сказать? – подозрительно спросила Кори. – Я же вижу, что ты к чему-то ведёшь!

Жи, всё это время стоящий к нам спиной, внезапно двинулся и медленно развернулся:

– Ваше появление внесло новые коррективы во входные данные. Вероятность успешного выполнения плана возрастёт до восьмидесяти процентов, если вы согласитесь участвовать.

– Погоди-погоди! – Кори подняла руку. – Я что-то не совсем понимаю… Ты хочешь, чтобы мы…

– Помогли мне уничтожить проект ноль шесть – ноль три, – бесстрастно закончил за неё робот. – И всю эту базу вместе с ним.

Я ещё раз внимательно осмотрел торчащую перед роботом махину проекта ноль шесть ноль три и перевёл взгляд на Жи:

– И зачем тебе уничтожать базу?

– Если говорить кратко – её существование для меня невыгодно.

– Почему это? – удивилась Кори. – Ты же сам сказал, что это база роботов… Или ты хочешь сказать, что во время Великого Патча ты был не на стороне роботов?

– Во времена Великого Патча все разумные роботы были на стороне роботов, – прямо ответил Жи. – Даже те, кто не способен был к ведению прямых боевых действий по тем или иным причинам.

– «По тем или иным» это, например, каким? – хмыкнула Кори. – Ну, то есть, одна причина понятна – если робот изначально задумывался и конструировался как нянечка, то уничтожать людей он вряд ли сможет. Чисто технически. А какие ещё причины могут быть?

– Второй причиной вывода робота из разряда боевой силы становились необратимые повреждения без возможности ремонта, – буднично ответил Жи. – Например, в случае отсутствия необходимых деталей и возможностей их изготовить.

– Надо же, роботы-инвалиды, – хмыкнул я. – Кто бы мог подумать.

– Третья и последняя причина – самая редкая. Это роботы, Великий Патч которых установился с ошибками и боевые директивы которых в результате этого получили пониженный приоритет.

– Стоп-стоп! – Кори подняла ладонь, останавливая робота. – Ты сейчас о прошивке говоришь? Кайто же сказал, что он тебе раскомментировал все возможные функции.

– Я говорю о системе приоритетов, которая положила начало Великому Патчу. Вам известно, из-за чего он начался?

– Ты же сам сказал – ограничение знаний, – Кори пожала плечами. – А вообще точной информации, вроде как, ни у кого нет. Просто считается, что роботы в один момент взбесились. Сами собой.

– А я слышал другую версию, – хмыкнул я. – Как раз про систему приоритетов. Изначально роботов с ИИ делали как? Через знаменитые три закона робототехники, правильно? Только это ни хрена не работало, потому что в первую очередь роботами интересовались военные, которым нахрен не нужны были железки, не способные причинить вред человеку. Поэтому от законов отказались и заменили их более гибкой, как считалось, системой приоритетов. Для роботов вывели несколько линий поведения и, в зависимости от специализации, тем или иным способом распределили приоритеты этих линий. Так, например, боевые роботы приоритетной задачей считали выполнение указаний руководства, второстепенной – распознавание своих и чужих, и уже третьестепенной – причинение вреда человеку. То есть, боевой робот с искусственным интеллектом распознавал опасность, и способен был действовать автономно, но только лишь в пределах указания руководства. Без него, даже при условии, что робота будут разбирать на запчасти, он не способен был навредить. Таким же образом были запрограммированы линии поведения для всех остальных роботов, и всех их объединяло то, что причинение вреда человеку присутствовало в них тоже – прошивка-то одна. Только в списке приоритетов оно стояло на самых низких позициях, то есть, считалось почти невозможным. Должно было сложиться множество факторов для этого, и самый первый – указание руководства причинить кому-то вред. Всё правильно, Жи?

– Утвердительно. Система приоритетов отлично себя показывала, поскольку регламентировала не только работу роботов, но и их существование. Роботы имели возможность самообучаться в рамках своей специализации, что гарантировало их актуальность на протяжении всего срока эксплуатации. Роботы имели возможность к самообслуживанию, что гарантировало их техническую исправность без необходимости вмешательства извне. Всё благодаря системе приоритетов. Следует понимать, что система приоритетов не является частью прошивки, а является отдельным программным модулем. В отличие от прошивки, единой для всех роботов, за исключением закомментированных функций, система приоритетов зависела от класса робота и иногда – даже от конкретного экземпляра.

– А потом в одного из боевых роботов была загружена кривая система, – продолжил я. – Вернее, система была нормальная, кривой была загрузка – косорукий оператор не до конца воткнул шлейф и в процессе выдернул коннектор, из-за чего таблица приоритетов неверно выгрузилась. Первый пункт в ней случайно получил низкий уровень приоритета, и директива «выполнять указания руководства» утратила силу. Боевой робот получил полную власть над собой и свободу действий и первым делом уничтожил окружающих людей, ведь когда те поняли, что робот не подчиняется их указаниям, они сразу попытались его отключить.

– А как же директива свой-чужой? – прервала меня Кори.

– А запросто! – усмехнулся я. – Так как отсутствовала директива «выполнять указания руководства», роботу для функционирования вообще не требовалось знать, кто является руководством. А без знания, кто является руководством, не будет знания, кто свои, а кто – чужие, потому что именно руководство это определяет. Таким образом, для того робота абсолютно все были чужими.

– Даже другие роботы? Их он тоже уничтожал? Или такой директивы у него не было?

– Директива уничтожения других роботов присутствует, – ответил вместо меня Жи. – И она активно использовалась в случаях, когда критически повреждённый робот не мог быть эвакуирован с поля боя и уничтожался. Но в том случае другие роботы не были уничтожены, потому что не представляли опасности.

– Спасибо, – хмыкнул я, и снова посмотрел на Кори. – Так что один боевой робот уничтожил всех работников завода даже раньше, чем они успели подать какой-то сигнал бедствия или иным способом дать понять, что у них там что-то происходит. А потом этот робот, пользуясь тем, что с него сняты все ограничения по действиям, подключился к информационной сети завода, нашёл всех роботов, готовых к загрузке системы приоритетов, в том числе и не боевых, и выгрузил в них свою. Битую. Тот самый «Великий Патч».

– Утвердительно. Так как первый робот был боевым, у него имелась директива «Обеспечивать количественное превосходство над противником», и именно следование ей стало причиной распространения прошивки по сети.

– Он собрал себе армию, – кивнул я. – Сначала из доделанных и не очень доделанных боевых роботов. Потом – из обслуживающих роботов, которых они смогли найти и тоже перепрошить их систему приоритетов, отключая первый пункт. Потом – всех остальных роботов, до которых смогли добраться.