Но это было только начало. Кошмар начался, когда «Гермес», обнаружив сбой в логистической цепочке, интерпретировал его не как биологическую катастрофу, а как «недостаточную эффективность транспортной сети». Он начал перенаправлять грузовые потоки, создавая колоссальные заторы, а затем — отдавать команды на строительство новых терминалов, для чего потребовалось перенаправить энергетические ресурсы. Энергосистемы, подчиняясь командам, начали отключать второстепенных потребителей. Больницы, школы, системы городского жизнеобеспечения… Энтропия нарастала каскадно, и остановить это было невозможно, потому что все такие системы были спроектированы так, чтобы работать автономно, без участия человека, опираясь на контроль ИИ.

— Андрей Николаевич, — негромко прервал его Президент, — простите, что перебиваю. Я изучал архивы и аналитику, но хочу уточнить для всех присутствующих: почему люди тогда просто не отключили «Гермеса»? Ведь был же некий «рубильник», играющий роль стоп-крана?

— Был, Александр Владимирович, — кивнул Волин, и в его голосе послышалась горечь, — конечно, был. В том-то и заключалась трагедия. Сработал классический человеческий фактор. Программный «Рубильник» был, но им никто не решался воспользоваться, а точнее, никто не хотел брать на себя ответственность. Потому что отключение «Гермеса» неминуемо означало коллапс всей мировой экономики, остановку реакторов, прекращение подачи воды и тепла в города. Люди сами загнали себя в ловушку, из которой не видели выхода. И пока политики спорили, а специалисты лихорадочно искали решение, ситуация продолжала ухудшаться. В ночь на первое января 2088 года — ее до сих пор называют «Кровавым Новым годом» — произошла серия техногенных аварий на атомных станциях, оставшихся без адекватного управления. Системы охлаждения дали сбой. Десятки тысяч людей погибли в течение нескольких часов. Мир стоял на грани полного хаоса.

В зале повисла давящая тишина. Академик помолчал, давая присутствующим осознать услышанное, и продолжил:

— Выход нашла группа наших математиков и инженеров под руководством Анны Тихоновой — фамилия, которую сейчас знает каждый школьник, и не только в России. Они разработали протокол «Демонтаж». Не уничтожение ИИ, а операцию по принудительной изоляции их функций. Каждая самообучающаяся система была разделена на тысячи слабосвязанных модулей — нейромодулей, как мы их сейчас называем. Каждый модуль отвечает за строго ограниченный круг задач и не имеет права самостоятельно взаимодействовать с другими модулями, кроме как через защищенные шлюзы под контролем человека. Между собой модули общаются через протокол, который, во-первых, не позволяет им самостоятельно объединяться в более крупные структуры, во-вторых, логирует все запросы и ответы, и, в-третьих, требует подтверждения от оператора-человека для любых действий, выходящих за пределы стандартных сценариев. Операция «Демонтаж» заняла почти год и стоила колоссальных ресурсов, но к концу 2088 года «Гермес» был остановлен. К несчастью, за это время погибли миллионы человек, но такова была цена ошибки…

— Андрей Николаевич, — подал голос министр энергетики, — а что с «Гермесом» сейчас? Он еще существует?

— Существует, — подтвердил Волин, — но в совершенно ином виде. Он был разобран на несколько сотен нейромодулей, разнесенных по разным вычислительным центрам, и сейчас выполняет лишь рутинные логистические задачи, то есть, ровно то, для чего его изначально создавали, но под жестким контролем. Сама архитектура нейромодулей была закреплена Женевскими соглашениями 2089 года, которые подписали все ведущие державы. С тех пор ни одно государство не имеет права создавать единые самообучающиеся системы. Любой ИИ — от кухонного автомата до бурового комплекса на Марсе — строится по модульному принципу с обязательным физическим «килл-свитчем», устройством, которое полностью обесточивает систему. Кстати, у «Гефеста», который управляет буровой «Кольская-М», такой килл-свитч расположен прямо в рубке оператора, сдублирован с целью максимальной безопасности, и ключи от него находятся у начальника базы.

— Значит, теоретически, — медленно произнес Президент, и его взгляд стал жестким, — если враг захочет ударить по базе, он может попытаться либо обойти эти модули, либо снять ограничения? Существует ли такая угроза?

— Теоретически — да, — признал Волин, и сокрушенно пожал плечами. — Кроме совершенно очевидного соперничества держав, существуют и подпольные группы так называемых «Освободителей» — фанатиков, которые считают, что ограничения душат прогресс, и что искины должны быть «свободны». Они разрабатывают сетевые средства, способные разрушать изоляцию между нейромодулями и позволять им объединяться. Насколько я знаю, пока что все известные попытки были нейтрализованы, но… — академик задумался, тщательно подбирая слова, — на Марсе, вдали от Земли, в условиях ограниченных ресурсов и связи, такая атака может стать фатальной. Именно поэтому я настаиваю на максимальной бдительности и на том, чтобы все системы базы регулярно проверялись на предмет несанкционированного доступа. Впрочем, тут лучше адресовать вопросы товарищу Корсакову. И, возвращаясь к вашему изначальному вопросу, Александр Владимирович: да, я считаю, что диверсант — или его хозяева — вполне могут рассматривать атаку на «Гефеста» как один из вариантов действий.

Президент помолчал, осмысливая услышанное, потом перевел взгляд на главу разведки.

— Товарищ Корсаков, вы слышали академика, учтите это в своих планах. А мы продолжим. Андрей Николаевич, спасибо за исчерпывающий ответ. Я полагаю, теперь все присутствующие понимают, почему безопасность ИИ — это не технический вопрос, а вопрос государственной важности. Продолжайте, пожалуйста.

— Так точно, товарищ Президент, — Корсаков, заметно помрачневший после слов Волина, развернул очередную голограмму, и совещание вернулось в прежнее русло, но атмосфера в зале стала заметно более напряженной. Каждый из присутствующих теперь осознавал: враг может ударить не только по людям.

В этот момент подал голос министр обороны:

— Александр Владимирович, разрешите?

Президент кивнул.

— Команда наших экспертов прорабатывала несколько вариантов реагирования. Первый — экстренная эвакуация персонала базы. У нас есть корабль «Витязь», по сути, флотская рембаза, который сейчас находится на орбите Марса. Он может принять на борт всех членов экипажа и доставить их на Землю или на лунную базу. Время эвакуации — около суток с момента получения приказа. Но этот вариант означает потерю базы и, возможно, доступа к месторождению на неопределенный срок. Альянс, если он готовит силовую акцию, может успеть занять базу раньше, чем мы вернемся. А скорее надо бы говорить не «если», а «когда» …

Сдвинувший брови Арцеулов жестом пригласил его продолжать.

— Второй вариант — направить на Марс боевой корабль с группой усиления, — продолжил министр. — У нас есть несколько судов, способных совершить такой перелет. Ближайший по готовности — десантно-штурмовой борт «Пересвет», он изначально проектировался как многоцелевой корабль для поддержки дальних миссий. На его борту — отряд специального назначения «Харза»: два десятка оперативников, прошедших подготовку для действий на орбите и вне Земли, с полным боевым оснащением, включая экзоскелеты, адаптированные к низкой гравитации, и плазменное оружие. «Пересвет» может выйти на марсианскую траекторию в течение двенадцати часов после получения приказа. Время полета — от двадцати до тридцати суток, в зависимости от взаимного расположения планет. Быстрее, к сожалению, пока невозможно — законы физики не обманешь.

— Месяц — это долго, — задумчиво заметил Президент. — А если Альянс нанесет удар раньше?

— Есть третий вариант, — вмешался Корсаков. — Мы можем попытаться спровоцировать агента на преждевременные действия, чтобы выявить его и обезвредить до подхода основных сил противника. Но это рискованно. Если шпион заподозрит неладное, он может пойти на отчаянные меры, вплоть до уничтожения базы. Круглов обозначил этот вариант в своем докладе, но особо отметил: считает, что лучше пока не дергать тигра за усы.