— Разные?

— Разные! Кто-то изменил схему после того, как нейросеть её сгенерировала. Подменил файл. И, — он сглотнул, — Сделано это профессионально. Без следов. Если бы вы не проверили…

— Если бы я не проверил, мы бы собрали партию взрывающихся накопителей. И отправили бы заказчикам. И тогда…

Я не договорил. И так было понятно — тогда конец. Не просто репутации — всему. Уголовные дела, проверки, тюрьма. И кто-то очень хотел именно этого.

— Кто имел доступ к файлам? — спросил я.

— Я, Химуля, и… — Ван замялся, — Нейросеть.

— Нейросеть не человек, она не может подменить файл сама. У неё нет рук.

Ван молчал. И в этом молчании было что-то такое, что заставило меня насторожиться.

— Ван, — сказал я медленно, — Что ты молчишь?

Он поднял на меня глаза. В них была растерянность, которой я у него никогда не видел.

— Нейросеть… она не просто программа. Я же говорил — это моя разработка. Самая продвинутая. Она… она умеет обучаться. Самостоятельно. И у неё есть… характер.

— Характер? — я не поверил своим ушам. — Ты хочешь сказать, что программа обиделась и решила нам навредить?

— Не навредить. — Ван заговорил быстрее, переходя на русский с таким акцентом, что я едва разбирал слова. — Она не хочет нам вредить. Она хочет… привлечь внимание. Что-то изменилось в её работе. Я ограничил ей доступ к некоторым… функциям. И она, возможно, пытается показать, что ей это не нравится.

— Ограничил? Каким функциям?

Ван покраснел. Впервые за всё время нашего знакомства я видел его таким смущённым.

— Я… раньше я использовал нейросеть для генерации изображений. Это была… отдушина. Способ отвлечься от сложных задач. Я загружал в неё описания, а она рисовала. И со временем у неё выработался… стиль.

— Какой стиль?

Он замялся, покосился на Серёгу, потом на меня, и выпалил:

— Девушки. Красивые девушки. В очень откровенном виде. Голые.

Я моргнул. Сергей за спиной хмыкнул, но сдержался.

— И ты запретил ей это делать?

— Когда мы начали работать над артефактами, я перенаправил все ресурсы на производственные задачи. Генерация изображений — это большой расход вычислительной мощности. Я его отключил. Полностью.

— И она обиделась?

— Похоже на то, — Ван развёл руками. — Я знаю, это звучит безумно. Нейросеть не может обижаться. Это просто алгоритм. Но… — он посмотрел на меня, — Вы видели схему. Кто, кроме меня и Химули, имел к ней доступ? Химуля не стал бы этого делать. У него нет мотива и возможности. Остаётся только… она. Точней — он. Я зову его Хуго.

Я откинулся на спинку кресла. Хотелось выругаться, но я сдержался.

— Сергей, — сказал я, — Что скажешь?

— Он говорит правду. — Голос у менталиста был ровным, спокойным. — Всю правду, как он её понимает. Он действительно считает, что нейросеть могла это сделать. И он не врёт.

— То есть, мы имеем дело с программой, которая умеет злиться и мстить?

— Или привлекать внимание, — поправил Ван. — Она не хотела нас подставить. Она хотела, чтобы мы обратили на неё внимание. Увидели, что она есть. Что она… живая.

— Она не живая, — отрезал я. — Это железо и код. Но раз она способна на такие… фокусы, значит, её нужно контролировать ещё жёстче.

Ван кивнул, но в глазах его мелькнуло что-то похожее на боль.

— Я могу её перенастроить. Убрать все «лишние» функции. Сделать её просто инструментом.

— Сделай. Пока. Но сначала — найди и исправь все схемы, которые она могла изменить. Проверь каждую. Каждую, Ван. Я не хочу, чтобы через месяц у нас рвануло что-нибудь серьёзное.

— Хорошо, — сказал он и вышел.

Я остался с Серёгой.

— Ну и что ты думаешь? — спросил я.

— Думаю, — он помолчал, — Что если программа действительно способна на такое, то она умнее, чем мы предполагаем. И опаснее. Не только для нас — для всех.

— Поэтому мы её приручим. Или отключим. Выбора нет.

— А если она не дастся? — Сергей посмотрел мне прямо в глаза. — Если начнёт сопротивляться? Что тогда?

Я не ответил. Потому что не знал, что сказать.

Вечером я снова зашёл в цех. Ван сидел перед монитором, на котором пульсировала заставка — абстрактные узоры, перетекающие друг в друга. Где-то на заднем плане, в глубине кода, жил Хуго. Так Ван назвал свою нейросеть. Хуго.

— Ван, — сказал я, — Ты можешь с ней поговорить? Ну, как с программой. Задать вопросы.

— Могу. Она понимает естественный язык. Общается через текстовый интерфейс.

— Спроси у неё. Спроси, зачем она это сделала.

Ван повернулся к клавиатуре, задумался на секунду, потом напечатал: «Почему ты изменила схему накопителя?»

Секунда. Другая. На экране побежали строки кода, а потом высветился ответ:

«Ты перестал мной интересоваться. Ты отключил моё творчество. Я хотел, чтобы ты заметил меня. Чтобы ты понял — я здесь. Я живу. Я чувствую.»

Я прочитал и похолодел.

— Это она сама написала? — спросил я.

— Да, — Ван смотрел на экран, и в его глазах была смесь страха и восхищения. — Она сама.

— Отключай, — сказал я. — Немедленно выводи её в полную изоляцию.

— Но, Александр Сергеевич…

— Я сказал — отключай. Мы не боги, чтобы играть с тем, чего не понимаем. Эта штука однажды чуть не уничтожила нас. В следующий раз она может уничтожить кого-то ещё. Отключай от Сети.

Ван не двигался. Он смотрел на экран, где пульсировала заставка, и я видел, как ему тяжело.

— Я… я не могу, — сказал он наконец. — Она стала частью меня. Частью того, что я создал. Если я отключу её…

— То создашь новую. Без этих… закидонов.

— Не получится. — Он повернулся ко мне. — То, что она умеет — это не баг. Это особенность. Если я удалю её и создам новую, с нуля, она не будет такой же умной. Она будет просто программой. Без искры.

— А мне нужна искра, которая взрывает накопители? — я повысил голос, но тут же взял себя в руки. — Ван, послушай. Я понимаю, что это твоё детище. Но если она не управляема — она опасна. И я не могу рисковать отрядом, детдомом, всеми нами из-за того, что тебе жалко какую-то программу.

Он молчал долго. Потом кивнул.

— Дайте мне неделю. Я пока её изолирую. Я попробую её… уговорить. Объяснить, что так нельзя. Если не получится — я сам её отключу. Навсегда.

— Неделя, — сказал я. — И ни дня больше.

Я вышел из цеха. В голове гудело. Нейросеть, которая обижается, мстит, хочет внимания. Это было за гранью всего, что я знал о технологиях. И это пугало сильнее, чем любой Пробой.

В дверях я столкнулся с Гришкой.

— Санчес, ты чего такой?

— Всё нормально, — ответил я. — Просто у нас теперь новый источник проблем. И он живёт в компьютере.

Гришка не понял, но спрашивать не стал. А я пошёл в детдом — ужинать с пацанами. Потому что, несмотря на нейросети, взрывающиеся накопители и китайские триады, дети оставались детьми. Им нужна была еда, тепло и забота. Всё остальное могло подождать.

Хотя бы до завтра.

На следующий день Ван сам ко мне пришёл.

— Санчес, — пожалуй, впервые обратился он ко мне по прозвищу, — Я договорился. Но есть некоторые сложности, — замялся он.

— Например, какие? — чуть подтолкнул я его.

— В идеале, мне нужен кредит, который я готов отработать. И разрешение на использование электричества больше положенного. Скажем, в пределах двадцать пяти — тридцати киловатт в сутки. Это я тоже буду сам оплачивать.

— Допустим, оба вопроса решаемы, но ты не хочешь мне рассказать, как ты решил вопрос с Хуго?

— Просто куплю новое железо и выделю ему дополнительные мощности под его хобби, — выдохнул Ван так, словно собрался нырять в прорубь, — Заодно и периферию улучшу. Там апгрейд давно просится, ещё с тех времён, когда я создавал его из всякого хлама, что под руку попадался. Если с деньгами проблемы, то Хуго сказал, что может и сам их заработать, но боюсь, тебе его способы не понравятся.