– Несмотря на прошедшую неделю, особо больше узнать нам не удалось. Парень на пару со своей нейросетью находится в стабильном состоянии. Продолжаем снимать данные, все идет по плану, только исключили прямое взаимодействие с сетью во избежание повторения недавнего случая. В целом все, что нужно и возможно, мы сняли с него, больше держать его здесь смысла нет. Дальше нужен уже специально подготовленный подопытный с нужным набором модификаций и тому подобным, а не этот простой парень с улицы. Еще могу добавить, что благодаря нейросети Сергей прекрасно справляется со всеми возложенными на него задачами и быстро адаптируется под условия, будь то стрельба из оружия или физические нагрузки, – в этом нейросеть работает отлично, превосходя все наши теоретические расчеты. По поводу непосредственного взаимодействия с ней, пусть об этом лучше расскажет Влад, именно его команда занималась этим. – Закончив говорить, Алексей облегченно перевел дух.
– А вот с моей стороны с самой нейросетью не все так радужно, как расписал Алексей, – взял слово упомянутый Влад, нос которого уже давно зажил. – Она напрочь игнорирует прямые команды и не поддается управлению. Если пытаться пробиться силовыми методами, то она переходит в активную защиту и атакует программную оболочку аппаратуры, выводя ту из строя. Если действовать не напрямую, то вот тогда можно чего-то от нее добиться, но… не всегда получается задуманное, слишком много надо внести косвенных изменений, и не всегда удается до конца просчитать все факторы. И важно – итоговые изменения не должны нести вреда ей или ее хозяину, тогда в девяносто девяти из ста случаев она не заблокирует их.
– Проще говоря – вы не можете контролировать нейросеть и урезать ее возможности не получится, – подал голос особист из своего угла.
– Не совсем так. Как раз вот с урезанием возможностей мы нашли выход. Уже несколько дней мы проводим точечные изменения, которые в итоге должны будут привести к нужному для нас результату. Еще неделя максимум в таком темпе, и мы сможем практически полностью заблокировать ее.
– И тогда получится подключиться к ней? – задал вопрос особист.
– Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется, – разведя руками, ответил ему ученый. – Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.
– Выяснили, почему так получилось? – спросил у Влада уже Андрей Владимирович.
– Нет, непонятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.
– Понятно, – кивнул ему Андрей Владимирович. – Кто-то еще что-нибудь хочет добавить?
В ответ ему была тишина.
– Тогда все свободны, – отпустил он своих подчиненных.
Все то, что они рассказали, он и так знал, но это нужно было обсудить, вдруг всплыли бы какие-нибудь упущенные детали или вдруг родились гениальные идеи.
– Что будешь делать? – спросил особист, когда все вышли из кабинета.
– Как и думал: урежем ему нейросеть, только придется оставить его еще на какое-то время, чтобы проверить, как получится. А потом пусть живет себе.
– Ты уверен? Может, проще оформить все как неудачный эксперимент?
– Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те, кто создали ее и знали все слабые места. Да и с «вытащить» не все так просто, она же теперь одно целое с его мозгом: умрет он – уничтожится и нейросеть, а в мозге ее изучить практически нереально.
– Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?
– Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.
– Так, может, таким образом кто-то сможет ее взломать?
– Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится – сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.
– Ясно. Отчет готов?
– Разумеется. Сегодня вечером отправлю его, а завтра жди бурю.
– Будешь сообщать о возникшей проблеме?
– Пока что нет. Попробуем исправить ее в следующей версии, есть парочка идей.
– Хорошо. Кстати, давно хотел спросить. А что это за саморазвитие у нее? Вы туда, что, искин впихнули? На что оно способно – это я уже увидел, впечатлило, но хотелось бы хоть примерно понимать, что за «оно» такое.
– Все сложно, если честно. Можно сказать, что там урезанный искин с кучей наших доработок. По идее – отдельный урезанный блок с реагированием на внешние угрозы и адаптацией к ним. А вот что получилось в итоге – это хороший вопрос. Уже сейчас понятно, что мы где-то ошиблись, но к чему это приведет, помимо потери возможности внешнего управления нейросетью, неизвестно. Если так подумать, то, может, это не так уж и плохо. Подключились в первый раз, пока она не вышла на полную мощность, настроили все, что нужно, зато потом никто уже не сможет больше управлять ею, особенно потенциальные противники, которые захотят исследовать нашу новинку.
– Может быть, ты и прав. Я тебя понял. Пожалуй, пока ничего докладывать не буду, но ты долго не тяни. Если не получится исправить возникшую проблему в новой версии, сообщи мне, и я преподнесу своему начальству в нужном свете.
*****
Целые две недели меня здесь уже мурыжат, все проводя и проводя различные тесты. Не сказать, что мне так уж и надоело тут, особенно учитывая, что в нейросеть они почти не лезли, только в первые дни попробовали, но та сразу среагировала, и больше не пытались.
Но чем дальше, тем сильнее у меня ощущение, что они тянут зачем-то время: новых экспериментов уже несколько дней как нет, даже весь местный арсенал освоил, постреляв из всего, чего можно и нельзя. Да и в самих них энтузиазм заметно подугас, видно, что они заняты уже чем-то другим. Ну, это не касается только тех, что работают непосредственно с нейросетью, те, наоборот, что-то упорно считывают и пытаются понять, как получилось то, что получилось.
В целом не жалуюсь на произошедшую задержку, ведь это время не прошло даром и для меня: с каждым новым днем получается все лучше и лучше взаимодействовать с нейросетью. Если раньше нужно было напрягаться, чтобы активировать какую-нибудь ее функцию, то теперь все получается при малейшем осмысленном усилии. Правда, функций этих не так уж и много, для большинства теоретически возможных нужны модификации тела, которые, разумеется, никто проводить со мной не стал, я же не военный все же.
Еще что странно немного, но на мне никак произошедшие с ней изменения не сказались. С одной стороны, логично, ведь они были программные, а с другой, кто ее знает… я уже вообще не знаю, чего от нее можно ожидать. Но чем дольше я с ней, тем грустнее становится, что ее урежут. Сейчас она стала уже почти чем-то родным, своим. Не уверен, но почему-то есть ощущение, что и она привыкла ко мне, как бы дико это ни звучало.
– Сергей, хватит дрыхнуть. – Открылась дверь в мою комнату, и в ней появился Алексей, который помощник самого главного здесь начальника.
– А? – удивленно смотрю на него. По стандартному графику у меня еще целый час должен быть, чтобы отлежать бока.
– Вставай, и пошли. Нужно внести последние изменения в нейросеть, и ты будешь свободен.
Вскакиваю с кровати, не зная, радоваться или грустить. С одной стороны, наконец выйду отсюда, а с другой… Почему-то при мысли о предстоящем становится грустно. Задавливаю в себе эту непонятную печаль. Ну что мне от этой нейросети? Главное, что я жив и буду жить дальше.
Быстро одевшись, выхожу в коридор, где меня терпеливо ждал Алексей, который просто Алексей без всякой фамилии или отчества. Несколько минут по коридорам, и мы пришли в уже знакомую лабораторию. Вижу, что там уже все готово: мое место свободно и рядом сидит Влад, явно в нетерпении ожидая меня.