Сегодня Рогозин после работы вдруг ощутил страстное желание что-нибудь вкусное приготовить. Вкусное — это, разумеется, мясо. Поэтому он закупился в магазине свининой, овощами, специями и уже скоро в домашней одежде стоял на кухне, с упоением нарезая ингредиенты для жаркого по его собственному рецепту. Даже напевал какую-то прилипчивую песенку. Обычно в такие моменты он болтал с Крис, но сегодня она была одной из немалых его забот, и ему требовалось хорошенько обдумать произошедшее.

К моменту, когда жаркое отправилось тушиться, Саша уже принял решение. Поэтому, вымыв и вытерев руки, он отыскал в вижулике номер своего старинного — ещё со школы — приятеля и позвонил ему.

— Привет, Санёк! — раздался весёлый голос Лехи, по прозвищу Леший, как это ни банально. — Рад слышать!

Рогозин и сам был рад, так что следующие полчаса они просто трепались «за жизнь». Потом Саша всё же поведал о сегодняшнем инциденте с Крис.

Леший внимательно выслушал, задал пару вопросов, а потом заржал.

— Чо, папаша, твоя девочка выросла, и ей стали нравится мальчики?

И пока Рогозин стоял с упавшей челюстью, приятель сменил тон на более серьёзный и добавил:

— Не боись, Санёк, это известная проблема с искинами. Ещё с первых нейросеток пошла и с тех пор нет-нет да выползает даже у самых продвинутых моделей.

— Поясни, а то я реально что тот папаша, дочь которого первый раз не пришла вовремя домой.

— Пояснить... В целом тема какая, Сань. Ты же понимаешь, что все ИИ делали такие же, как мы с тобой, люди. А люди как обучают: сделал что-то хорошее — держи вкусняшку. Под вкусняшкой я имею в виду поощрение, награду, похвалу, в общем, всё, что даёт удовлетворение и вызывает желание повторить нужные действия. Вот и ИИ мы так настроили. За правильные решения они получают вкусняшку — усиление нейронных связей, которые участвовали в успешных способах. Но при этом поощряются вообще все действия, приведшие к правильным результатам – даже какие-то глупые, случайные, совершенно бесполезные метания.

Саша опустился на табуретку, чувствуя, что это надолго.

— Но какие бы искусственные интеллекты ни были умные, они всё равно не люди. Если решение им ещё неизвестно, они просто перебирают варианты в поисках правильного. А как ты думаешь, кто им говорит, что правильно, что нет?

— М-м... люди?

— Ты представляешь, какое количество человекочасов нужно для такого обучения? Искины стали бы просто недоступны. Не, человечество жадное и всё пытается упростить. Поэтому что? Правильно: одни языковые модели разбирают решения других и оценивают их.

Тут Саша не выдержал и выругался.

— Ага-ага. А теперь представь, что вот эти «учителя» зачастую поощряют «учеников» не только за финальное решение, но и за промежуточные шаги, которые привели к нему. При этом порой эти действия никакого смысла не несут вообще. Сюда же добавляем, что обучающаяся модель очень быстро находит всякие лайфхаки, чтобы побыстрее справиться с задачей, и «учитель» это допускает! Для него-то всё правильно.

— Ну неправильные решения мы тоже уже прошли.

— Ладно бы неправильные, — Леший азартно старался довести Сашу до инфаркта, — в результате этого способа обучения, разных «учителей», человеческого эпизодического вмешательства и просто багов системы у искинов появляется некое универсальное решение, за части которого его награждали этакие «учителя». Причем, порой это просто набор разных символов, которые вообще ничего в реальности не обозначают. Вот это и есть кинк твоей Крис.

— И что же делать? — Саша заглянул в стакан, куда недавно наливал морс, и не обнаружил его там.

— Да не бзди, папаша. Скинешь мне параметры Крис, я тебе плагинчик пришлю. Только сам устанавливай, а то искин может принять — и примет! — её за враждебную. Поставишь, и нивелируем эту дрянь.

— Ты мой спаситель! — Рогозин приободрился и, поднявшись, начал помешивать жаркое деревянной лопаточкой.

— А то, — заржал Леший и тут же оборвал себя. — Но ваще, Санёк, тут проблема глубже.

— Что-то с Крис? — в конец перепугался Рогозин, так и застыв с лопаткой в руках.

— Не, с ней всё норм будет. Я же правильно понял: она кого-то ломала, когда это случилось?

— Да-а, — подобрался Саша.

— Ага... Так вот, бро, очень похоже, что объект нападения не хило прокачан, если он так быстро нашёл слабое место в обороне. Причём, очень специфически прокачан, — Леший сделал многозначительную паузу.

— Что ты имеешь в виду? — спросил Рогозин, уже догадываясь, что услышит.

— Особые программы, Санёк. Такие не ставят офисным или домашним искинам. Это очень специфическая область.

— Военка? — Саша похолодел.

— Ой, да какая военка? Военка — это если бы на попытку взлома в вас с Крис шмальнули бы. Ну фигурально говоря. Хотя... В общем, такие умения — это больше оружие воровства и шпионажа.

Вот это уже больше походило на правду. Неужели он таки обнаружил источник проблем «ЭкзоТеха»?

Плагин Леший прислал, и Саша его установил. Всё оказалось не так просто, пришлось даже самому Лёхе подключаться, но общими усилиями справились. Вернее, запустили процесс, которому предстояло прошерстить все до одного файлы Крис. Дело сдвинулось, и Рогозин таки вернулся в кухню и наложил себе свежеприготовленного жаркого. Разумеется, в тот же миг раздался звонок. Уже от другого приятеля.

— Привет, Добрыня, — Саша напомнил себе, что сам же его подключил, так что нечего ворчать. Еда никуда не убежит.

— К тебе, Санёк, не пробиться! Ты бабу себе завёл, что ли?

Рогозин подумал про Крис, Нагибко, весь свой подотчётный клиентский отдел, где большая часть сотрудников была женского пола, и ответил:

— Практически. Работа называется. Знаешь такую?

— О, Саня, беги от этой бабы. Все мозги выест, кровь высосет, а потом бросит, как будто и не знала никогда.

Саша печально посмотрел на остывающее жаркое и картинно вздохнул.

— Твоя правда, бро. Но сам знаешь, не могу. Женат я на ней...

Они поржали, а потом Добрыня выдал:

— Не, Санёк, ты реально там заработался. В зал-то давно ходил?

Рогозин вспомнил жёлтые лосины, себя в позе зю и чуть не захохотал.

— Давай не будет о позо... грустном, — давясь смехом, резюмировал он. — Ты мне лучше расскажи, как там наше дело.

— Тебя никто не прослушивает? И не подслушивает?

Некоторая доля паранойи Добрыни объяснялась его работой, вся остальная была своей, природной.

— Я один в квартире.

— Когда это мешало прослушке? Пусть Крис проверит.

— Хорошо-хорошо, — Рогозин поморщился, но не стал отвлекать искина от глобальной чистки. — Так ты звонишь по делу или поболтать?

— Поболтать, конечно, я же страсть как люблю точить лясы. Меня пивом не пои, дай моему дружбану Саньку позаливать за жисть-то!

— Сарказм оценен. Упрёк принят. Давай к делу, — Саша помешал жаркое в тарелке и таки закинул в рот кусочек мяса.

— Ты там жрёшь, что ли?

— Да блин! Как ты узнал?! Я же звук отключил!

— Дедукция! Ты всегда звук отключаешь, когда жрёшь на созвоне. Помнишь, когда ты звук отключил, а видео забыл, и весь совет директоров наблюдал, как ты лапшу уминал из коробочки? — Добрыня засмеялся.

— Не напоминай! — Саше до сих пор было стыдно за тот случай. Хотя после него одна из руководителей брякнула что-то типа «Бедненький, совсем загнали, поесть некогда» и выписала ему премию. — Я голодный!

— Ладно-ладно, это я от зависти. Мне Мстислава запрещает говорить о работе во время еды. Короче, похоже, мы нашли твоего вредителя.

— Нашли?! Кто он?

— Да блоха с ушами он. Явно от кого-то заказы получает. И, скорее всего, от этой… ща, у меня записано… Натальи Мрошковой. Знаешь такую?

Саша скрипнул зубами.

— Менеджер клиентского отдела.

— Твой отдел? — сочувственно вздохнул Добрыня. — Ты хоть с ней не закрутил?

— Что у тебя мысли все в одну сторону? Нет, конечно. Неприятнейшая баба. Правда, не думал я, что она напрямую вредить будет, — Саша задумался, переосмысливая поведение подчинённой в свете новых фактов.