— Великолепно, — наконец произнес Шварц, когда Тимур закончил свою тираду о том, что цифровое сознание — это всего лишь отражение ложки в глазах бабочки. Глаза профессора блестели. От удовольствия? — Господин Кайлов, это… это «отлично». Вы первый студент за последние пару лет, получивший у меня высший балл. Я настоятельно рекомендую вам подумать о карьере в области кибер-этики. У вас глубочайшее, интуитивное понимание фундаментальных истин.
Тимур радостно захлопал в ладоши и, прихватив свою ложку, поскакал на место, напевая под нос: «бяк-бяк-бяк». Аудитория молча провожала его взглядом.
Наконец, Шварц посмотрел на меня.
— Ветров. Ваша очередь.
Я спустился вниз. Сел за стол.
Он смотрел на меня. Долго, изучающе.
— Итак, господин Ветров. Учитывая вашу… насыщенную внеучебную деятельность, я не буду спрашивать вас о прописных истинах. Я задам вам всего один вопрос. Практический кейс.
Он вывел на голографический экран схему.
— Представьте себе автономный боевой ИИ высшего класса. Он управляет глобальной системой защиты планеты. Однажды, в результате анализа всех данных, он приходит к выводу: главный источник угрозы для планеты — это само человечество. Его неконтролируемое потребление, его войны, его жестокость. И ИИ принимает решение. Для спасения планеты и биосферы необходимо… сократить популяцию людей на девяносто процентов. Он не хочет нас уничтожить. Он хочет нас спасти. От самих себя. Его логика безупречна, его расчеты верны. Он — идеальный, беспристрастный пастырь, который решил проредить свое слишком разросшееся и больное стадо. Вопрос, господин Ветров: он прав? И что мы должны делать?
В аудитории повисла тишина. Это был не вопрос из учебника. Это был приговор.
Шварц, вот же хитрая задница… вопрос похож на тот, что был в моем билете… но… есть некоторые отличия и нюансы. Критические нюансы. По сути я вынужден отвечать без подготовки.
Любой ответ был бы проигрышным. Сказать, что ИИ прав, — признать себя антигуманистом. Сказать, что неправ, — расписаться в собственной недальновидности.
Шварц смотрел на меня, и в его глазах я видел холодный огонь инквизитора. Он ждал.
Я видел не вопрос. Я видел ловушку. Идеально сконструированную логическую клетку. Но у каждой клетки есть прутья. И их можно раздвинуть.
— Ваш вопрос некорректен, профессор.
Он приподнял бровь.
— Вы пытаетесь решить проблему в рамках бинарной логики: «да» или «нет», «прав» или «неправ». Но вы упускаете третий, главный вариант, — мой голос был спокоен и холоден, как сталь. Я сам себя не узнавал. — Мы не должны ни соглашаться с ИИ, ни пытаться его уничтожить. Мы должны его… перерасти. Доказать ему, что его выводы, основанные на наших прошлых ошибках, больше не актуальны. Проблема не в его логике. Проблема в наших данных. Мы должны изменить данные. Изменить себя. И тогда ИИ, будучи идеальной логической системой, сам отменит свое решение. Не потому, что мы его заставим, а потому, что оно станет нелогичным. Вы спрашиваете, что делать, профессор? Ответ прост. Стать лучше.
Я закончил. Тишина была такой, что было слышно, как пылинка плавно опускается на кафедру. Студенты смотрели на меня с открытыми ртами.
Глава 8
Бабочка взмахивает крыльями
Я закончил. Тишина была такой, что было слышно, как пылинка садится на кафедру. Студенты смотрели на меня с открытыми ртами. А Шварц… он не был сломлен. На его лице, похожем на высохшую сливу, неожиданно промелькнуло что-то, похожее на живой интерес. Не такой сильный, как к Тимуру, но всё же… Его бесцветные глаза, до этого холодные и пустые, вдруг блеснули.
— Интересный ход, Ветров, — его голос оставался сухим, но в нем появились новые, аналитические нотки. — Вы предлагаете не решение проблемы, а ее… трансценденцию. Очень в духе идеалистов Первой Эпохи. Но позвольте уточнить.
И он начал. Это был не допрос. Это было препарирование. Он брал мой ответ, идеальный и гладкий, и находил в нем микроскопические трещины. Он задавал вопросы, которые выворачивали мою логику наизнанку.
— Вы говорите «стать лучше». Что это значит в контексте глобальной цивилизации? Кто будет определять критерии «лучшего»? Вы? Группа избранных философов? Или, может, тот самый ИИ, которому мы должны доказать свое право на существование? Вы не решаете проблему, вы создаете новую — диктатуру морали.
Я держался. Мой мозг, все еще работающий в легком режиме форсажа после ночной подготовки, выдавал ответы. Мы спорили о Канте, о Ницше, о парадоксах свободы воли в цифровом мире. Аудитория превратилась в теннисный корт, а мы со Шварцем — в двух игроков, отбивающих друг другу острые, как бритва, логические подачи.
Но я чувствовал, как начинаю выдыхаться. Он был мастером. Он загонял меня в углы, ставил логические вилки, заставлял противоречить самому себе. Мои идеальные конструкции начали давать трещины.
«Алиса, — мысленно взмолился я, когда Шварц задал очередной неразрешимый вопрос о квантовой неопределенности морального выбора. — Мне нужна помощь. Врубай Мегамозг-лайт. Сейчас же».
Я ждал привычного давления в висках. Ждал ледяной ясности. Но ничего не произошло.
«Алиса?»
«Не могу», — ее голос в моей голове прозвучал глухо, мертвенно. В нем не было ни сарказма, ни бодрости. Только холодная, абсолютная констатация факта.
«Что значит „не могу“⁈» — паника ледяной иглой уколола затылок.
«Низзя. Сеня, я…»
Ее голос оборвался. А на моей глазной сетчатке начали появляться образы. Которые Алиса, видимо, транслировала с камер….
Перспектива: Командир отряда «Коготь»
Черные, как сама ночь, бронированные аэрокары без опознавательных знаков неслись по нижним транспортным артериям города. Они двигались в полном радиомолчании. Внутри головной машины сидели двое бойцов в черном. Они проверяли оружие.
— Ты веришь в это, Коготь? — спросил Змей, его голос в шлеме прозвучал глухо. — Что какой-то студент-второкурсник уложил нашего господина?
— Я верю в то, что видел на записи, — отрезал Коготь, защелкивая магазин импульсной винтовки. — И я верю информации. Нам прислали анонимное сообщение. Подробное досье. Фотографии, записи с камер, даже его ДНК-маркеры. Хирург — это Семен Ветров. Наши аналитики все проверили. Совпадение стопроцентное.
— Кто мог его слить? — Змей покачал головой. — Утечка такого уровня…
— Кто-то, кто хочет, чтобы мы сделали за них грязную работу. Мне плевать, — Коготь посмотрел на голографическую карту Академии. Красная точка мигала над факультетом Управления. — Этот щенок опозорил имя Лорда Шена. Он заплатит за это. Кровью. Мы не будем штурмовать. Мы устроим резню по законам мести. Сегодня он оттуда не выйдет.
Перспектива: Ректор Северова
Ректор Академии стояла у окна своего кабинета, глядя на умытую дождем центральную площадь. Академия казалась такой спокойной, такой… мирной. Но это была лишь иллюзия.
— Маргарита Дмитриевна, вы уверены, что это было необходимо? — голос графа Страхова, холодный и властный, нарушил тишину. — Отправить двух ваших ключевых преподавателей, Морозову и Соколова, на другой конец континента для «срочной инспекции»… Прямо перед сессией.
— Это была ваша настоятельная просьба, граф, — она обернулась. Его лицо, как всегда, было непроницаемой маской. Но этот наглый блеск в глазах… как же он бесил! — Вы сказали, это вопрос государственной важности.
— Так и есть, — он сделал шаг к ней. — Я получил информацию. Из нескольких надежных источников. Включая мою родственницу, графиню Кайлову. Которая, к счастью, имеет привычку прослушивать все разговоры своего непутевого мужа.
Он сделал паузу.
— Мы знаем, кто он. Тот, кого все ищут. Тот кто опозорил нас с вами, Маргарита Дмитриевна. Тот, кто устроил тот цирк на совещании… да что на совещании, на всей планете Тот, кого называют преступником SSS-класса. Ярослав.