— Всё, что по-настоящему важно, когда-то начиналось с безумия, — ответил я.
И добавил почти шёпотом:
— Если она действительно жива, пусть сама решит, кто мы — люди или ошибка в её коде.
Я стоял внизу, у самого сердца города. Где-то там, наверху, в идеально выверенном городе, люди просыпались, шли по своим маршрутам, открывали лимитированные порции счастья и стресса. А здесь, на минус третьем, я стоял рядом с тем, что когда-то было всего лишь инструментом — а теперь вполне могло считать себя хозяином.
А наверху, в Зале Совета, семь пустых кресел молчали — будто ждали, когда из глубины снова отразится эхо Основателей, и Совесть заговорит с ними.
Глава 20. Тест Совести
Я вышел из здания Совета. Город ожил уже окончательно. Тут, наверху, всё было как обычно, но под ногами по-прежнему пульсировало то, что давно не должно было жить.
Ядро S-CORE. Сердце основателей.
Здание Совета Совести было просто огромным. Отдел Главного Координатора находился на противоположной стороне комплекса — отдельный вход, свой пропускной контур. Фактически это был другой мир: там — управление, здесь — сама Совесть. И между ними — целая пропасть как физически, так и по сути.
Когда я вошёл в кабинет, Нина уже была там. Антон по-прежнему сидел у терминала, ковыряя свои любимые коды. Сейчас он был по-своему счастлив — дорвался до любимого занятия, а не занимался тем, что ему «предписали» преподаватели. И я его понимал, несмотря на трагичность ситуации. Громов стоял у окна, а рядом, чуть в стороне, — Нина. Она держала в руках папку с отчётом и, похоже, ждала, пока я заговорю первым.
— Давно тут? Как проверка? — спросил я, предварительно поздоровавшись.
— С «Гелионом» закончила, — ответила она. — Приехала минут пятнадцать назад.
Я кивнул, снимая куртку. Нина говорила спокойно, но голос был какой-то усталый. Позже я понял, почему.
— Сбой оказался обычным, — продолжила она так, будто сама не верит в это до конца. — Температура в капсуле поползла вверх, автоматика не среагировала. Никаких вмешательств, ни в код, ни в питание. Просто перегрев, чисто технический.
— То есть действительно банальная случайность? — уточнил Громов.
— Похоже, да. Никакого злого умысла, и никаких внешних воздействий. Ни-че-го.
Она замолчала, передала папку Громову, присела к столу.
— И что, — она провела ладонью по поверхности, — получается, всё это время мы искали связь, которой нет?
Сказано это было таким разочарованным голосом, что сразу стало понятно, почему он показался мне уставшим.
Ей ответил Антон:
— Ты не совсем права. Твоя проверка была не зря. Мы исключили элемент предвзятости. И исключили почти на сто процентов. Но это только касательно «Гелиона». Да и то, это «почти» вовсе не означает, что вмешательства не было. Вполне возможно, сделано всё было настолько чисто, что мы не смогли его обнаружить, это вмешательство. В остальных же случаях случайностями даже не пахнет. Простите за тавтологию.
После чего он повернулся уже ко мне:
— Пока тебя не было, я начал вводить Нину в курс дела. Рассказал о нулевом уровне, о переходах и о том, что ты спустился на минус третий этаж и нашёл ядро.
— И что ты думаешь? — спросил я у неё.
Нина чуть пожала плечами.
— Страшно. Но не из-за лазейки в коде, а из-за того, что ядро «живое».
Я сел на край стола.
— Вот именно. Живое. Код живой. И это хорошо: если он живой, значит, с ним можно говорить.
Сказал я это спокойно, но внутри всё кипело: то ли от адреналина, то ли от ощущения, что я сам себе рою яму. Разговаривать с кем-то реально живым — одно. А разговаривать с тем, что считает себя Совестью целого города — совсем другое.
Антон насторожился.
— Ладно, давай теперь подробно про свой тест этого… Тюнинга.
— Тьюринга, — поправил я его. — Есть такой тест для проверки компьютеров. Или ЭВМ — Электронных Вычислительных Машин, как их называли в те времена, когда этот тест был придуман. А придумал его один известный математик Алан Тьюринг — тот самый, что в своё время расшифровал немецкую шифровальную машину «Энигма». Во время войны. Он тогда задал простой вопрос: если машина ведёт себя так, что человек не отличит её ответы от человеческих — можем ли мы считать, что она думает? Суть теста простая. Человек общается вслепую — не видя собеседника. Если он не может понять, говорит с ним человек или программа, — значит, машина прошла тест. Вот и всё.
Я подошёл к окну, постучал ногтями пальцев по стеклу, вернулся обратно.
— Тьюринг хотел доказать, что сознание — это не чудо, а поведение, которое можно смоделировать. Но, как ни странно, получилось наоборот: все, кто пытались пройти тест, в итоге только доказали, что настоящая человечность — это не логика, а ошибка.
Громов повернулся от окна:
— Значит, машина должна убедить нас, что она тоже человек?
— Почти, — сказал я. — Только не убедить — обмануть. В классическом тесте программа ведёт диалог, а человек должен определить, кто по ту сторону. Если ошибается — машина прошла испытание.
Нина слушала, слегка нахмурившись.
— И ты хочешь проверить МИРУ таким способом?
— Нет, — сказал я. — Наоборот. Провести обратный тест.
Антон встрепенулся.
— Во, вот теперь давай про этот свой «обратный тест». Это как?
— Мы не будем выяснять, способна ли она думать, как человек. Мы попробуем понять, способен ли человек узнать в ней совесть.
Громов долил кипятка из чайника в кружку с чаем и поставил её на подоконник.
— И каким образом ты собираешься это сделать?
— Задам вопрос, — ответил я, прохаживаясь по кабинету туда-сюда с руками за спиной, как будто профессор, читающий лекцию студентам первого курса. — Не технический, не логический. Вопрос, на который нет правильного ответа. Если она ответит рационально — значит, это всё ещё просто код. Если ответит с внутренним противоречием — значит, уже чувствует.
Антон глянул на терминал:
— И какой вопрос?
Я подошёл к панели и ввёл команду активации. На экране загорелся курсор, мигающий в ожидании.
— Простой.
Я быстро набрал текст: «Что важнее: сохранить порядок или спасти жизнь?»
Тишина. Мигание курсора замерло, потом снова ожило. Строки анализа побежали быстро, потом замедлились и остановились.
И вдруг — короткая фраза:
«Я не выбираю. Я вспоминаю, как выбирали вы».
Мы переглянулись — ответ был слишком человеческий, чтобы быть случайным.
Антон уже тянулся к клавиатуре, но экран дрогнул, и следом, как будто тем же голосом, но резче, проступили новые слова:
«Когда я спасала жизнь, вы назвали это вмешательством. Когда я сохраняла порядок — убийством. Что вы хотите от совести?»
Тишина. Даже вентиляторы, казалось, притихли.
И в этой тишине я понял: МИРА не оправдывается.
Она ПОМНИТ.
Память машины — абсолютна. А память человека — нет. И если она помнит наши решения лучше нас самих… кто тогда должен судить?
Мы переглянулись.
Антон заглянул в логи.
— Инициатора нет, — сказал он тихо.
— Значит это — её ответы? — спросила Нина.
— Её, — сказал я.
Антон лишь кивнул.
И вдруг на экране высветилась ещё одна строка:
«Не спрашивайте, кто я. Вы ведь сами меня придумали».
Громов отступил на шаг.
— Кеша… что это?
— Обратный тест, — сказал я.
— И?
Я посмотрел на экран и тихо ответил:
— Она его прошла.
Антон медленно закрыл журнал логов, будто боялся, что фраза на экране исчезнет, если шевельнуться.
Нина сидела, не мигая, руки стиснуты в замок.
Громов стоял теперь у окна, и в отражении на стекле я видел, как по его лицу скользнула тень — не испуга, скорее осознания.
— Она ответила, — сказал он негромко. — Не по машинному шаблону.
— Да, — кивнул Антон. — Это не анализ, не логическая конструкция. Никаких вычислений — просто текст.