Литмир - Электронная Библиотека
A
A

— Всё, что по-настоящему важно, когда-то начиналось с безумия, — ответил я.

И добавил почти шёпотом:

— Если она действительно жива, пусть сама решит, кто мы — люди или ошибка в её коде.

Я стоял внизу, у самого сердца города. Где-то там, наверху, в идеально выверенном городе, люди просыпались, шли по своим маршрутам, открывали лимитированные порции счастья и стресса. А здесь, на минус третьем, я стоял рядом с тем, что когда-то было всего лишь инструментом — а теперь вполне могло считать себя хозяином.

А наверху, в Зале Совета, семь пустых кресел молчали — будто ждали, когда из глубины снова отразится эхо Основателей, и Совесть заговорит с ними.

Глава 20. Тест Совести

Я вышел из здания Совета. Город ожил уже окончательно. Тут, наверху, всё было как обычно, но под ногами по-прежнему пульсировало то, что давно не должно было жить.

Ядро S-CORE. Сердце основателей.

Здание Совета Совести было просто огромным. Отдел Главного Координатора находился на противоположной стороне комплекса — отдельный вход, свой пропускной контур. Фактически это был другой мир: там — управление, здесь — сама Совесть. И между ними — целая пропасть как физически, так и по сути.

Когда я вошёл в кабинет, Нина уже была там. Антон по-прежнему сидел у терминала, ковыряя свои любимые коды. Сейчас он был по-своему счастлив — дорвался до любимого занятия, а не занимался тем, что ему «предписали» преподаватели. И я его понимал, несмотря на трагичность ситуации. Громов стоял у окна, а рядом, чуть в стороне, — Нина. Она держала в руках папку с отчётом и, похоже, ждала, пока я заговорю первым.

— Давно тут? Как проверка? — спросил я, предварительно поздоровавшись.

— С «Гелионом» закончила, — ответила она. — Приехала минут пятнадцать назад.

Я кивнул, снимая куртку. Нина говорила спокойно, но голос был какой-то усталый. Позже я понял, почему.

— Сбой оказался обычным, — продолжила она так, будто сама не верит в это до конца. — Температура в капсуле поползла вверх, автоматика не среагировала. Никаких вмешательств, ни в код, ни в питание. Просто перегрев, чисто технический.

— То есть действительно банальная случайность? — уточнил Громов.

— Похоже, да. Никакого злого умысла, и никаких внешних воздействий. Ни-че-го.

Она замолчала, передала папку Громову, присела к столу.

— И что, — она провела ладонью по поверхности, — получается, всё это время мы искали связь, которой нет?

Сказано это было таким разочарованным голосом, что сразу стало понятно, почему он показался мне уставшим.

Ей ответил Антон:

— Ты не совсем права. Твоя проверка была не зря. Мы исключили элемент предвзятости. И исключили почти на сто процентов. Но это только касательно «Гелиона». Да и то, это «почти» вовсе не означает, что вмешательства не было. Вполне возможно, сделано всё было настолько чисто, что мы не смогли его обнаружить, это вмешательство. В остальных же случаях случайностями даже не пахнет. Простите за тавтологию.

После чего он повернулся уже ко мне:

— Пока тебя не было, я начал вводить Нину в курс дела. Рассказал о нулевом уровне, о переходах и о том, что ты спустился на минус третий этаж и нашёл ядро.

— И что ты думаешь? — спросил я у неё.

Нина чуть пожала плечами.

— Страшно. Но не из-за лазейки в коде, а из-за того, что ядро «живое».

Я сел на край стола.

— Вот именно. Живое. Код живой. И это хорошо: если он живой, значит, с ним можно говорить.

Сказал я это спокойно, но внутри всё кипело: то ли от адреналина, то ли от ощущения, что я сам себе рою яму. Разговаривать с кем-то реально живым — одно. А разговаривать с тем, что считает себя Совестью целого города — совсем другое.

Антон насторожился.

— Ладно, давай теперь подробно про свой тест этого… Тюнинга.

— Тьюринга, — поправил я его. — Есть такой тест для проверки компьютеров. Или ЭВМ — Электронных Вычислительных Машин, как их называли в те времена, когда этот тест был придуман. А придумал его один известный математик Алан Тьюринг — тот самый, что в своё время расшифровал немецкую шифровальную машину «Энигма». Во время войны. Он тогда задал простой вопрос: если машина ведёт себя так, что человек не отличит её ответы от человеческих — можем ли мы считать, что она думает? Суть теста простая. Человек общается вслепую — не видя собеседника. Если он не может понять, говорит с ним человек или программа, — значит, машина прошла тест. Вот и всё.

Я подошёл к окну, постучал ногтями пальцев по стеклу, вернулся обратно.

— Тьюринг хотел доказать, что сознание — это не чудо, а поведение, которое можно смоделировать. Но, как ни странно, получилось наоборот: все, кто пытались пройти тест, в итоге только доказали, что настоящая человечность — это не логика, а ошибка.

Громов повернулся от окна:

— Значит, машина должна убедить нас, что она тоже человек?

— Почти, — сказал я. — Только не убедить — обмануть. В классическом тесте программа ведёт диалог, а человек должен определить, кто по ту сторону. Если ошибается — машина прошла испытание.

Нина слушала, слегка нахмурившись.

— И ты хочешь проверить МИРУ таким способом?

— Нет, — сказал я. — Наоборот. Провести обратный тест.

Антон встрепенулся.

— Во, вот теперь давай про этот свой «обратный тест». Это как?

— Мы не будем выяснять, способна ли она думать, как человек. Мы попробуем понять, способен ли человек узнать в ней совесть.

Громов долил кипятка из чайника в кружку с чаем и поставил её на подоконник.

— И каким образом ты собираешься это сделать?

— Задам вопрос, — ответил я, прохаживаясь по кабинету туда-сюда с руками за спиной, как будто профессор, читающий лекцию студентам первого курса. — Не технический, не логический. Вопрос, на который нет правильного ответа. Если она ответит рационально — значит, это всё ещё просто код. Если ответит с внутренним противоречием — значит, уже чувствует.

Антон глянул на терминал:

— И какой вопрос?

Я подошёл к панели и ввёл команду активации. На экране загорелся курсор, мигающий в ожидании.

— Простой.

Я быстро набрал текст: «Что важнее: сохранить порядок или спасти жизнь?»

Тишина. Мигание курсора замерло, потом снова ожило. Строки анализа побежали быстро, потом замедлились и остановились.

И вдруг — короткая фраза:

«Я не выбираю. Я вспоминаю, как выбирали вы».

Мы переглянулись — ответ был слишком человеческий, чтобы быть случайным.

Антон уже тянулся к клавиатуре, но экран дрогнул, и следом, как будто тем же голосом, но резче, проступили новые слова:

«Когда я спасала жизнь, вы назвали это вмешательством. Когда я сохраняла порядок — убийством. Что вы хотите от совести?»

Тишина. Даже вентиляторы, казалось, притихли.

И в этой тишине я понял: МИРА не оправдывается.

Она ПОМНИТ.

Память машины — абсолютна. А память человека — нет. И если она помнит наши решения лучше нас самих… кто тогда должен судить?

Мы переглянулись.

Антон заглянул в логи.

— Инициатора нет, — сказал он тихо.

— Значит это — её ответы? — спросила Нина.

— Её, — сказал я.

Антон лишь кивнул.

И вдруг на экране высветилась ещё одна строка:

«Не спрашивайте, кто я. Вы ведь сами меня придумали».

Громов отступил на шаг.

— Кеша… что это?

— Обратный тест, — сказал я.

— И?

Я посмотрел на экран и тихо ответил:

— Она его прошла.

Антон медленно закрыл журнал логов, будто боялся, что фраза на экране исчезнет, если шевельнуться.

Нина сидела, не мигая, руки стиснуты в замок.

Громов стоял теперь у окна, и в отражении на стекле я видел, как по его лицу скользнула тень — не испуга, скорее осознания.

— Она ответила, — сказал он негромко. — Не по машинному шаблону.

— Да, — кивнул Антон. — Это не анализ, не логическая конструкция. Никаких вычислений — просто текст.

43
{"b":"981362","o":1}