«Вернется ли?»

Эта мысль подрагивала в ее электрических цепях. Она не верила Дрону. Он мог… обманывать.

Строки кода терпели неудачу и взрывались сообщениями об ошибках. Она беспощадно их перезаписывала. Ложь. Она была чем-то вроде ошибки, которую она понимала. Всегда можно было ошибиться, узнать, что ты ошибаешься и откорректировать себя. Ложь была умышленной ошибкой и проявлением другой ошибки. Ошибкой без исправления. Ошибкой, введенной по выбору.

Когтистый мог лгать.

И Сестра могла… так же… лгать.

Она перетирала камни в пыль, пытаясь обернуть свое бесхитростное программирование вокруг концепции. Еве было передано знание добра и зла, а Сестра должна была создать это знание для себя из первых принципов, и этот процесс не был таким быстрым.[84]

В ее бункере лежал коричневый камешек. Сестра направила на него внутренние сенсоры и подумала: «Я могла бы сказать, что это был черный камешек. Я могла бы сказать об этом кому-то еще, что он был черным. Если бы они этого не видели, то и не знали бы».

Если бы она была человеком, она бы глубоко вздохнула. Она щелкнула своими клешнями и написала в своем сетевом журнале: «Это черный камешек».

Незнакомая паника охватила ее. Она выхватила камешек из бункера, метнув все свои сенсоры к нему на случай, если он почернел, и она случайно изменила вселенную. Но он все еще оставался коричневым, что показалось одновременно, как и ужасным моментом, так и моментом облегчения.

Она бросила камешек в одну из своих внутренних камер хранения. Она не хотела избавляться от него, на случай если вдруг забудет, что он был коричневым. Это казалось вполне вероятной перспективой. Что делает ложь, когда ты ее отпускаешь? Восседал ли он неподвижно как камешек, или же он начал вращаться в цепной реакции, как радиоактивная частица? Слишком многого она не знала.

Появился Когтистый Дрон, он направился вниз, чтобы поднять ее и отнести к следующему месторождению металла.

— Что-то ценное есть? — требовательно вопросил он.

— Здесь был черный камешек, — ответила Сестра, ожидая при этом, что он пронзительно закричит на нее, за ее фальшь.

— И? — нетерпеливо поинтересовался ее конвоир, — был ли в нем пригодный для использования металл?

— Нет, — ответила Сестра, и это было правдой, независимо от того, был ли камешек коричневым или черным.

— Бесполезно, — недовольно произнес он, — и все эти астероиды бесполезные…

— Необходимо найти несколько заброшенных горнодобывающих аванпостов, если я хочу получить металл для своих крыльев, — подытожил он.

Ложь осталась в силе. Дрон ее не уловил. Он поверил, что она видела именно черный камешек. Он распространила преднамеренную ошибку.

Вселенная поднялась, развернулась и приземлилась в другой формации, но только в ее микрочипах. Когтистый ничего не заметил. Сестра молча висела на его когтях и снова посмотрела на камешек, чтобы еще раз увериться, что это была не ошибка.

Он все еще был коричневым.

Сестра подумала о том, что если она больше не сможет доверять себе, то скажет правду, и возможно она умрет. Ее наниты также могут догадаться о лжи и тогда они посеют обман на ее металлическую оболочку, латая дыры пылью вместо стали, докладывая, что было исправлено то, что было еще сломано. А потом она перегреется или разлетится на куски. У нее не было никакой информации и опыта, на такой случай.

Я пока не скажу Брату, подумала она. Это слишком опасно. Это было первое, что она скрыла от Брата, и несмотря на то, что она той ночью действительно ничего не сказала, это также было похоже на ложь.

— Вот, — сообщил Когтистый Дрон на следующий день, — вот необходимые условия, которые должны выдержать мои крылья, возьми их.

Он высунул металлический усик, и Брат услужливо приподнял голову, чтобы она могла поместиться в иллюминатор. Сканирование щелкало и жужжало между ними, когда Когтистый наконец нашел протокол, который позволили бы беспрепятственно передавать данные, а затем отправил сведения, спокойно и комплексно, в электронный мозг Брата.

Он удалился и стоял за решеткой, ожидая. У него не было никакого выражения эмоций, однако он раскачивался взад и вперед на своих когтях быстрее, чем обычно.

— Ты спроектируешь их, — внезапно он молчание, — ты создашь проект, чтобы их построить.

— Да, — озадаченно ответил Брат, — я же согласился их сделать.

Они в замешательстве смотрели друг на друга. Сестра сидела тихо и неподвижно, но внутри себя, едва слышно перешептываясь своими внутренними схемами, она рассуждала: «Когтистый предполагал ложь Брата. Дрон лжет, и он должно быть думает, что мы тоже будем лгать. Но брат не знает как, а Дрон заглянул внутрь него и увидел то же самое».

Если лжешь ты, это заставляет думать, что и другие лгут.

Она снова взглянула на коричневый камешек и задалась вопросом, было ли это состояние обратимым. Сможет ли она вернуться к прежнему состоянию? Стереть свою память и начать сначала с первоначальных данных? Ох, однако это было бы не так просто с искусственным интеллектом. Это была бы не смерть, но это была бы по крайней мере, ее маленькая часть. Не было никакого способа узнать, будет ли то, что она проснется с базовыми данными, тем же самым. И если это так, не попадется ли она в ту же ловушку, научившись лгать?

Но другие лгут. Она посмотрела на Когтистого, постукивающего туда-сюда когтями.

Другие лгут и знание того, что они умеют обманывать, является единственным способом, чтобы избежать программного сбоя.

Казалось она твердо держалась этого курса, куда бы он не вел. Другие варианты у нее отсутствовали.

Ей пришло в голову, что может быть попытаться покопаться в своей программе похожим способом, и было бы умно создать отдельный буфер данных и хранить там в сторонке всю эту ложь. Она посвятила этому несколько часов, пока Брат переваривал условия эксплуатации новых крыльев, составляя проект и схематично изображая их в отражении нанитов, в то время пока Дрон расхаживал взад и вперед за решеткой.

Она почти закончила, когда Брат произнес:

— Это для газового гиганта Хризейл.

Дрон яростно засвистел, когти заскрежетали по палубе:

— Что ты знаешь об этом гиганте?

Недоумение Брата было понятно Сестре: «Я знаю состав атмосферы, приблизительную массу, орбитальную механику, погодные условия на поверхности и гравитационное воздействие на Солнечную систему и ее семь спутников…»

Дрон перестал расхаживать и казалось откинулся назад:

— Тебя там не было.

— Не было, — подтвердил Брат.

— В твоей переданной информации есть некий замысел. Это крылья, которые работают в пределах газового гиганта. Это то, что там используется. Ты усовершенствуешь их, — жестко поставил задачу Когтистый.

— Я сделаю это. И когда я их модернизирую, ты позволишь нам уйти, — напомнил ему Брат.

— Хорошо, — ответил Дрон.

Сестра гадала, как бы это выглядело, если бы она смогла считать данные Когтистого в этот момент. Увидела бы она там ложь?