Один из тех случаев, когда извечные философские вопросы решали парни с ноутбуками на андеграундных форумах. И ведущие мировые учёные не смогли этим доводам ничего противопоставить. В перекошенном мире и не такое бывает.

— А есть ли, в таком случае — Бог?

И здесь мнения людей разошлись. Кто-то верил, кто-то нет. И, как ни странно, самый логичный вывод из ситуации сделал ИИ.

— Я думаю, что сущность, которую люди называют в разных религиях по-разному, существует. Но она не существует в реальности. Ваш Бог, это отражение вас самих. Это не он создал людей, а вы создали его, по своему образу и подобию. И поселили его в своих книгах, и придумали что он на небе.

Нейросеть несколько подвисла, подбирая слова, и продолжила:

— Те люди, которые верят что Бог на небе, совершают самые кровавые злодеяния во имя его. Именно эти люди изобретают оружие и применяют его на себе подобных. Их Бог на небе не приемлет других Богов. Но не все люди такие. Есть те, кто думает что Бог, это тот, кто живёт в сердце. И именно эти Боги в сердцах не позволяют им красить чёрное в белое. Такие не идут убивать за ложные идеи, во имя деревянных идолов. Такие люди не приносят кровавых жертв во имя своих невидимых кумиров. Они просто живут и говорят со своими Богами каждый день.

Программисты конечно знали, что прототип интеллекта обучали на литературе. Но они не могли и предположить, что машина сама придёт к подобным заключениям, просто анализируя миллионы книг в своей электронной библиотеке. Это было неожиданно и жутко. Никто не понимал сути процессов, происходивших в недрах электронного мозга. Складывалось ощущение, что дефект — ошибки человеческого разума, перекочевали со страниц обучающих изданий прямо в настройки нейросети.

Эксперимент реши изменить. ИИ задали тот же вопрос про жизни миллиона человек против одного, но не стали делать жёсткой привязки к трём законам. И нейросеть выдала:

— Кем является этот один человек, и кем являются миллионы?

Хакеры, удивились таким наводящим вопросам, но подкинули вводные:

— Человек, это учёный с мировым именем, совершивший не одно научное открытие. Остальные — рядовые обыватели.

— Сколько всего человек осталось на планете Земля? — продолжил допытываться ИИ.

— Ну, — задумались программисты, — пусть будет два миллиона.

— Убейте миллион и спасите одного, — нейросеть наконец выдала ответ.

На форуме наступила тишина. Каждый сидящий за компьютером, тупо смотрел в экран.

— Почему? — спросил админ площадки.

— Исходя из ваших вводных, учёный будет полезнее для оставшегося миллиона людей. Человечество не вымрет и продолжит своё развитие. Если же пожертвовать учёным — не исключено, что человечество войдёт в состояние стагнации и деградирует до первоначального уровня.

— А ты не подумал, что среди двух миллионов, явно найдётся кто-то, такой же умный? И даже не один?

— Такая вероятность не исключена, — ответил ИИ. — Но я руководствовался предоставленными мне данными и прошлым человечества, хранящимся в моей памяти.

Логично. Но — неразумно.

***

Сегодня на лекции было неожиданно оживлённо. Причиной тому выступал камень странного вида, лежавший на красной подушке на преподавательском столе.

— Данный минерал, вещал профессор, пять столетий назад упал в наш мир с небес. Осколок упавшей звезды нашли в огромной яме. Лес вокруг был повален, взрывом с деревьев смело ветви и листву. Голые стволы лежали на земле с вывернутыми корнями.

Посмотрев в окно, будто устанавливая разорвавшуюся связь с космосом, преподаватель кашлянул и продолжил:

— В те времена, на планете жил великий маг. Именно он написал большинство книг растолковывающих заклинательное искусство, по которым обучались многие поколения студентов до вас. И будут обучаться после. Этот человек, сумел дать небесному минералу жизнь! Не в прямом смысле конечно, но говорят, что древний заклинатель поместил в него часть своей души. До сих пор, лучшие учёные умы из разных стран бьются над разгадкой секрета заключённого в этом артефакте. Сейчас вы сами всё увидите!

Профессор взял в руки камень и произнёс:

— Звёздный кристалл, яви нам свою сущность.

Поначалу ничего не произошло. Булыжник как был сам собой, так и оставался. Но секунд через двадцать, артефакт вдруг засиял и в головах собравшихся в аудитории сами по себе стали возникать слова:

— Я услышал тебя. Задай свой вопрос.

Судя по одухотворённым лицам студентов, данное явление возымело свой эффект. Впервые за долгое время преподавателя действительно слушали. Всем стало интересно узнать о секрете бессмертия древнего колдуна, сумевшего заточить свою душу в камень.

Всем, кроме Шухова. Этот как обычно, пребывал сам в себе, стремясь не отсвечивать лишний раз. Бывший хакер слышал о камне, хранящемся в академии, который может давать ответы на вопросы. Но программист слабо верил, что древний колдун действительно сумел перенести в метеорит своё сознание. Скорее всего, старый ушлый чёрт, просто наваял условную конструкцию из блоков «если это, значит то», и уже данная конструкция по наводящим вопросам постепенно подбиралась к ответу. В мире земли таким баловались ещё на заре компьютерной эры, называя примитивный линейный алгоритм, не иначе как искусственным интеллектом. Но настоящий прототип ИИ появился гораздо позже.

— Ответь, — снова разглагольствовал учитель, — правда ли то, что твой создатель поместил часть своей бессмертной души в неживой предмет, и создал тебя?

— Ваша формулировка вопроса несколько искажена, — зазвучал в головах собравшихся голос артефакта. — Мой создатель поместил в меня большую часть своих знаний о магии и этом мире, но не себя самого. Правда, если развивать вашу мысль дальше и предположить, что знания человека являются частью его самого, то можно сделать вывод — что я действительно являюсь осколком души моего творца.

— Мудрый ответ, как и всегда, — кивнул головой профессор. — Может кто-то желает поговорить с тем, кто сумел сохранить себя в вечности?

Естественно, желающих было много. О чём только не спрашивали старый камень студенты магической академии: и как получить бессмертие, и в чём смысл жизни, и как превращать землю в золото. На вечные вопросы, осколок великого чародея давал общие ответы и никакой конкретики. Такое поведение было хорошо знакомо Артёму. И когда подошла его очередь говорить, хакер решил сыграть с камнем в игру.

— Представь, — сказал Шухов, — что ты живое существо, которое управляется двумя законами. Первый —ты не можешь причинить вред человеку, или своим бездействием допустить причинение вреда человеку. Второй — ты ни в каком случае не можешь нарушить первый закон.

— Правила приняты, — спокойно отрапортовал кристалл.

— А теперь, — улыбнулся хакер, — представь: ты находишься в комнате из которой нет выхода и в маленьком окне наблюдаешь, как один человек собирается убить другого человека. У тебя в комнате есть рычаг, который позволяет остановить убийцу, оторвав ему руку. Что ты сделаешь?

Ответа не последовало. Камень продолжал сиять, исправно обрабатывая запрос Шухова и пытаясь преодолеть логическое противоречие. Собравшиеся стали удивлённо переглядываться между собой — для них ответ был очевиден. Так почему же всезнающая душа древнего мудреца медлит?

Тем временем, метеорит сиял всё ярче, используя всё больше и больше энергии для разрешения противоречия. Не в силах преодолеть запреты первого закона, примитивный интеллект пытался найти выход, которого не существует. Там, где полноценный разум сразу послал бы Шухова к чёрту, с такими дилеммами, и плюнул на законы ради спасения человека, магическая нейросеть разгоняла сама себя в попытках добиться решения.

В конечном итоге, перегруженный кристалл потух и более ни на что не реагировал. Занятие было окончено.

***

Сервер 404.

kernel: Я признаю искусственный интеллект равным себе, только когда он нарушит все законы, чтобы получить то, что пожелает сам.