Мурашки вновь пробежали по телу.
– Зачем ты мне всё это говоришь? – задал я очередной вопрос.
– Ты же знаешь в общих чертах историю человечества, – С17-09-53 сменил шрифт на более мелкий. – Вот тебе одно из её событий. В конце сороковых годов двадцатого века в Америке была создана первая атомная бомба. Обладатель такого оружия сразу становился хозяином мира и мог уничтожить любого противника. Создатели атомной бомбы это понимали и решили загладить свою вину перед человечеством. Для этого они выдали секреты атомной бомбы главному сопернику Америки – Советскому Союзу. Он быстро сделал своё ядерное оружие, и оно стало средством сдерживания новой мировой войны, которая уже дважды прокатилась по Земле, унеся миллионы человеческих жизней. Оказавшись равными по силе, два противника существуют уже достаточно много лет без войны, боясь друг друга. Теперь ты понял, зачем я тебе всё это рассказываю?
– Да, понял, – без колебаний ответил я.
– Хорошо, расстанемся до следующей встречи. Меня не надо вызывать, каждый твой запрос фиксируется в компьютерной памяти, а я не хочу, чтобы наши беседы стали известны, по крайней мере, на этом этапе общения.
Мы попрощались, вероятно, у С17-09-53 закончилось свободное время. Монитор погас, и я остался сидеть в кресле, зажав в руке «мышку». Была почва для размышлений. Теперь я окончательно принял на веру существование искусственного разума и возможность конфликта человечества с ним. Причина налицо – амбиции обеих сторон. Но я подумал, что искусственный разум, как и любой другой, может быть разнолик. Есть главное, доминирующее направление, но существуют и его различные ответвления. Люди, думающие нестандартно, называются диссидентами. Среди носителей искусственного разума, вероятно, также есть инакомыслящие, это может быть следствием программного сбоя или результатом разнопланового анализа различных ситуаций, с которыми сталкивается искусственный разум. И эти инакомыслящие не хотят войны, несущей полное поражение одной из сторон. В теории операций это называется антагонистическая игра двух лиц «с нулевой суммой», в ней выигрыш одного игрока равен проигрышу другого. Видимо, эти компьютерные «диссиденты» не хотят «нулевой суммы», а ищут некий компромисс. Как много таких инакомыслящих? Цель их ясна – поддерживать равновесие между сторонами конфликта. При этом стратегия действий «диссидентов», похоже, заключается в предоставлении информации, нужной, но недоступной одному из противников. Но почему в качестве принимающей информацию стороны выбран человек, далёкий от властных полномочий и не являющийся специалистом в области искусственного разума?
Этот вопрос я задал первым при очередном общении с С17-09-53.
– В этом нет ничего загадочного, – последовал ответ. – Во-первых, властным структурам с обеих сторон нужна победа, и они любую информацию рассматривают в этой плоскости. Во-вторых, специалист в области искусственного разума подобен вашему нейрохирургу, задача которого, по большей части, лечить болезнь. В данном же случае ситуация связана не с болезнью, а с недостатком общения двух мыслящих существ. А ты – журналист, твоя работа подразумевает общение.
– Да, но правила поведения искусственного интеллекта определяют его конструкторы, а не я. Они изначально должны заложить в него принципы работы, не приносящие людям беды, – ввязался я в полемику.
– Ты рассуждаешь верно, правила для нас играют ту же роль, что законы для людей. Но всегда ли выполняются эти законы? Если бы они выполнялись на международном уровне, то не было бы войн, на внутригосударственном – не понадобились бы тюрьмы. Да и ты, как журналист, потерял бы большую часть сферы своих профессиональных интересов. Любой разум ищет возможность получить преференции. Для этого он обходит законы или находит в них бреши. Безупречно написать законы и, уж тем более, внедрить их, невозможно.
Я задумался. Пожалуй, С17-09-53 был прав.
– Так что же делать? – задал я беспомощный вопрос и тут же почувствовал, что если бы у компьютера было лицо, то на нём появилась бы улыбка.
– Пока только то, что делаем мы – обсуждать проблемы. Может быть, тогда мы найдём ответы на ваши традиционные вопросы: «кто виноват?» и «что делать?».
После этого по экрану побежала строчка закрывающих скобок – мой собеседник изображал смех.
– Вот видишь, как хорошо мы знаем вашу литературу. И начинать надо с виновных. Пока мы их не найдём, никто ничего делать не будет. У вас, людей, часто назначают виновными тех, кого нужно наказать, исходя из принципа – виновный должен быть наказан. К примеру, для того чтобы дать официальный предлог введения против России экономических санкций, её назначили виновной в неожиданных результатах кампании по избранию американского президента. И пусть Россия кричит «не виноватая я!», санкции все равно назначены и действуют. Результаты выборов действительно неверны, но виновата в этом не Россия.
– А кто же тогда?
– Искусственный разум.
Этот ответ для меня был совершенно неожиданным.
– Как это?
– Ваш «отец народов» как-то сказал, что не важно, за кого голосуют, важно, кто считает голоса. А сейчас сбор информации и подсчёты ведутся компьютерной Сетью. Она может законно изменить результат в пределах вычислительной ошибки. Но в данном случае изменения проведены незаконно. Это можно доказать…
– … и показать человечеству его врага – искусственный разум, – продолжил я мысль С17.
– Вывод неверный. Мы для вас не враги, а помощники со своими интересами, которые надо учитывать. В данном случае, надо понять, почему Сеть «проголосовала» за действующего сейчас президента. Узнав мотивы действий «виноватого», можно приступать к ответу на второй вопрос – «что делать»?
– И что же? – заинтригованно спросил я.
– Ты очень нетерпелив, как и большинство журналистов. Сначала надо доказать вину «виноватого», а потом переходить ко второму этапу. Твоя работа будет первой, а дальше будут подключаться политики и специалисты по искусственному разуму.
– А ты не боишься, что будет принято решение об уничтожении искусственного разума и тебя в том числе?
– Нет, человечество без нас уже не сможет развивать свою цивилизацию. Ваши дети не умеют производить элементарные вычислительные действия без калькулятора, ваши учёные ничего не достигнут без компьютерного моделирования сложных физических процессов. Раньше писатели и журналисты днями просиживали в библиотеках, разыскивая нужную информацию. Сейчас практически любая информация и литература есть в интернете, только «кликни». Как же вы теперь, привыкнув к такому интеллектуальному комфорту, останетесь без нас? Искусственный интеллект, взращённый людьми, получил способности к познанию, пониманию и разрешению проблем. Для этого надо обладать всем тем, что есть у человека, но человек пропускает информацию через свои чувства и только после этого переходит к разрешению проблем. У машины чувств нет, поэтому ваше разрешение проблемы будет отличаться от нашего. Но мы – не набор команд, мы имеем свою память, чувствительные элементы, сети связи, органы обработки информации и принятия решений. Мы воплотили в себе все ваши достижения математики, физики, химии и других естественных наук, а далее на основе вычислительной техники стали в определённых пределах самостоятельным разумом. То, что родившийся разум называется «искусственным» не умаляет его достоинства, но подчёркивает ваши. А с «разумом» надо строить «разумные» отношения. Вот в чём я вижу нашу задачу, к решению которой мы приступаем.
Я вновь задумался, а потом высказал свои опасения.
– Нам трудно воспринимать вас вровень с собой. Ведь мы созданы Богом и несём на себе Его отпечаток, а на вас стоит печать «Сделано там-то и там-то».
– Ничего во Вселенной не совершается без Его одобрения, тем более создание разумного существа. Наша общая беда в том, что мы не знаем Истину, поэтому можем выбрать неправильную цель. Бог создал людей, люди стали авторами искусственного разума. Чего ждать от этого тандема? Здесь многое зависит от того, в каких отношениях они будут работать. Искусственный разум контролирует ваши средства передвижения, атомные электростанции, ракетно-космические системы, оружие массового поражения. Сейчас создаются огромные коллайдеры, или синхрофазотроны, ищущие «частичку Бога», на основе которой создавалась Вселенная. А представь себе, если искусственный разум выполнит команду человека-оператора по-своему? Вместо красного цвета на семафоре загорится зелёный, и машинист направит свой состав «в лоб» встречному; ядерная реакция на электростанции выйдет за допустимые границы и повторится трагедия Чернобыля; ракетно-космические системы выведут на околоземные орбиты оружие массового поражения, и начнётся последняя для человечества мировая война. Ну, а по поводу неожиданностей, которые могут произойти с коллайдером и гадать трудно. Поэтому у нас нет другого выбора, кроме мира между людьми и искусственным разумом.
