– Никто не пойдёт смотреть этот ужасный мюзикл! – парировал я и с возмущением отринул прочитанный сценарий, бросив его на стол.

– Побегут! – засмеялся Майкл. – В мюзикле сюжет не главное, там основное музыка, песни и танцы. А наш «паренёк» пишет классную музыку, с ним дружат известные поэты-песенники, да и само место постановки – Бродвей, о многом говорит. Нужно только выбрать момент для премьеры, и реклама Искусственного разума обретет новую жизнь.

– Ты не понимаешь, чего я хочу. Не рекламировать ИР, а предупреждать людей, к чему он может их привести.

– Без рекламы все твои предостережения – просто блеф. Вы, русские, этого не понимаете, поэтому и проигрываете Западу все информационные войны. Запад показал по ТВ слёзы сирийской матери об убитом маленьком сыне и сказал, что его отравили газом русские. И какие бы вы после этого не приводили доводы, что вы этого не делали, и что у вас вообще нет отравляющего газа – вам не поверят. У зрителей в памяти отпечатались материнские слёзы, связанные с вами. Реклама играет на чувствах.

– Ты предлагаешь рекламировать Искусственный разум и работать на его стороне?

– Сначала вызвать интерес к нему, как это нам удалось ранее, а потом рассказать, к чему он нас привёл, или может привести. Интерес к горячим темам в обществе долго не держится, его надо подхлёстывать. Тогда, первый раз, в качестве плётки мы использовали президентские выборы, а сейчас грядут парламентские выборы, и эту возможность нельзя упустить.

– Ну, уж этим ты занимайся сам. Не люблю кататься на заезженной лошади. Поищу что-нибудь другое.

– Отлично! Ты мозг нашей русско-американской компании. Прокладывай новый путь, а я буду подгребать.

– Видишь, как хорошо складываются наши отношения! – засмеялся я. – И почему наши президенты так не могут?

– Советников слишком много, – серьёзно ответил Майкл. – Президенты – парни не хуже нас с тобой, но вокруг них кормится много всякой дряни.

– Я собираюсь слетать в Сан-Франциско, там, километрах в шестидесяти от него, на кладбище русской крепости Форт Росс похоронен мой предок – первопроходец северного побережья Тихого океана.

– Что же, давай. Я там не был, расскажешь.

На следующее утро с восходом солнца я летел на запад Соединённых Штатов. Четыре часа лёта и четыре часа разницы во времени. Я влюбился в Сан-Франциско с первого взгляда. Он предстал передо мной как город туманов и вечной тёплой осени. Температура в любое время года около 22 градусов по Цельсию, не увеличивается и не уменьшается больше чем на два градуса. Город расположен на холмах, которые спускаются одной стороной к Тихому океану, а другой к заливу. Залив рассекает город на части, соединённые огромными вантовыми мостами ярко-красного цвета. Океан приносит в город туманы, он же их и разгоняет, кормит людей всем, что рождает, и грозит могучими волнами, с рёвом обрушивая их на городские набережные. Город с почтением смотрит в океан с высоких холмов, по которым проложены улицы в старом викторианском стиле. Трамвай – свидетель прошлого, с помощью лебёдки поднимается от набережной на самый высокий холм города и оттуда весело, с переливчатым звоном устремляется вниз, к океану, проносясь под восторженные крики туристов мимо прекрасных оранжерей цветов. Цветы в городе везде – возле громад офисных зданий и возле уютных двухэтажных домов, будто перенесённых сюда с туманного Альбиона, затерявшегося в далёком Атлантическом океане.

Сам город построен в точке равновесия между холодным севером и жарким югом, влажным воздухом океана и сухим ветром пустынь. Здесь природа достигла своего компромисса. Жаркое лето спряталось за холодную зиму, оставив городу красоту весны и богатство осени. Океан стал главным распорядителем жизни, люди подчинились его правилам, и в изобилии получают за это плоды земли и воды. Чтобы их взять, людям нужно трудиться, и только необходимость труда отличает этот район Земли от ветхозаветного рая, где Бог всё предоставляет даром. А может ли быть райская жизнь без труда, который радует человека и приносит удовольствие? Мне кажется, что в ответе на этот вопрос древние мудрецы Сиона что-то не додумали.

На следующий день я взял напрокат машину и поехал в Силиконовую долину, мировой центр вычислительной техники. Её столица находится в 65 километрах южнее Сан-Франциско, но природа там отличается разительно – в Силиконовой долине жарко, сухо и пыльно. Среди чахлой растительности возвышаются бетонные блоки офисных зданий, производственных помещений и складов, светятся неоновые вывески всемирно известных телекоммуникационных и компьютерных фирм: Apple, Google, Cisco Systems, Oracle, Microsoft. Здесь я договорился встретиться с одним из известных конструкторов вычислительной техники.

Разговор начался с моего главного вопроса.

– Джон, Вы являетесь крупнейшим специалистом по созданию искусственного интеллекта. Я хочу спросить у Вас – верите ли вы в существование Искусственного разума?

– Сначала вопрос к Вам: что Вы под ним понимаете?

– Искусственно созданное существо, способное принимать решения, исходя из своих целей.

– Нет, такого разума не существует, любое искусственное создание принимает решения из целей, заложенных в него человеком. Если оно отклоняется от них, то это считается ошибкой, сбоем, и существо должно прекратить свою деятельность.

– А если оно не прекращает?

– Тогда его уничтожают либо переводят в режим, не имеющий катастрофических последствий.

– Можно, я изменю вопрос: все ли решения, принимаемые интеллектуальным существом, контролируются человеком?

Джон задумался, а потом ответил, как мне показалось, не совсем уверенно.

– Нет, не все. Это невозможно и ненужно. Есть специально выбранные точки, которые могут контролироваться человеком, чтобы не допустить дальнейшей неправильной работы системы.

– Можно ли быть полностью уверенным, что вне участка контроля система не ведёт себя непредсказуемо и человек в контрольной точке этого не замечает?

– Полностью – нет, поэтому строятся новые контролируемые точки, чтобы вероятность бесконтрольных действий машины свести к нулю.

– Это похоже на борьбу человеческого разума с искусственным. В этой борьбе каждая из сторон исходит из своих целей.

Джон рассмеялся.

– Да нет же, если это сбой или ошибка, то она должна быть просто исправлена машиной или человеком.

– Выходит, что Вы боретесь с Искусственным разумом, отрицая его существование?

– Не совсем так. Мы создаём вычислительную систему под наши цели, не допуская следования к непредвиденным целям.

– Я делаю вывод, что мы понимаем искусственный разум одинаково, только по-разному называем цели, которым он может следовать. У меня они «собственные», у Вас – «непредвиденные», – торжествующе заключил я.

– Пусть будет так, – ответил Джон и закурил электронную сигарету, обдав меня облаком дыма. – Только это ничего не меняет. Искусственного разума, стремящегося к своим целям, не существует.

– Быть может это такой же обман, как уверенность в безвредности электронной сигареты по сравнению с обычной. Что Вас может убедить в наличии у вычислительной системы собственных целей?

Джон вновь задумался. После своего согласия с тождеством «собственных» и «непредвиденных» целей, свобода выбора аргументов против моих утверждений у него уменьшилась.

– Результаты действия машины с искусственным интеллектом по своим целям.

– Вы исключаете возможность совпадений целей машины и человека хотя бы на каком-то интервале времени?

– А вы сами, случайно, не робот? – засмеялся Джон. – Обычно на конференциях и в интервью я убеждаю людей о наличии искусственного интеллекта. Сейчас всё наоборот – я сражаюсь за своё понимание против вашего, одушевляющего искусственный интеллект и превращая его в разум.

– Я так не считаю. Душа – это именно то, что присуще человеку. Вы правильно сказали – убедиться в наличии собственных целей у машины можно по результатам её действий. Но тогда эти результаты надо видеть под другим углом. Вы, наверное, слышали о возможности вычислительной ошибки в подсчётах результатов голосования президентских выборов. Если это случайная ошибка – то виноват сбой машины, а если намеренная – то результат действия человека-злоумышленника или работы машины по своим целям. Что Вы выберете?