– Наименее вероятно – работа машины по своим целям.
– Вот это я и хотел от Вас услышать, – с облегчением сказал я. – Пусть наименее вероятно, но всё же, какая-то вероятность есть. Если Вы в дальнейшем будете учитывать эти малые вероятности, то через год-другой придёте к выводу, что машины, обладающие искусственным интеллектом, с большой вероятностью могут работать по собственным интересам, а, значит, обладать разумом.
– Хорошо, я соглашусь с Вами, – Джон убрал электронную сигарету, видимо, поверив в вероятность её вреда для организма. – Какой из этого вытекает вывод? Прекратить работы над искусственным интеллектом?
– Нет, конечно, прогресс не остановить. Надо понимать, какого монстра человечество создаёт, и быть готовым к борьбе с ним. Нельзя допустить превращение человека в раба машины.
– Но мы создаём машины в помощь человеку. Они выполняют за него чёрную работу.
– А теперь уже и «белую», – не согласился я. – Вспомните историю всех рабовладельческих государств и цивилизаций. Сначала рабы делали чёрную работу, потом интеллектуальную, а затем вышвыривали хозяев из их домов.
– Вы, русские, известные пессимисты. Пойдём лучше выпьем пивка, надоело дышать этим воздухом из кондиционера.
На пиве мы не успокоились, за ним «накатили» вискаря и закончили «Столичной». За дружбу между русским и американским народами.
Наутро болела голова, арендованный автомобиль я оставил в Сан-Хосе, а в Сан-Франциско вернулся на автобусе.
Через час после возвращения из Силиконовой долины я сидел на открытой веранде рыбного ресторана, вкушал свежие устрицы и дышал сладким и приятным воздухом Тихого океана. Завтра у меня была намечена поездка в Форт Росс. Это создавало тихое ощущение счастья. Бывает ещё его «громкое» ощущение, но там всё показное, требовательное к другим. Это не для меня. В «тихом» всё спокойно, и туда никого не хочется допускать. Даже друзей, поскольку это напрягает и счастье пропадает. Трудно бывает объяснить, почему туристическая поездка может вызвать ощущение счастья? Я сам не могу это понять, да и не надо. Главное – его ощущение, об отсутствии которого горевал мой С17. Он мог стать моим другом, но что-то ему помешало. Сначала ему, потом мне. Вчера с Джоном мы так и не пришли к общему пониманию слова «разум». Даже отношения между людьми не всегда строятся разумно. А тут неодушевленная машина. Джон вкладывает в неё свой разум, обогащённый высоким интеллектом, и не хочет признавать её собственные, машинные интересы. А что думает об Искусственном разуме чемпион мира по шахматам, проигравший компьютерной программе? Неужели только то, что она быстрее его просчитывает варианты? Если так, то он никогда у неё не выиграет. Чтобы выиграть, надо признать у нее наличие разума и честолюбивых целей, а потом не дать им свершиться. А создателям Искусственного разума необходимо вкладывать в него интересы, связанные с интересами людей, что сделает его нашим единомышленником. Тогда уменьшится число «контрольных» точек и увеличатся его функциональные возможности.
Интересно, а как машина воспринимает чувства человека, прочитав нашу классическую литературу? Видимо, она окрашивает произведения писателей разными красками: белыми – Льва Толстого, чёрными – Фёдора Достоевского, серыми – Максима Горького. Многокрасочная палитра в её распоряжении. Хотя отдельные люди тоже обладают свойством «раскрашивать» слова. Так Владимир Набоков писал о себе: «Я наделён чудаческим даром – видеть буквы в цвете. Это называется цветным слухом. Возможно, таким талантом обладает один из тысячи». Краски предоставляют большее разнообразие оценки увиденного и услышанного. Надо будет спросить об этом у С17 при очередном общении.
Утром, отъехав на север от Сан-Франциско на семьдесят километров, я попал в природные условия, напоминающие среднерусские. Берёзки и осинки вдоль дороги, лужки и полянки в сосновом бору, вольные просторы полей, обрамлённые лесом, знакомое чириканье птичек, бездонное голубое небо. Если бы не океан, внезапно появляющийся у дороги на крутых поворотах, то мне бы казалось, что я в России. Свернув с магистрали, я въехал на пригорок и увидел трёхцветный флаг Российской империи, трепещущийся на ветру. А вот и сама крепость Форт Росс, сложенная из рубленного соснового кругляка. Строгий прямоугольник 100 на 75 метров трёхметровых стен, две боевые башни в противоположных углах, двуглавая часовня с православными крестами – в таком виде предстала старая русская крепость на американском побережье Тихого океана. За стенами четыре деревянных рубленных дома, построенных в русском стиле, и милый сердцу колодец-квадрат с подвешенным деревянным ведром. Перед входом в часовню висит массивный колокол, судя по клейму, привезённый из России. Крепость за свою более чем двухсотлетнюю историю не подвергалась вооружённым нападениям. Русские поселенцы установили дружеские отношения с местным индейским населением, а потом и с европейскими колонистами из Сан-Франциско. После продажи Аляски произошла торжественная передача крепости представителям Североамериканских Штатов, и русские поселенцы с почётом уплыли на родину.
За стенами крепости располагается православное кладбище, его посещение было основной целью моего приезда в Америку. Где-то здесь, под одним из православных крестов лежит прах моего предка. Кладбище ухоженное, кресты стоят ровными рядами, но без выделения могил холмиком, как это принято в России. Под каким из них упокоился мой прапрадед? Какая разница. Помяну их всех вместе, пожелаю Царства Небесного. Они заслужили его на Земле, прославляя Святую Русь трудом и отвагой.
Я положил на землю индейскую трубочку, достал прадедовский Псалтырь, привезённый отсюда в Россию в девятнадцатом веке, и начал читать вслух. Читал не спеша, запинаясь на непонятных церковнославянских словах, и не всегда выговаривая их правильно. Через час я вдруг почувствовал, что нахожусь на кладбище не один. У меня появилось ощущение, что за спиной стоят люди, переступая с ноги на ногу и шёпотом переговариваясь. Мурашки побежали по спине, я боялся оглянуться и всё громче и громче читал Псалтырь. Неожиданно ударил колокол часовни, я вздрогнул и инстинктивно обернулся на его звук. Лёгкий ветерок пробежал по лицу и умчался в поле. Вокруг никого не было, я один стоял посередине кладбища, судорожно сжимая Псалтырь. И всё же кто-то здесь только что был, явно ощущалось присутствие людей, их поведение, подобное стоянию на службах в церкви. О чём они тихонько переговаривались? Видимо, они приветствовали друг друга! «Покойся с миром!» – вот что они желали каждому. Я закрыл Псалтырь, положил его в сумку, туда же спрятал индейскую трубочку и достал фляжку с водкой. Сделал два глотка по русскому обычаю за упокой душ почивших, а оставшуюся водку вылил на кладбищенскую землю, перекрестился и поклонился на четыре стороны. Успокоенный, я покинул кладбище и вернулся в Сан-Франциско.
На стойке в отеле мне сообщили, что меня разыскивал Джон и просил перезвонить ему. Я немедля выполнил его просьбу.
– Привет, Джон! Что случилось в твоём компьютерном королевстве? – мне показалось, что вопрос прозвучал немного пренебрежительно.
– По следам нашего разговора я провёл ряд экспериментов и получил неожиданный результат. Приезжай завтра, кое-что тебе покажу. Ты будешь поражён.
– К полудню буду у тебя, – пообещал я.
Назавтра я был в кабинете Джона. Он сразу посвятил меня в свои дела.
– После нашего разговора у меня не выходила из головы твоя фраза о борьбе Искусственного разума с человеческим. И я решил провести такой эксперимент: убрал из сети все точки, контролируемые человеком. Дал ей возможность самой себя контролировать. И знаешь, что получилось? Сеть продолжала работать как обычно, но стала контролировать работу человека!
– Как это «контролировать»? – не понял я.
– Подходя к контрольной точке, сеть переходила в режим ожидания действий оператора. Через какое-то время, «понимая», что оператор за ней не следит, она продолжала свою работу. Так она делала многократно. Я уже хотел прекратить эксперимент, как вдруг она стала тестировать оператора! В контрольной точке зависала в нештатном состоянии, ожидая реакцию оператора. Не получив её, сеть проводила действия, которые должен был сделать в этом случае оператор, и исправляла свою ошибку.
