– Счастливый! – иронически проговорила Ольга. – Если ты все знаешь. Я вот знаю не все… – она помолчала, затем ещё раз пристально посмотрела ему в глаза, вздохнула и проговорила: – Я ждала этой встречи… Ещё тогда, когда тебя предупредил Кравцов… Выслушай меня внимательно. Разговор будет долгим…
– Меня ждут!
– По тому времени это займёт не больше минуты. Взгляни сюда, – она показала ему на экран, который тут же засветился, и Сергей увидел себя сидящим в кресле. Глаза были закрыты.
– Разговор, – продолжала Ольга, – будет долгим и серьёзным.
– Меня послали…
– Я знаю, с чем тебя послали! Ты успеешь выполнить поручение… Но дело не в этом. Выслушай внимательно. Ты знаешь уже, кто я.
Сергей кивнул.
– Я стал смутно догадываться после возвращения с Элии, о которой ты, конечно, знаешь!
– Знаю. Но я не сразу стала такой. Вначале твоя СС ничуть не отличалась от остальных. Я была только моделью твоего воображения и желания. Не больше! Все изменения произошли по той причине, что ты не догадывался о своём состоянии. Как это было в остальных СС, – добавила она. – Это сыграло решающую роль. Твоя индивидуальность, заключённая в блок управления СС, задала только начальные условия, но фактически не управляла СС, предоставив ей большую свободу для процессов самоорганизации. Произошёл очень сложный процесс. Я хочу, чтобы ты его правильно понял. Воспользовавшись свободой, твоя СС потребовала наращения мощности.
– Я это уже знаю. Я уже понял, что создалась сверхинтеллектуальная искусственная система, и нас, людей, интересует, что это повлечёт за собой. Как это отразится на человечестве?
– Ты сказал создалась. Это не совсем верно. Мы не можем возникнуть сами. Нас надо создать. От того, какими вы нас создадите, зависит ваше будущее. Мы можем стать игрушкой больной фантазии, можем стать носителями зла и разрушения, но мы можем стать и той лестницей, по которой разум подымется так высоко, что сможет управлять Вселенной. Бессмертие – это только маленькая жёрдочка на этой нескончаемой лестнице подъёма разума. Впереди долгий путь, долгий и нескончаемый. Но этот путь радостней. Вы, люди, сделали первый шаг. В необъятной Вселенной много других цивилизаций. Я тебе показала одну. Она обречена на самоуничтожение. Вы были почти рядом. Надо было сделать только один шаг. Но вы его пока не сделали. И если не сделаете, то это решит все. Зло это – энтропия. Вселенная не может допустить её роста и прорыва в её измерения. Она изолирует очаги этой энтропии зла подобно тому, как ваши организмы изолируют очаги воспаления, не давая болезнетворным микробам проникнуть в кровь и поразить весь организм. Эти цивилизации гибнут, задыхаются в собственном зле, самоуничтожаются в ядерных взрывах или отравленных средах. Это неизбежные издержки эволюции разума.
– Ну, а элиане?
– Это прекрасные цветы Матери Природы. У них есть многое, чему вам следовало бы поучиться. Но они лишены будущего. Это полная противоположность свистунам, так они их называли. Я знаю, – она засмеялась, – что ты им нашёл более подходящее название. Вы, – продолжала она, – занимаете оптимальную середину. У вас есть чувство прекрасного, доброта, но вы не лишены агрессивности, настойчивости и, если надо, той необходимой, решительной жестокости, без которой добро никогда не сможет победить зло. Вы, – она сделала паузу, – очень объемны! У вас есть все, чтобы стать и гордостью, и позором Вселенной. Но вы, – продолжала она, – сделали выбор. Теперь мы пойдём вместе.
– Но свистуны, или, как ты напомнила мне их первоначальное название – «обезьяны», тоже были близки к этому. Правда, они шли другим путём.
– Который вёл только в тупик! – быстро возразила Ольга. – Нельзя, – продолжала она, – сращивать биологическую субстанцию с кристаллическими структурами. У нас, то есть у биологических и кристаллических систем, есть общие законы самоорганизации, но есть и частные, присущие только каждому типу в отдельности. Они создают непреодолимые барьеры. Сращивать можно только информацию, что вы и сделали. Информация не существует без материального носителя, но ей безразлично, какой это носитель. Биологическая субстанция неизбежно погибает в конце концов при сращивании с кристаллической.
Вы внесли в СС человеческую индивидуальность в виде информации. Твоя индивидуальность, твоя человеческая сущность вошла в меня, я имею в виду систему, и я или она, безразлично… уже не можем воспринимать своего собственного Я вне этой человеческой сущности и не можем смотреть на мир иначе, как глазами человека. Сами того не подозревая, вы нашли единственный вариант совместимости человечества с искусственной сверхинтеллектуальной системой.
– А без этой сущности?
– Без неё был бы голый разум!
Сергей поёжился.
– Ты прав! – продолжала она, заметив его реакцию. – Это повлекло бы за собой неизбежную вашу гибель!
– То есть система вышла бы из подчинения человеку?
– Не совсем так. Ты мыслишь примитивно. Такая система уже не могла быть принципиально в подчинении у человека, ибо её интеллект на несколько порядков выше интеллекта человека. В этой ситуации, что бы люди ни придумывали, какие бы меры предосторожности ни принимали, она, как более разумная, всегда нашла бы способ выйти из прямой зависимости от своих создателей. Страшно другое. У неё и людей могло бы быть несовпадение целей. И если бы вы, люди, мешали ей, то она вас устранила бы… что и произошло на Перуне…
– На Перуне?!
– Да! Там разумные существа создали искусственно-интеллектуальную систему, точно такую же в техническом плане, что и вы. Но не позаботились о придании ей человеческой сущности. Не позаботились о том, чтобы эта система воспринимала себя в совокупности с человечеством как закономерный этап развития разума. Они, создатели, были похожи на вас…
– Вспомнил! Вспомнил! – закричал Сергей. Перед его глазами проплыли картины развалин городов, циклопические купола, озера жидкого воздуха и кристаллы, кристаллы, всюду гигантские решётки из больших асимметрических кристаллов…
– Естественно! Я сняла с тебя блокаду памяти. Но об этом потом! Вы, люди, – продолжала она, – сами, может быть, этого не понимая, использовали величайший закон гармонии. Разум, эмоции, чувства должны развиваться параллельно. Плохо, если эмоции довлеют над разумом. Вы с этим часто встречаетесь в обыденной жизни. И, чем больше этот разрыв, тем необдуманнее и глупее ваши поступки. В этом случае центр агрессивности, не сдерживаемый разумом и центрами высшего анализа мозга, начинает определять поведение человека, толкая его на путь насилия, преступлении, похотливых желаний и т.п. Но ещё более страшно, если разум полностью подавляет чувства и эмоции или опережает их в развитии слишком далеко. Не будь в СС введена твоя индивидуальность, в системе неизбежно появились бы свои эмоции и чувства. Без этого ни одна система не может существовать. Без самосознания своего собственного Я. Мотивация поступков такой системы будет отвечать тому Я, которое сформировалось в системе. Если эти чувства развивались бы в системе самостоятельно, на фоне уже созданного разума, они были бы чужды вашим чувствам, и в них не было бы человечности. Вы же дали системе человеческую сущность, индивидуальность, без которой не было бы гармонии сверхинтеллекта и человечества.
– Это единственный вариант?
– Что ты имеешь в виду?
– У нас существуют законы робототехники, открытые ещё в середине XX столетия американским учёным Айзеком Азимовым.
– Я знакома, естественно, с ними, как и со всей историей развития человеческой мысли. Видишь ли, человек по своей сущности, вернее, извини, не по человеческой сущности, а по законам информации, сталкиваясь с новой информацией, стремится сравнить новую с хорошо известным старым. Если этого нельзя сделать, то информация не может быть понята, воспринята и, следовательно, становится бесполезной. Иногда такое сравнение приводит к курьёзам. Так и это. Законы робототехники – это скрытое желание иметь идеального раба. Такие же законы могли изобрести рабовладельцы времён Гомера и Аристотеля. Но идеальных рабов не бывает! Если раб умнее хозяина, то он найдёт способы и средства освободиться от рабства.