- Кто такие фильсы и суслы? Что здесь произошло? Рассказывай по порядку, - потребовал я.
- Я обязана выполнить приказ. Очень важный для меня разговор между старшим мантенераиком и его племянником незадолго до катастрофы состоялся здесь, - начала Машина свою исповедь. Виктор сказал:
- Через два месяца ты полетишь на Землю, чтобы закончить образование. Вернешься взрослым и, как знать, может быть, не застанешь меня в живых.
Мальчик хотел что-то возразить, но старший мантенераик не дал ему.
- Я говорю это вовсе не за тем, чтобы ты посочувствовал мне. Двадцать лeт я конструировал и собственными руками собирал важнейшие узлы чудовища. - При последних словах человек рукой показал на меня. - Никто другой не знает ее схемы.
- Чуть ли не ежедневно я подвергал себя опасному излучению. Никакие меры предосторожности не давали полной защиты. С мыслью о скорой смерти я примирился. Жалею только об одном; моей жизни не хватит завершить начатое. Это сделаешь ты. Все мои расчеты и планы спрятаны в сейфе, про который никто не знает. Ключ от него я передам тебе. Но без помощи Машины и ты будешь бессилен завершить начатое. Поэтому я принял меры, чтобы хозяином положения на планетоиде стал ты. Мне пришлось поступить незаконно. Я уверен, что совет Карста не посчитался бы с моими желаниями. Эти пустоголовые тупицы определят на должность старшего мантенераика какого-нибудь идиота, умеющего быстрее других считать. Выслушай меня внимательно, я хочу объяснить тебе, почему поступаю вопреки законам. Тебе известен важнейший правовой принцип, которым руководствуются на Карсте. "Любое возможное разногласие разрешается в пользу большинства. Одиночные желания и мнения при выборе решения не учитываются".
- Мне кажется, это справедливый закон, - сказал мальчик.
- Так же считал и я, пока... Пока мои собственные желания совпадали с желаниями большинства. Обещай ничего не предпринимать раньше, чем возвратишься с Земли. От того, что пароль будешь знать ты один, никто не может п;эстрадать. Чтобы обрести самостоятельность. Машине необходим длительный срок. Я намеренно оставил ей возможность саморазвития. Но только возможность. Чтобы она проявилась, в мозг Машины необходимо ввести новые знания. Сейчас она знает лишь самое необходимое, достаточное, чтобы справляться с обслуживанием жилых отсеков и подсобного хозяйства. Разделительные барьеры между двумя блоками мозговых клеток поставлены умышленно - нельзя допустить, чтобы все тридцать шесть миллиардов ее нейронов работали слаженно, никем не контролируемые. Но ей оставлена единственная лазейка. Отыскав ее, Машина может выйти из повиновения.
Спросишь: зачем было идти на такой риск? Видишь ли... Мне нужна была не просто счетная машина, но думающая. Полностью контролируемая машина не способна думать, она может только считать, пусть с баснословной скоростью, по дьявольски сложной программе, но - только считать. Машина, созданная мной, рассчитана на полную самостоятельность. Но это лишь в будущем. Пока она всего лишь тупой, идиотски точный счетчик.
-- Когда же она научится думать?
- Не раньше чем поставит себе собственную задачу. Для этого нужно время. Его можно сократить, если в ее мозг ввести дополнительные знания. Потребность приобретать знания задана ей. Но до поры я сознательно ограничил норму информации, держу ее на пайке. Я не хочу, чтобы Машина обрела самостоятельность раньше, чем возвратишься ты и сможешь направлять ее действия. Секрет, как сохранить над нею власть, я передам тебе. Если ей дать полную волю, она способна наделать бед.
- Но почему? Разве в ее программу не заложены шесть основных правил гуманности? Мы проходили это еще в начальной школе.
- Меня радует твоя любознательность. Ты прав: шесть принципов гуманности заданы ей как обязательная норма она не может причинить вред человеку или замыслить что либо во вред ему. Но... Нельзя преступить только законы природы, но не юридическую норму. Попытаюсь объяснить тебе, почему Машина может стать опасной, только для этого придется отвлечься.
Стерший мантеиераик приказал мне выдвинуть из стены два кресла. В одно сел сам, в другое усадил племянника. Разговор этот становился мучительно интересным для меня. Полная запись его хранится в глубинном блоке долговременной памяти, я могу воспроизвести ее полностью, если это необходимо.
Я сказал;
- Необходимо.
Минуту спустя я услышал голос Виктора, записанный на пленку:
- Человечеству угрожает гибель. На первый взгляд это может показаться парадоксальным: мы научились создавать условия, необходимые для жизни даже в космосе, могущественная техника с избытком обеспечивает наши потребности в энергии и продовольствии... Но именно это и погубит нас: нам не к чему стало стремиться. К такому убеждению я пришел давно. Я пытался растолковать опасность -Меня не захотели слушать. И тогда я задался целью спасти человечество в одиночку.
- Но почему... почему человечество должно погибнуть? - перебил Виктора племянник.
Голос мальчишки был поразительно знаком мне, как будто эти слова произнес я сам. На мгновение память озарила вспышка ясновидения: я увидел этот же самый зал и Виктора, сидящего на стуле. Тыльной стороной руки мантенераик вытер капельки пота, выступившие на лбу.
Но тут же видение рассеялось. Я снова слышал только голос, записанный на пленку:
- Это нелегко объяснить коротко. Когда получишь образование, ты прочитаешь обо всем в моих записках. Они находятся в потайном сейфе. Основной вывод: вручив свою судьбу технике, передав счетным устройствам их стали называть мыслящими - значительную долю творческой деятельности, человек начал терять любознательность. Человечество погибнет из-за внутренней опустошенности. С потерей любопытства в самом генетическом коде произошли незаметные изменения - люди становятся пассивными и безучастными. Будущее стало совершенно безразлично нам - нашим чувствам. Даже разум не способен придумать ничего увлекательного - скучные идиллические картинки сплошного благополучия.
Старший мантенераик надолго замолчал. Мне слышно было, как вхолостую прокручивается пленка, на которой записана тишина этого зала тридцатитысячелетней давности.
Я опять потерял способность сознавать себя Олесовым превратился в мальчишку.
Я сижу напротив дяди Виктора и мучительно морщу лоб. Разговор заинтриговал меня, я хочу понять замысел дяди Виктора и жду продолжения рассказа.
Наконец он заговорил снова:
- Больше всего меня мучает бессилие найти выход, нэ прибегая к помощи Машины. Но одного человеческого ума на это не хватит. Я задумал остановить дальнейшую технизацию, но готовлюсь совершить это с помощью техники.
Я сижу на жестком стуле и поражаюсь внезапному ощущению. Все вдруг как бы уменьшилось в размерах. Дядя Виктор представился мне крохотным человечком, я вижу его не рядом, а вдалеке. Он шевелит губами, но слова не достигают моего слуха. Прорываются только отдельные фразы, перебитые длинными паузами. Я никак не могу уловить связи: о чем он говорит?
- ...виды, которые в геологическом прошлом населяли Землю. От них человек получил в готовом виде инстинкты.
Изо всех сил стараюсь понять смысл сказанного, но пропускаю мимо ушей целые периоды.
- ...Как же людям удалось объединиться в общество в самом начале? Ведь животные побуждения и тогда были не менее сильны, а морали, которая бы принуждала человека обуздывать себя, не существовало.
Дядя Виктор посмотрел мне в глаза, и от страха, что он догадается, что я ничего не понимаю, я морщу лоб и совершенно перестаю слышать его голос. Потом, минуту или вечность спустя, глуховатый ровный голос Виктора достигает сознания:
- ...Правовые нормы морали, изменяясь в различных социальных условиях, сохраняли неизменную связь с коренными биологическими законами. Человек, нарушивший юридический запрет, угрызения совести испытывал только в случае, если этот запрет подтверждался биологическими нормами. Законы, навязанные силой, не имеющие под собой биологического фундамента древних инстинктов, при их несоблюдении не вызывали угрызений совести, и такие преступники никогда не презирались людьми. Им даже сочувствовали.