«Последствия открытий неумолимы — самое большее, можно на какое-то время затормозить их реализацию… Я считаю, что человечество не готово к нашествию искусственных человекоподобных существ. Разумеется, наиболее важно — действительно ли они равны человеку?» — Дознание
В результате у человека формируется специфическое отношение к роботам, которое отличается от отношения к людям в силу следующих причин — робот 1) обладает большими техническими возможностями в конкретной ситуации, 2) не может уклониться от выполнения ясно отданного распоряжения, 3) не может ответить на агрессию человека. Поэтому отношение к роботу похоже на отношение мужчины к влюбленной в него женщине. Отличие состоит в том, что отношения между людьми являются объектом оценки со стороны общества посредством морали, референтной группы, рассеянной санкции и т. д., а отношение к роботам является объектом такой оценки в существенно меньшей степени и сильнее зависит от так называемой автономной морали. Отношение робота к человеку — в той мере, в которой оно не навязано программой исходит из расчета на большее число шагов, чем это свойственно человеку.
«Пиркс уже давно приметил, что человек подчас легче познается в его отношении к роботам, чем к иным людям». — Несчастный случай
«Крулль с самого начала помыкал роботом, награждал его презрительными кличками и не раз давал поручения, от чего остальные члены группы воздерживались хотя бы потому, что универсальный робот — не лакей. И делал он это, видимо, затем, чтобы, унижая Анела, тем самым досадить Массене, прямо задирать которого не решался». — Несчастный случай
«Было какое-то изощренное коварство в том холодном спокойствии, с каким человек запихивал добытые о себе знания в бездушные машины, присматривая за тем, чтобы не повысился уровень их одушевленности и чтобы они не стали конкурентами своего творца в познании прелестей мира… автоматы не были обездоленными, не были они и объектом безудержной эксплуатации, все было проще и вы то же время хуже — с моральной точки зрения сложнее для критики; их возможности ограничили еще прежде, чем они появились, — на листах чертежей». — Несчастный случай
«И не это чувство побуждало меня спасать его от меня или не только от меня, ибо, когда я переставала рассуждать о своей любви, он становился мне совершенно безразличен, зато мне нужен был союзник в борьбе с тем, кто ночью вонзил в меня ядовитый металл. У меня никого больше не было, а он был мне предан безоглядно, и я могла на него рассчитывать». — Маска
Существенную часть отношения человека к роботам составляет требование, восприятие и оценка их повиновения, т. е. исполнения ими распоряжений. Предпринимая любые действия, человек стремится не усложнять свою картину мира, и, понимая, что картина мира должна соответствовать миру, чтобы ее применение было эффективным, предпочитает не усложнять мир, то есть требует повиновения от всего создаваемого. Отступление от этого требования возможно только при наличии прогноза какого-либо выигрыша от применения системы с большей самостоятельностью, а для этого требуется способность к более далекому прогнозу и достаточно высокая оценка отложенного выигрыша. В отношении роботов ситуация усложнена тем, что, не разделяя с человеком тех ресурсов, которые разделяет человек с другими людьми, роботы не склонны к противостоянию и борьбе «человеческого типа» с человеком, а человек этого может не понимать или не учитывать.
«… чего требуют конструкторы от своих кибернетических творений?
… Повиновения. Об этом даже не говорят, а некоторые, пожалуй, и не знают. Но это основной молчаливо принятый принцип. Фатальная ошибка! Строят машину и вводят в нее программу, которую она должна выполнить… для достижения немедленных результатов они закрывают дорогу любым попыткам самопроизвольного поведения собственных творений…» — Доктор Диагор
«Пристрастившись к борьбе не на жизнь, а на смерть, вы тайно рассчитывали именно на такой оборот событий — на титаническую схватку с вашим творением — но это всего лишь ваше заблуждение». — Голем XIV
«Инстинктивно я принимал ЕГО, так сказать, вопреки собственным познаниям и надеждам, все же за еще одну разновидность, пусть очень высокоразвитую механического мозга; значит, этакий сверхэлектронный супер, мыслящий слуга человека; и только лишь той ночью я осознал свое безумие. ОН вовсе не был враждебен людям; ничего подобного. Не было и речи о конфликте, какой представляли себе раньше, вы знаете: бунт машин, бунт искусственного разума — мыслящих устройств. Только, видите ли, ОН превосходил знанием все три миллиарда разумных существ на земле, и сама мысль о том, что ОН мог бы нам служить, была для НЕГО такой же бессмыслицей, каким для людей было бы предложение, чтоб мы нашими знаниями, всеми средствами техники, цивилизации, разумом, наукой поддерживали, допустим, угрей….. ОН питал к нам такие же чувства, какие мы, наверное, питаем к бескостным рыбам, которые были нашими предками. Мы знаем, что не будь их — не было бы и нас, но не скажете же вы, что питаете чувство благодарности к этим рыбам? Или симпатию?» — Формула Лимфатера
Послесловие
Формальные соображения по этому тексту изложены на двадцать тысяч строк выше. Теперь немного о неформальном. Казалось бы, странно, когда люди общаются через текст — но ведь мы общаемся через текст со всей историей, и от слов, выцарапанных палочкой на глине тысячи лет назад, у нас сегодня сжимается сердце…
Комментирование неминуемо вовлекает нас в приятный, но рискованный процесс реконструкции мыслей и чувств автора. Уильям Оден: «Читать — значит переводить, ибо не бывает на свете двух людей, у которых бы совпадал жизненный опыт». Этот перевод — личное дело каждого; но… когда ты обнародуешь свой комментарий к Стругацким или Лему, что вообще полное безобразие, ты совершаешь очень рискованный поступок. Ты выходишь из мира читателей, и, если бы ты понимал, сколько невидимых глаз смотрит на тебя в этот момент, ты бы никогда этого не сделал. Этим действием ты заявляешь, что тебе мало быть читателем и ты хочешь быть кем-то другим.
Комментатор, обнародующий свой комментарий, заявляет, что полагает свое понимание интересным для окружающих. Не хочется вызывать ассоциацию с преподаванием литературы в тоталитарной школе, но понимания алчем мы все — и я, один из тебя, великий All, выношу свое понимание на твой суд. Проходят тысячелетия, и символом мудрости остается человек, который сказал: «Изо всех сил своих учитесь понимать» (Танах, Притчи Соломоновы 4:7). Комментирование также неминуемо вовлекает нас в приятный, но рискованный процесс реконструкции мыслей и чувств читателя. Конечно, каждый пишущий сознательно или бессознательно делает это, но обычно не признается — ни себе, ни другим. Я надеюсь, что честное и публичное признание уменьшит вину. Комментирование — участие во вселенской культурной Игре, а когда мы приносим свой комментарий великому All'у, мы пытаемся сыграть ему эту «музыку сфер».
Два эпиграфа, с которых начинается этот текст, отражают два основания этой работы — две эмоции, которые выбрали меня в качестве места своих регулярных разборок. Спасибо Илье Смирнову — он познакомил меня с «культурой русского рока», а без этого не было бы одного из эпиграфов, а также некоторых цитат в тексте «Стругацкие: комментарий для генерации NEXT». Спасибо Дмитрию Бергельсону, который познакомил меня с культурой ФИДО. И Алле Кузнецовой, которая ввела меня в мир ролевых игр.
Спасибо всем экспертам — и тем, кто сделал отдельные замечания или ответил на конкретные вопросы, и тем, кто просмотрел весь текст — Владимиру Борисову, Марии Гайнер, Анатолию Дедкову, Леониду Рудману, Виктору Язневичу, Алле Кузнецовой.
Он играет им всем,
Ты играешь ему,
Ну, а кто здесь сыграет тебе?
