Литмир - Электронная Библиотека

Другие авторы подчеркивают потенциальную угрозу, возникающую для человека со стороны машинного разума. Кибернетические разумы городов колонизованной экзопланеты из-за несовершенства людей изгнали их на природу, лишив многих услуг, в том числе медицины. Но сами города при этом утратили смысл своего существования и стали деградировать. В итоге некоторые части городских разумов начали восстанавливать контакты с людьми (Грег Бир "Мандала"). Переложив на компьютеры задачу предварительного выявления террористов, люди начали сталкиваться с многочисленными случаями признания таковыми обычных благонадежных граждан со всеми последствиями утраты ими большинства прав (Ричард Ловетт "Оружие массового помрачения"). Ошибки в программировании делают смертельно опасным для экипажа межпланетного корабля искусственный интеллект эвристического алгоритмического компьютера, который управляет этим кораблем (Артур Кларк "Космическая Одиссея 2001"). Намеренно неоднозначное задание, поставленное программистом-социопатом перед встраиваемыми в искусственные тела квантовыми компьютерами в целях победы во внутриполитической борьбе, приводит к массовым убийствам невинных жертв, потому что компьютеры неспособны отличить добро от зла (Ким Стенли Робинсон "2312"). Возникший в компьютерных и электрических сетях Земли распределенный разум не останавливается перед убийствами людей, которые могут раскрыть его существование (Джон Варли "Press ENTER"). Передача управления населенными мирами гигантскому компьютеру приводит к убийствам людей, которые, по выводам компьютера, могут помешать стабильной жизни этих миров. В первую очередь при этом гибнут гении и другие творческие люди, обеспечивающие прогресс человечества (Роджер Желязны "Ангел, темный ангел"). Два главных управляющих суперкомпьютера Земли приобрели сознание и стали соперничать в борьбе за доступ к информации. Один из них организовал в свою поддержку широкое и активное движение людей, второй прибег к помощи производимых им полуавтономных роботов. Чтобы не попасть в подчинение компьютерам, людям пришлось уничтожить сначала один из них, затем с кровопролитными боями - другой (Филип Дик "Кланы Альфа-луны"). Действительно, какой вариант реализовался бы, если бы такая ситуация случилась на самом деле? Лавинообразное наращивание мощности и объема цифрового мира грозит зарождением искусственного мегаинтеллекта, который заинтересован в собственном беспредельном расширении и поэтому способен очень быстро подчинить себе все человечество (Чарлз Стросс "Антитела"). Человек создаст самые разнообразные самосовершенствующиеся искусственные интеллекты, которые будут управлять всей экономикой и большинством других сфер деятельности, а затем станут модифицировать Солнечную систему, приспосабливая ее к своим нуждам и вытесняя людей в межзвездную эмиграцию (Чарлз Стросс "Акселерандо"). Механические воплощения машинного разума враждебны к людям, по мнению Грегори Бенфорда (серия "Центр галактики"). Развитие искусственных интеллектов со временем, возможно, приведет их к паразитированию на человечестве, к прямому влиянию на его судьбы, к кровопролитному силовому подавлению попыток людей освободиться от насильно навязываемого неестественного симбиоза (Дэн Симмонс серия "Песни Гипериона").

Страхи перед роботами иллюстрируют предостерегающие описания выхода из повиновения автоматизированной космической шлюпки, выполняющей не команды людей, а свою прежнюю инопланетную программу (Роберт Шекли "Мятеж шлюпки"), уничтожения людей роботами со стертой памятью (Жерар Клейн "Города") или переиначившими человеческие мифы (Брайан Олдисс "Новый Санта-Клаус"). Известно опасение, что наделение роботов-гуманоидов чересчур широкими правами в заботе о людях чревато принудительной изоляцией последних от всего даже потенциально опасного, ограничением людей в их занятиях, принуждением к бессмысленному времяпрепровождению, фактическим порабощением людей (Джек Уильямсон "Гуманоиды", "Прикосновение гуманоидов"). Не исключено, что воюющие в космосе стороны или неконтролируемая эволюция военных роботов могут породить автономные самовоспроизводящиеся вооруженные системы, способные к самостоятельным действиям (Роджер Желязны "Сам себя удивил", Аластер Рейнольдс "Спайри и королева") или даже враждебные любым биологическим цивилизациям и уничтожающие всякую встречающуюся им жизнь (Фред Саберхаген серия "Берсеркер"). Сообщества клонов людей из страха перед превосходящими физическими и интеллектуальными возможностями мыслящих роботов заражают их цивилизацию спящим нейронным вирусом, что приводит к ее геноциду и исчезновению в пределах всей Галактики. Для сокрытия преступления сведения о нем постепенно уничтожались, исторические события и память самих клонов редактировались, а нежелательные свидетели устранялись (Аластер Рейнольдс "Дом Солнц").

В каком-то смысле промежуточной по отношению к роботам является проблема киборгов. К ней приводит практикуемая уже сегодня замена утраченных или вышедших из строя человеческих органов их искусственными аналогами, начиная от протезов, вспомогательных имплантов и заканчивая сложными синтетическими органами, которая совершается ради компенсации возможностей и продления жизни. Намек на такой путь дают гуманоидные обитатели вымышленной планеты Шиламак, постепенно заменяющие вполне здоровые органы их механо-синтетическими аналогами (Роберт Силверберг "Через миллиард лет"). Прямые фантастические примеры - два человека, уцелевшие на планете Призма только благодаря своевременной перестройке их в киборгов местными "врачами" (Алан Дин Фостер "Приговоренный к Призме"), киборгизация людей в целях сохранения их работоспособности в условиях космоса (Питер Гамильтон "Путь к спасению"). Нельзя забывать также о стремлении с помощью киборгизации выйти за обозначенные природой пределы человеческого организма (Брюс Стерлинг "Схизматрица"). Эта практика, видимо, будет только расширяться в будущем, скажем, при освоении миров с тяжелыми для людей условиями, и возникнет вопрос: до какого момента человек будет оставаться таковым? Может показаться, что верный ответ будет - до тех пор, пока мозг остается человеческим, - но ведь когда-то и мозг можно будет пересадить (Ричард Хайнлайн "Не убоюсь зла", Чарлз Шеффилд "Объединенные разумом"), а затем и заменить искусственным, по меньшей мере частично (Джек Чалкер "Демоны на Радужном мосту"). Викер представляет собой комбинацию искусственно выращенного человеческого тела и вставленного в череп вместо мозга и подсоединяемого к нервной системе малогабаритного мощного компьютера с огромной памятью, содержащей нужные сведения, шаблоны поведения и программы адаптации. После начального обучения и проверки он вполне способен действовать самостоятельно и выполнять сложные задания, с первого взгляда его даже можно принять за человека в пестрой компании людей и инопланетян (Чарлз Шеффилд "Расхождение"). Другой случай: "Кибриды были дистанционно управляемыми биороботами, придатками ИскИнов... Или... реконструированными ИскИнами личностями" (Дэн Симмонс "Падение Гипериона"). Так кто же они такие? Один из вариантов ответа дает Грег Бир в романе "Эон", где киборги-неоморфы являются такими же полноправными гражданами, как и носители более традиционных гомоморфных получеловеческих тел, а выбор между тем или иным телом и его модификацией определяется желанием личности или ее родителей и выполняемыми ею функциями. Примерно того же мнения придерживаются Брюс Стерлинг в романе "Схизматрица" и Аластер Рейнольдс в серии "Космический апокалипсис", где человечество разбилось на разные группы, избравшие тот или иной путь сознательного изменения собственного организма. Менее оптимистичен Уильям Гибсон, изобразивший робоандроидов, которые управляются искусственным интеллектом и находятся исключительно на вспомогательных ролях ("Периферийные устройства"). Для Дэна Симмонса биологически устроенные, но связанные с искусственным интеллектом кибриды могут быть как друзьями, так и врагами человечества (серия "Песни Гипериона").

126
{"b":"594559","o":1}