Развитие робототехники всегда сопровождалось нравственными и этическими дилеммами, вращающимися вокруг вопроса стирания границы между человеком и машиной. Известный фантаст Айзек Азимов попытался решить этот вопрос, сформулировав в своем рассказе «Хоровод», изданном в 1942 г., «три закона робототехники»:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам8.
Разработчики отнюдь не всегда следуют законам Азимова. Беспилотники, наиболее впечатляющий и широко используемый тип робототехники сегодня, нарушают все три постулата. Они созданы для убийства и причинения вреда человеку (первый закон), они повинуются приказам, которые подразумевают нанесение вреда человеку (второй закон), и заботятся о своей безопасности только для того, чтобы и дальше нарушать первые два закона (третий закон).
В кино, однако, роботы часто изображаются в положительном ключе — так, словно подчиняются законам Азимова. C-3PO из «Звездных войн» — преданный помощник, незаменимый и универсальный, как швейцарский перочинный нож. Другие образы человекоподобных роботов построены на неспособности машин к эмоциям и обладанию личностью, на идее, что наше главное отличие от машин и уникальное свойство состоит в наличии души. Например, страх человека перед превращением в нечто механическое отражен в образе искусственных людей, появляющихся из огромных стручков в фильме «Вторжение похитителей тел».
Мысль о стирании границы между человеком и машиной может щекотать нервы и даже пугать. В культовом фильме Ридли Скотта «Бегущий по лезвию», снятом по мотивам романа Филиппа Дика, изображен целый социальный класс гуманоидных репликантов — человеческих клонов, созданных злодейской Tyrell Corporation, чтобы работать на подрядчиков, заселяющих космические колонии. Репликанты превосходят людей по многим параметрам, но неспособны на проявление настоящих эмоций. У каждого из них имеется фиксированный четырехлетний срок жизни, а в связи с тем, что они очень схожи с людьми и по природе своей жестоки, все они обречены жить в удаленных космических колониях, и посещать нашу ненаглядную планету им строго запрещено. Когда четыре экземпляра последней модели Nexus-6 сбегают из колонии на Землю, на охоту за ними отправляют «бегущего по лезвию», который как раз собрался уйти на покой, — эту роль в фильме исполняет Харрисон Форд (время действия — 2019 г., нам недолго осталось ждать…).
Один из беглых репликантов — женщина-андроид с непростым характером и модельной внешностью по имени Прис («базовая модель для удовольствия») попадает в руки к Себастьяну, дизайнеру-генетику компании Tyrell. Выясняется, что Себастьян создал сотни репликантов для собственных нужд, в основном чтобы скрасить одиночество и использовать как сексуальных партнеров. В фильме «Она» режиссер Спайк Джонс представляет картину глубоко личных взаимоотношений между человеком и операционной системой, которая не имеет телесного облика и существует в виде гарнитуры. Во всех этих фильмах фигурируют человекоподобные машины, обладающие яркой личностью и играющие роли пусть и не вполне человеческие, но глубоко интегрированные в общество. У Себастьяна есть собственное небольшое племя из бракованных и недоделанных друзей. Их причудливые изъяны отчетливо высвечивают механическую природу, но в то же время делают их по-своему очаровательными, ведь именно из-за своего несовершенства они нуждаются в защите и опеке, в точности как дети.
Неотения: сила умиления
Индустрия очеловеченных технологий нередко использует привлекательность детских черт и внешних атрибутов младенчества. Разработчики всегда думают о том, как люди будут взаимодействовать с продуктом, особенно если это вещь или услуга повседневного пользования. Как сделать так, чтобы люди эмоционально привязывались к вещам? Одна из уловок, которой пользуются дизайнеры, ответственные за облик роботов, игрушек и сотен других вещей, — это эффект умиления, реакция людей на неотению. Неотения в социальном смысле — это внешние признаки, отличающие детей от взрослых: например, большие немигающие глаза с расширенными зрачками и непропорционально большая голова9.
Тот факт, что неотения почти всегда вызывает у людей позитивный отклик, уже давно доказан множеством исследований, как академических, так и маркетинговых. Об этом эффекте рассказывают Байрон Ривз и Клиффорд Насс в своей книге «Уравнение медиа, или Почему люди обращаются с компьютерами, телевизорами и новыми медиа так, будто это живые люди». Согласно их изысканиям, всем нам свойственно бессознательно приписывать неодушевленным объектам человеческие свойства, если они проявляют какие-то внешние признаки жизни. В аннотации к своей книге «Человек, который обманывал свой ноутбук», размещенной на сайте Стэнфордского университета, Клиффорд Насс выдвигает теорию, дающую почву для размышления. «Фундаментальное свойство человеческого разума состоит в том, что мы не в состоянии провести границу между людьми и техникой. Мы можем стараться “не задевать чувства” компьютера, можем быть польщены подхалимским поведением какой-то программы и даже симпатизировать ей, если она нам симпатична. И все это происходит совершенно бессознательно»10.
Людям свойственно привязываться к вещам и приписывать им какие-то личностные характеристики. Нам не требуется слишком много для того, чтобы начать обращаться с неочеловеченным объектом как с человеческим существом. Устройству достаточно иметь подмигивающий диод, телесный изгиб корпуса и решетку вентилятора в форме улыбки, и мы уже приписываем ему какую-то живую индивидуальность. Он сразу кажется заслуживающим доверия, непоседливым, высокомерным, дружелюбным. Если механизм обладает способностью самостоятельно передвигаться, мы уже ждем от него разумности. Как говорит Шерри Теркл, социолог из Массачусетского технологического института, «добавь им еще лицо, и мы пропали».
Один небольшой пример подтверждает эту теорию: сотни записей в блогах свидетельствуют о том, что людям свойственно развивать личную привязанность к своим роботам-пылесосам Roomba. Может быть, дело в изгибе корпуса, похожем на улыбку, или в бестолковом упорстве, с которым он выполняет свою работу, беспрестанно натыкаясь на предметы мебели. Может быть, дело в том, как он крутится на месте с жужжанием, похожим на мурлыкань е. Как бы то ни было, перед его очарованием сложно устоять.
Дизайнеры из автомобильной индустрии принимают этот фактор во внимание, особенно когда речь заходит об облике «лица» машины. Посмотрите на эволюцию дизайна серии BMW 3. Какой «характер» у модели 1968 г.? С ее круглыми, широко раскрытыми глазами-фарами, широкой улыбкой бампера, вздернутым носом11 решетки радиатора, высоким лобовым стеклом и словно босыми ступнями шин? А какой характер у модели 2006 г.? Наверное, на ум приходит кто-то более сдержанный, зрелый, менее дружелюбный.
Учитывая нашу высокую восприимчивость к любому намеку на присутствие характера в вещи, можно ожидать, что в будущем наше взаимодействие с техникой будет еще более имитировать человеческие отношения, мы будем устанавливать личные связи с компьютерами, даже если они не выполнены в традиции роботов-гуманоидов. Мы уже строим выводы о том, каков характер у множества неочеловеченных предметов — инструментов, игрушек, домашней утвари, машин, даже домов, — и видим в них улыбки, хмурые взгляды, проявления злобы или радости. Я думаю, нас ожидает множество новых решений, основанных на личных отношениях с машинами, — механические репетиторы, психоаналитики, тренеры; мы будем отправлять роботов за покупками и слушать их шутки.
Я расспрашивал Шерри Теркл о роботе из ее лаборатории по имени Kismet, созданном специально для исследований в области социальных роботов. Kismet обладает выразительными глазами с огромными зрачками, длинными ресницами, подвижными веками и взглядом, намеренно копирующим человеческий, а точнее — детский. Он следит за вашими глазами и смотрит на то, что привлекает ваше внимание. Эффект, по мнению Шерри, потрясающий. Сидя напротив Kismet, вы быстро к нему привязываетесь. Вам скоро начинает казаться, что вы читаете на его лице эмоции и намерения, угадываете его планы и чувствуете, что машина искренне заботится о вас.
