Идея исследователей состояла в том, что напоминающая человека машина должна восприниматься как более мыслящая и более внимательная. Ведь если люди верят своим более рассудительным собратьям, возможно, они начнут больше доверять машине, которая кажется рассудительной. Умение рассуждать считается чисто человеческим качеством. У людей не вызывает доверия «безмозглая» машина, какой может показаться и беспилотный автомобиль, и читающий рентгеновские лучи робот. Верно и обратное. Если кажется, что машина «думает» как человек, люди сочтут, что она может лучше, чем другой человек, контролировать свои действия.

В эксперименте использовался симулятор вождения, причем была смоделирована ситуация, в которой участники попадали в аварию, сталкиваясь со встречным автомобилем. Сомнений не возникало, что причиной аварии являлся человек за рулем этого встречного автомобиля.

Участников эксперимента разделили на три группы:

• В первой группе водитель не пользовался автоматическими функциями автомобиля.

• Представители второй группы вели автомобиль, который самостоятельно контролировал повороты и скоростной режим. Участникам эксперимента сообщали, что именно будет происходить, то есть как и когда будет задействовано автономное функционирование.

• В третьей группе участники снова оказывались за рулем беспилотного автомобиля и в процессе движения информировали о происходящем, но на этот раз экспериментатор называл автомобиль именем Айрис и употреблял местоимение «она». Человеческий голос был одной из характеристик этого автомобиля. Он возникал в определенные моменты симуляции и давал инструкции.

Участники из двух последних групп сначала прошли небольшой курс вождения, чтобы познакомиться с автономными функциями. После чего все проезжали заданную траекторию.

Представители третьей группы обвиняли свою машину в аварии в меньшей степени, чем респонденты из первых двух групп. В третьей группе умственные способности автомобиля оценили выше, чем во второй. Участники из этой группы больше доверяли автомобилю и меньше волновались в момент аварии.

Придание машине человеческих качеств повышает степень доверия к ней, но до какого предела?

Приближение к человеку требует, чтобы машина действовала как человек, но при этом она вовсе не обязана выглядеть как человек.

Люди, занимающиеся разработкой роботов, должны знать о так называемой «зловещей долине».

Идея состоит в том, что по мере того как вещи, особенно роботы и анимированные персонажи, становятся более реалистичными, в какой-то момент люди начинают испытывать к ним отвращение. Это обусловлено мелкими несоответствиями, например текстурой кожи или немного смещенными бликами на поверхности глазных яблок. Эти особенности отмечаются бессознательно, так как люди привыкли к ним в процессе ежедневного общения друг с другом.

Теорию зловещей долины выдвинул Масахиро Мори, в 1970-х работавший в области роботехники. Его написанная в те годы статья в 2012 году была переведена на английский язык (Mori, 2012).

Теория Мори состоит в том, что роботы вызывают у людей разные реакции: от недостаточного доверия до симпатии, а затем и отвращения, в зависимости от степени похожести. Если робот в чем-то напоминает человека, он вызывает позитивную эмоциональную реакцию. Но практически напоминающие людей роботы, в которых все-таки остается «что-то не совсем человеческое», начинают вызывать страх и отвращение. Кривая, демонстрирующая уровень комфорта человека в зависимости от человекоподобия робота, дана на рис. 45.1. Место резкого уменьшения уровня комфорта и называется зловещей долиной.

Рис. 45.1. Зловещая долина

Исследования Кристин Лузер (Looser, 2010) показали, что робота от человека отличает мертвенность взгляда. Именно этот фактор вызывает чувство страха и отвращения.

Зловещая долина существует для роботов, механизмов и анимированных персонажей.

Доверие к беспилотному автомобилю или трактору вовсе не означает, что человек вступает с механизмом в социальные отношения или заботится о нем.

Взаимодействия людей с механизмами выходят за рамки таких понятий, как антропоморфизм и доверие. Мы уже сталкиваемся с ситуациями, когда приходится налаживать социальные взаимодействия с роботами.

Сотрудник Массачусетского технологического института Кейт Дарлинг работает с игрушкой Плио, которая выглядит как детеныш динозавра. Во время опыта Кейт давала людям пообщаться с Плио, а затем просила причинить ему вред: ударить, перевернуть вверх ногами, взять за шею и т. п. При этом Плио издавала плачущие звуки. Дарлинг обнаружила, что людям не нравилось мучить игрушку, хотя они знали, что перед ними искусственный объект, который не в состоянии почувствовать боль.

Астрид Розенталь фон дер Пютен (Rosenthal-von der Pütten, 2013) использовала функциональную МРТ для изучения эмоций, которые люди испытывают по отношению к машинам. Участникам эксперимента демонстрировали небольшие фильмы. В них содержались сцены, в которых с человеком грубо обращались, причиняли ему вред, и сцены, в которых мучили игрушку Плио. Оказалось, что в обоих случаях активировались одни и те же участки мозга.

BlabDroid – это маленький, простой на вид робот, который задает вопросы (голосом маленького мальчика) и снимает процесс общения с людьми на видео. Робот говорит, какую кнопку нужно нажать для начала работы, задает вопросы и ведет видеосъемку происходящего. Вот примерный список вопросов: