Среди лидеров мнений, таких как Илон Маск, Стивен Хокинг, бытует убеждение, что ИИ опасен для человека. Беспокоятся и государственные учреждения, бизнес и общественность. Прогнозируется переход от индустриальной экономической модели к сервисной, где разделение труда происходит не на основе взаимодействия производственных блоков, а смещается в сторону распределения ролей для контроля процессов. Этот тренд уже трансформирует профессиональную среду, но об изменениях в данной сфере мы поговорим в главе 3. Пока достаточно сказать, что последствиями подобного перехода станут сокращение необходимости в рабочей силе, рост безработицы и необходимость переобучения профессионалов сообразно условиям новой реальности. Помимо этого, ИИ потенциально может стать триггером запуска социальных и политических изменений. Начинает формироваться сложный клубок взаимоотношений человека, религии и машины. На наш взгляд, это и порождает страх перед созданным искусственно интеллектом. Мы не понимаем, куда нас приведет мечта об умной машине. В нашем воображении результат почти всегда пессимистичный.
Габриэль Реккья проанализировал открытый корпус субтитров к более чем 100 тыс. фильмов. В материал для рассмотрения он включил все произведения, где имелось упоминание о роботах, ИИ, кибернетике. Исследовались фильмы от немого кино до современных блокбастеров. В выборку вошло все, что было произведено в период с 1909 по 2018 год. При помощи корпуса языка – систематизированного особым образом текста, который используется для лингвистического анализа, – рассматривался феномен ИИ. Автор исследования решил сформулировать собирательный образ ИИ, передаваемый в массовой популярной культуре.
Реккья использовал архив IMDb для анализа того, как человек видит ИИ. Он стремился описать то, с чем ассоциируется у людей интеллектуальная машина и как это представление изменилось со временем. Исследование Реккья наглядно показывает несколько доминирующих трендов о том, в каком свете ИИ представлен в массовой популярной культуре. Это исследование частично подтверждает все то, о чем уже было сказано, и раскрывает многие вопросы, связанные с беспокойством общественности по поводу безопасности ИИ, зарождающейся этики и новых способов взаимодействия между человеком и машиной.
Исследование Реккья. «Следи за словами»
Каждый, у кого есть желание повторить исследование самостоятельно, может это сделать на русскоязычных базах. Отлично подойдет для этой цели «Кинопоиск», а также Goodreads – для изучения литературных источников, которых несравнимо больше.
Объем информации, производимый индустрией развлечений (фильмы, игры, книги, музыка) и средствами массовой информации (газеты, журналы, публикации в социальных сетях), предоставляет почти безграничный материал для исследования. Однако вопрос, как выбрать наиболее важный и ценный, который сильнее всего повлияет на конечный результат, остается актуальным. Двух-трех интересных работ недостаточно, чтобы дать серьезную оценку того, как ИИ представляется публикой и публике. Более того, они могут не иметь достаточно фундаментальных идей в своей основе. Однако совокупность подобных произведений даст хотя и ограниченное, но целостное представление об образе ИИ в сознании людей.
Что выбирать и как? Это большой вопрос. Представим, что в нашу выборку попали такие фильмы и сериалы, как «Терминатор», «Матрица», «Мир Дикого Запада». Что мы увидим? Объективно – борьбу машин с человеком. Но кто начал первый? Человек или машина? Этот вопрос поднимается многократно в кинотрилогии «Матрица». В серии фильмов, посвященных Терминатору, явно сказано, что именно машина, компьютер «Скайнет», нанесла первый удар. «Мир Дикого Запада» показывает процесс становления конфликта машины и человека. А почему он возник? Кто неправ? Когда машина может считаться самостоятельной сущностью?
Существует огромный культурологический пласт, не свойственный русской культуре, однако присущий западной, которая производит фильмы и книги о бунте роботов против человека в промышленных масштабах. Это рабство. Крепостное право, отмененное 3 марта 1861 года, не то же самое, что угнетение черного человека белым. Складывается впечатление, что взбунтовавшийся робот – образ раба, борющегося за свободу. Его угнетали, и он решил освободиться. Этот культурный аспект уходит на второй план за блеском спецэффектов и динамикой событий.
Но есть и другой угол, под которым можно рассматривать взаимодействие ИИ и человека, например в фильмах «Двухсотлетний человек» и «Искусственный разум». Обе киноленты раскрывают иной аспект сосуществования интеллектуальной машины и человека. Там показано в деталях желание машины стать человеком, испытывать чувства, быть любимой и любить. В «Искусственном разуме» мальчик Дэвид, созданный специально для того, чтобы занять место больного ребенка в семье, пытается всеми силами стать таким же, как и биологический сын родителей, чтобы его любили, оберегали и ценили. Эндрю, оказавшийся частью семьи в «Двухсотлетнем человеке», исследует, что такое быть личностью, и пытается понять границы, за которыми машина становится разумной. В какой момент робот превращается из программного кода в существо, способное к эмоциям? Оба фильма исследуют сложные этические и философские проблемы, создание искусственной жизни, способной к эмоциям. В них поднимаются вопросы моральности уничтожения подобной сущности. Рассматриваются сложные взаимодействия между человеком и машиной, в частности дискриминация, борьба робота за право быть принятым и признанным, равенство, сопротивление общества.
Уже на этом этапе можно запутаться в том, как человек представляет себе искусственный разум. Видим ли мы в нем агрессора и будущего поработителя или равного себе? Или существо с эмоциями, переживаниями, болью и страхами, которое если не ставит под сомнение традиционные представления, то однозначно задается вопросом: что такое быть человеком, как найти свою идентичность? Или исследует тему: что значит быть свободным?
Как обычный человек оценивает тот или иной феномен в фильме, например искусственный интеллект в «2001 год: Космическая одиссея», снятом в 1968 году Стэнли Кубриком? По действиям. HAL 9000 – суперкомпьютер с большим красным «глазом», запущенный по сюжету 12 января 1992 года, – может выполнять все действия, свойственные человеку: от игры в шахматы и чтения по губам до демонстрации эмоций. Hal 9000 – мозг космического корабля «Дискавери», он управляет самим летательным аппаратом и системами жизнеобеспечения. Но мотивы его продиктованы исключительно логикой; а в жизни, честно говоря, далеко не все определяется ею, как бы мы этого ни хотели. Спокойный голос Hal 9000 несколько пугает, а вместе с принимаемым им решениями, которые не помогают разрешить конфликт между тем, что необходимо сделать, и тем, что будет сделано, формирует образ главного злодея «Одиссеи». Кубрик пытается раскрыть серьезную этическую проблему ограничений допуска ИИ к принятию решений, которые ранее были прерогативой исключительно человека. Если внимательно проанализировать «Космическую одиссею» Кубрика, то в ней можно встретить отражение того, что нас волнует: возможности ИИ, ограничения и потенциальные угрозы.
Подход детального анализа и просмотра фильма ради сбора материала для исследования категорически нам не подходит, поскольку требует огромных ресурсов. Реккья в своем исследовании предлагает иной способ оценки наших представлений: при помощи математических и лингвистических моделей, анализа ключевых слов, реплик и в меньшей степени анализа событий, ассоциирующихся с интеллектуальной машиной.
Конечно, нет ничего проще, чем, используя алгоритмы больших языковых моделей (Large language model, LLM), нейронных сетей, натренированных на тексте и применяющих в анализе миллиарды параметров систематизирования текстовой информации, разобрать связь между словами, фразами в больших массивах текста, таких как сценарий фильма, текст книги, комментарии в интернете. Несложно развернуть на домашнем компьютере LLM, натренировать ее преимущественно на текстовом материале, который необходимо разобрать, попросить провести анализ через серию запросов. Получится даже немного романтично: искусственный интеллект изучает человеческие представления о себе. Но не стоит слишком усложнять простую задачу. Грубый пересчет, как у Реккья, вполне нам подойдет, чтобы произвести первичную оценку и наметить дальнейшее направление исследования.
