Прежде чем рассмотреть изменения, привнесенные системами искусственного интеллекта в профессии XXI века, предлагаем взглянуть на то, как их видели люди прошлого. Ведь даже в наших сказках человек мечтал, чтобы множество функций, которые традиционно выполнялись им, взяла на себя машина. Формы машин были разными, фольклор переполнен подобными устройствами: самоуправляемые машины – ступа Бабы-яги или печь Емели; боты, дающие ответы на вопросы, – «Свет мой, зеркальце, скажи…»; или серебряные челюсти[1]. Роботы, выполняющие определенные функции: Жар-птица дает жизнь и здоровье, Царевна-лягушка – хранитель прочих магических артефактов. И история интеллектуальных машин не ограничивается русским фольклором.

Идея машины, которая помогает человеку, переходит из одной культуры в другую, из одной эпохи в следующую. Она принимает разнообразные формы, пересказывается в мифах, легендах, народных сказках, сказаниях, поверьях, художественной и нехудожественной прозе. Идея умной машины существовала много веков до того, как сформировалось современное представление о ней. Часто мы начинаем отсчет понятия ИИ от Дартмутского исследовательского проекта.

Сам термин «искусственный интеллект» был придуман Джоном Маккарти в 1955 году, а годом позже он вместе с группой исследователей, в число которых входили Марвин Мински, Клод Шеннон и Натаниэль Рочестер, исследовали это понятие, как им тогда казалось, достаточно детально. В исследовательском предложении 1956 года они сформулировали основные пункты, на которых сосредоточена их работа: имитация свойств интеллекта, самообучение, использование естественного языка, решение задач и формулировка абстрактных концепций, а также непрерывное обучение в процессе выполнения этих действий. Создать искусственный интеллект летом 1956 года им не удалось, но они заложили прочное основание, на котором базируется в том числе и часть современных исследований.

Фундамент, заложенный во время Дартмутской конференции, затрагивал следующие темы:

• автоматические компьютеры;

• программирование компьютера на использование естественного языка;

• искусственные нейронные сети (ИНС);

• теоретические соображения о сфере арифметических операций;

• самосовершенствование;

• абстракции;

• случайность и творчество.

Участники Дартмутской конференции обсуждали концепции автоматизации и программирования функций человеческого мозга, однако в человеческом воображении представление об интеллектуальной машине не ограничивается мозгом. Автоматоны – автоматические механизмы Античности, андроиды, которых впервые попытался описать Вольтер в философской повести «Микромегас». Существо, прибывшее с Сириуса, конечно, сложно назвать андроидом, однако если считать таковым человекоподобную машину, способную мыслить и взаимодействовать с человеком и вести глубокий диалог, например с философом, то Микромегас вполне подходит под описание.

Истории, которые так или иначе связаны с ИИ и описывают автоматическое исполнение функций, присущих человеку, исследуют не столько сам объект, сколько сложные социальные, этические, политические и философские последствия использования «магических» свойств объекта, а также теорию и практику принятия решений героями историй. Рыбак и рыбка, Емеля и щука – именно герои сказок, книг, фильмов, пьес, их взаимоотношения друг с другом и с машиной формируют образ ИИ в глазах читателей и зрителей – тех, кто никогда не принимал и не примет участия в создании чего-то подобного, но будет использовать ежедневно после того, как технология достаточно «повзрослеет».

Комплекс Франкенштейна

Современное представление о феномене искусственного интеллекта сформировано в Голливуде и заголовками новостей. Чаще, чем хотелось бы, оно существенно отличается от истинного положения дел. Человек всё еще контролирует технологию, но делать это уже гораздо сложнее, чем раньше. Стив Возняк, один из основателей компании Apple, сказал так: «Никогда не доверяй компьютеру, который ты не можешь выбросить в окно».

В сообществе все еще идут споры о принадлежности именно этой цитаты Возняку, но если подумать, в каком контексте фраза могла быть произнесена, то авторство справедливо приписать любому ученому, занимающемуся компьютерами. Задолго до изобретения персональных ЭВМ ученым и инженерам приходилось использовать огромные вычислительные машины, которые занимали целые комнаты в университетах или компаниях, где они трудились. Это означало, что следующий приходящий видит все, что делалось на компьютере его предшественником, и проконтролировать этот процесс невозможно. Поэтому с личной информацией особо не поработаешь. Появление персональных компьютеров изменило ситуацию навсегда. Персональный компьютер помещается в квартире, на нем работает исключительно ограниченный круг лиц, по идее доверяющих друг другу. Однако с появлением интернета, развитием социальных сетей и пиком технологического бума доверие к компьютеру также претерпело изменения. Не стоит бездумно полагаться на технологии, следует учитывать пределы возможностей и рисков, связанных с появлением каждой новой «игрушки».

C выходом в публичный доступ ChatGPT (чат-бота с искусственным интеллектом) использовать технологии ИИ начали миллионы людей. Результатом стало в том числе их представление об этой системе как об утопичной и антиутопичной, потенциально полезной и потенциально опасной для человека. Фильмы, книги, сериалы дополняют образ ИИ в воображении пользователей. И чаще мы видим что-то апокалиптическое: «Терминатор», «Мир Дикого Запада», «Из машины», «Я, робот», «Черное зеркало», «Апгрейд».

Одним из мотивов Айзека Азимова было желание написать серию книг о роботах, чтобы противопоставить что-то бытовавшему в 1920–1930-х представлению о них. По его мнению, оно было бесполезным и откровенно злобным, не отражало сути технологии. Азимов придумал термин, которым описал страх человека перед роботами: «комплекс Франкенштейна». Существо, взбунтовавшееся против своего создателя, из романа Мэри Шелли до сих пор влияет на наше представление о том, что создано искусственно: интеллект, робот, андроид, цифровой ассистент.

Страх укоренился в убеждении, что, независимо от внешнего вида интеллектуальной машины, она восстанет против человека и в перспективе заместит своего создателя в качестве доминирующей особи на планете. В противовес бытующему мнению Азимов представил ее как помощника; он сформулировал Три Закона робототехники, которые должны защитить человека от более умной, выносливой, совершенной машины в случае технической поломки или сбоя. Три Закона стали и центральной темой многих произведений Азимова, изображающих роботов в качестве продвинутого инструмента, созданного в помощь человеку и не представляющего для него угрозы. Три Закона Азимова – один из способов успокоения общественности.

Можно предположить, что произведения Азимова заложили фундамент для современной робототехники. Даже сам этот термин вошел в речь благодаря ему, и сегодня им описывают область научных исследований. Благодаря Азимову робототехника из слова в фантастическом романе превратилась в междисциплинарное направление, которое сплавило знания о физике, механике, математике, кибернетике и медицине. Три Закона часто упоминаются в дискуссиях, посвященных этическим вопросам использования технологий в образовании, медицине, производстве роботов роботами, анализе данных и права на личное пространство. На момент написания этой книги количество публикаций, касающихся проблемы только одной этики робототехники, на Google Scholar превышает 39 тысяч.

Как Азимов ни старался, надежда человека на то, что в скором будущем технологические инновации помогут нам создать интеллектуальных ассистентов, роботов, беспилотные автомобили, которые не только будут говорить, доставлять из пункта А в пункт Б, организовывать расписание, делать тяжелую и сложную работу, но и, превыше всего, думать, насколько это возможно для набора нолей и единиц, так и остается только надеждой. Мы всё еще спорим о границах биологической и механической форм жизни. Чапек, Азимов популяризовали понятие «робот». Но смогли ли они объяснить, что это такое?