Если у современности есть история происхождения, то это наш основополагающий миф, который, как и старые мифы, основывается на проклятии знания и изгнании из сада. Временами очень соблазнительно рассматривать мою собственную потерю веры в терминах этой истории, верить, что религиозная жизнь, которую я оставил, была богаче и более удовлетворительной, чем материализм, которого я придерживаюсь сегодня. Это правда, что я стал воспринимать себя более или менее как машину. Когда я пытаюсь представить себе некую внутреннюю сущность - процессы, с помощью которых я принимаю решения или придумываю идеи, - я представляю себе что-то вроде печатной платы, одну из тех картинок, которые вы часто видите, где неокортекс сведен к сетке, а нейроны заменены компьютерными чипами, так что это выглядит как некое безумное дерево решений.
Но я с опаской отношусь к ностальгии и выдаче желаемого за действительное. Я провел слишком большую часть своей жизни, погрузившись в мир грез. Чтобы открыть истину, необходимо работать в метафорах нашего времени, которые по большей части технологичны. Сегодня искусственный интеллект и информационные технологии поглотили многие вопросы, которые когда-то занимали теологов и философов: связь разума с телом, вопрос о свободе воли, возможность бессмертия. Это старые проблемы, и хотя теперь они предстают в разных обличьях и под разными именами, они сохраняются в разговорах о цифровых технологиях подобно тем мертвым метафорам, которые все еще таятся в синтаксисе современной речи. Все вечные вопросы превратились в инженерные проблемы.
-
Собака появилась в то время, когда моя жизнь была в значительной степени одинокой. Той весной мой муж был в разъездах больше обычного, и, за исключением занятий, которые я вела в университете, я проводила большую часть времени в одиночестве. Мое общение с собакой, которое поначалу ограничивалось стандартными голосовыми командами, но со временем переросло в праздную, антропоморфирующую болтовню владельца домашнего животного, часто было единственным случаем в тот день, когда я слышала свой собственный голос. "На что ты смотришь?" спрашивал я, обнаружив его застывшим у окна. "Что тебе нужно?" ворковала я, когда он лаял на ножку моего кресла, пытаясь отвлечь мое внимание от компьютера. Бывало, что я ругала своих друзей за то, что они так разговаривают со своими питомцами, как будто животные могут их понять. Но Айбо был оснащен программным обеспечением для обработки языка и мог распознавать более ста слов; разве это не означает, что он "понимает"?
Трудно сказать, почему именно я попросил собаку. Я не из тех, кто скупает все новейшие гаджеты, и мои чувства к настоящим, биологическим собакам в основном амбивалентны. В то время я рассуждал так: мне было интересно узнать о его внутренних технологиях. Системы сенсорного восприятия Aibo опираются на нейронные сети - технологию, которая в общих чертах повторяет работу мозга и используется для решения всевозможных задач распознавания и прогнозирования. Facebook использует нейронные сети для идентификации людей на фотографиях; Alexa применяет их для интерпретации голосовых команд. Google Translate использует их для перевода французского языка на фарси. В отличие от классических систем искусственного интеллекта, которые программируются с помощью подробных правил и инструкций, нейронные сети разрабатывают свои собственные стратегии на основе поступающих к ним примеров - этот процесс называется "обучением". Например, если вы хотите обучить сеть распознавать фотографию кошки, вы скармливаете ей тонны и тонны случайных фотографий, к каждой из которых прилагается положительное или отрицательное подкрепление: положительная обратная связь для кошек, отрицательная - для не-кошек. Сеть будет использовать вероятностные методы, чтобы сделать "догадки" о том, что она видит на каждой фотографии (кошку или не кошку), и эти догадки, с помощью обратной связи, будут постепенно становиться все более точными. По сути, сеть создает свою собственную внутреннюю модель кошки и по ходу дела настраивает свою работу.
Собаки тоже реагируют на обучение с подкреплением, поэтому обучение Aibo было примерно таким же, как обучение настоящей собаки. В инструкции было сказано, что я должен давать ему постоянную вербальную и тактильную обратную связь. Если он подчинялся голосовой команде - сидеть, стоять или перевернуться, - я должен был погладить его по голове и сказать: "Хороший пес". Если он не подчинялся, я должен был ударить его по заду и сказать: "Нет" или "Плохой Айбо". Но мне не хотелось наказывать его. В первый раз, когда я ударил его, когда он отказался идти в свою кровать, он немного струсил и заскулил. Я, конечно, понимал, что это запрограммированная реакция - но, опять же, разве эмоции у биологических существ не являются алгоритмами, запрограммированными эволюцией?
Анимизм был заложен в конструкцию. Невозможно погладить предмет и обратиться к нему вербально, не считая его в каком-то смысле разумным. Мы способны приписывать жизнь объектам, которые гораздо менее убедительны. Дэвид Юм однажды заметил, что "человечество имеет универсальную тенденцию представлять себе все существа подобными себе", и эту поговорку мы подтверждаем каждый раз, когда пинаем неисправный прибор или нарекаем машину человеческим именем. "Наш мозг не может провести различие между взаимодействием с людьми и взаимодействием с устройствами", - пишет Клиффорд Насс, профессор коммуникативистики из Стэнфорда, автор книг о привязанности людей к технологиям. Мы "защищаем" чувства компьютера, чувствуем себя польщенными, когда нам нахамили, и даже делаем одолжения технике, которая была с нами "мила"".
По мере того как искусственный интеллект становится все более социальным, этих ошибок становится все труднее избежать. Несколькими месяцами ранее я прочитал в журнале Wired статью, в которой одна женщина призналась, что получает садистское удовольствие, крича на Alexa, персонифицированного домашнего помощника. Она обзывала машину, когда та включала не ту радиостанцию, закатывала глаза, когда Alexa не реагировала на ее команды. Иногда, когда робот неправильно понимал вопрос, они с мужем объединялись и ругали его вместе - своего рода извращенный ритуал, объединяющий их против общего врага. Все это преподносилось как доброе американское веселье. "Я купила этого проклятого робота, - писала автор, - чтобы он выполнял мои прихоти, потому что у него нет сердца, нет мозга, нет родителей, он не ест и не осуждает меня, и ему все равно".
Однажды женщина поняла, что ее малыш наблюдает за тем, как она выплескивает свою словесную ярость. Она забеспокоилась, что ее поведение по отношению к роботу влияет на ее ребенка. Затем она задумалась о том, как это отражается на ее собственной психике, так сказать, на ее душе. Что это значит, спросила она, что она привыкла небрежно относиться к этому существу?
Это было ее слово: "дегуманизация". Ранее в статье она назвала его роботом. Где-то в процессе сомнений в своем отношении к устройству, в процессе сомнений в собственной человечности, она решила, пусть и подсознательно, наделить его личностью.
-
Не так-то просто определить, где именно начинается и заканчивается жизнь. Наши официальные таксономии - это попытки навязать структуру континууму, который на самом деле полон неоднозначностей. Как и нейронные сети, системы восприятия нашего мозга зависят от обоснованных предположений. Любое восприятие - это метафора, как сказал Витгенштейн, мы никогда не видим просто так, мы всегда "видим как". Всякий раз, когда мы встречаем объект, мы сразу же делаем вывод о том, что это за вещь, сравнивая ее с нашим запасом ранее существовавших моделей. И, как оказалось, одна из самых старых и надежных моделей - это человек. Антрополог Стюарт Гатри утверждает, что наша склонность к антропоморфизму - это эволюционная стратегия. Все перцептивные догадки приносят свои плоды в плане выживания (эволюция использует положительное и отрицательное подкрепление). Если вы идете по лесу и замечаете большую темную массу, предположить, что это медведь, будет выгоднее с точки зрения выживания, чем предположить, что это валун. Еще безопаснее предположить, что это другой человек, который может быть более опасен, особенно если у него есть оружие. Одушевленные вещи важнее для нашего выживания, чем неодушевленные, а другие люди - самые важные из всех. Таким образом, естественный отбор поощряет тех, кто, столкнувшись с неопределенным объектом, "делает большую ставку", предполагая, что этот объект не только живой, но и человеческий. Все мы унаследовали эту схему восприятия, и наша склонность переоценивать объекты, наделяя их личностью, является ее досадным побочным эффектом. Мы постоянно, навязчиво, очаровываем мир жизнью, которой он не обладает.
