«…поскольку машины будут эффективнее людей, которых они заменили, и в особенности, поскольку они продолжат совершенствоваться с экспоненциальной скоростью. Но по мере того, как все больше и больше людей станут безработными, последующее падение спроса превысит снижение цен, вызванное [возросшей технологической] продуктивностью. Экономический спад практически неизбежен, и он грозит стать настолько серьезным, что необходимо будет что-то с этим сделать»[5].
Похожие взгляды были сформулированы ведущими предпринимателями в сфере технологий, включая Билла Гейтса, основателя Microsoft, и целым рядом выдающихся ученых, включая покойного сэра Стивена Хокинга, знаменитого исследователя черных дыр[6].
Тем не менее целый ряд прагматически настроенных специалистов (по общему признанию, в основном из числа экспертов по искусственному интеллекту), похоже, уверены в том, что угрозы подобного рода явно преувеличены. Экономические и социальные изменения, с которыми мы сталкиваемся (и столкнемся в будущем) в результате распространения роботов и искусственного интеллекта, либо ничем не примечательны, либо окажутся продолжением того, что мы испытываем непрерывно со времен первой промышленной революции, и будут весьма полезны для человечества. Некоторые даже полагают, что призрак злобного торжества искусственного интеллекта, разбуженный малообразованными лжепророками, появился лишь в результате безобразно раздутой шумихи, напоминающей известный скандал прошлого вокруг предполагаемой компьютерной ошибки 2000 г.,[7] который в конечном счете оказался совершенно неоправданным и быстро исчез без следа.
Пять взглядов на наше будущее
Так что, мягко говоря, перспективы нашего будущего – это нерешенный вопрос. Противоречивые взгляды на то, как будет выглядеть человеческая жизнь в условиях полного доминирования искусственного интеллекта и роботов в промышленности и в быту, можно кратко резюмировать следующим образом:
• ничего особенного;
• в корне плохо;
• очень хорошо;
• просто катастрофа;
• перспектива вечной жизни.
Основная цель данной книги – найти ориентиры среди множества вариантов развития общества. Я не могу и не должен пытаться превозносить собственную точку зрения еще до начала спора, поэтому оставляю обсуждение первых трех возможных перспектив для следующих глав. Однако мне необходимо кое-что вкратце сказать о четвертом и пятом пункте из вышеприведенного списка.
Любому, кто не знаком с литературой по обсуждаемой теме, формулировки, которые я выбрал для описания четвертой и пятой концепции будущего, а именно «катастрофические» и «перспектива бессмертия», покажутся преувеличенными. Однако каждый, кто когда-либо копался в такой литературе, не увидит в моих словах решительно никакой гиперболы. Технари утверждают, что как только искусственный интеллект достигнет уровня развития человека, появление мыслящих машин со сверхчеловеческими способностями окажется практически неизбежным. Цифровой мозг можно «клонировать» без ограничений, и в отличие от человеческого мозга его производительность можно ускорять и ускорять…
Это наводит на мысль, что революция, вызванная изобретением искусственного интеллекта, станет, возможно, последним достижением человечества. Как только мы добьемся появления интеллектуальных устройств, превосходящих человеческий разум, у искусственного интеллекта появится возможность произвести на свет еще более великий разум, который неподвластен нашему пониманию, и мы не сможем контролировать его. И так далее и тому подобное. Для этих новых форм интеллекта мы будем не только неполноценными, но и бесполезными существами, возможно, даже обузой. Почему бы «им» тогда просто не уничтожить нас? Покойный сэр Стивен Хокинг сказал в 2014 г. во время своего интервью на BBC: «Разработка полноценного искусственного интеллекта может означать конец человечества»[8].
В том же духе выдающийся кембриджский ученый лорд Мартин Рис, королевский астроном[9], назвал момент, когда искусственный интеллект достигнет сверхразумного состояния, «нашим последним часом». Он в принципе считает период доминирования человеческого разума в мире лишь кратковременным явлением[10].
Гипотетический момент, в который некая форма искусственного интеллекта станет умнее людей, часто обозначается в литературе как точка «сингулярности». Как только (и если) это произойдет, последствия такого техногенного взрыва, скорее всего, затронут жизнь огромного числа людей. Мюррей Шанахан, профессор когнитивной робототехники в Империал-колледже в Лондоне, передал взгляды целого ряда экспертов по искусственному интеллекту в цитате, которую мы приводим ниже:
«Можно провести следующую аналогию: сингулярность в истории человечества имела бы место в том случае, если бы экспоненциальный технический прогресс привел к драматическим изменениям в обществе, вследствие которых человеческие отношения в нашем сегодняшнем понимании подошли бы к концу. Признанные социальные институты – экономика, правительство, закон, государство – не смогли бы уцелеть в их нынешнем виде. Даже самые элементарные человеческие ценности – неприкосновенность жизни, стремление к счастью, свобода выбора – отменились бы сами собой»[11].
Тем не менее мир сингулярности не обязательно должен оказаться столь недружелюбным для человечества. Напротив, для Рэя Курцвейла, «верховного жреца» энтузиастов искусственного интеллекта, очевидно, что все получится как раз наоборот. Он предвкушает слияние между людьми и искусственным интеллектом, позволяющее нам успешно «загрузить» самих себя в нематериальные формы бытия и тем самым обеспечить людям вечную жизнь[12]. (Предполагается, что такой взгляд на будущее должен показаться нам более позитивным, верно? Не знаю, не уверен. Может быть, вам понравится, но лично меня перспектива быть навечно загруженным в какую-то форму искусственного интеллекта не очень привлекает.)
Для людей вроде меня, даже без всякой перспективы загрузки и вечной жизни, познакомиться с возможностями искусственного интеллекта и судьбой человечества после наступления сингулярности – значит окунуться в мир научной фантастики. Тем не менее в эпилоге я продемонстрирую, что не отвергаю такие идеи. Да и как я мог пройти мимо них? Если уж некоторые из величайших научных умов нашего времени, такие как сэр Стивен Хокинг и лорд Рис, восприняли подобные перспективы всерьез, едва ли я имею моральное право просто их проигнорировать.
И все-таки я глубоко осознаю разрыв между гипотетическим миром сингулярности, выглядящим как научная фантастика, и современными достижениями робототехники и искусственного интеллекта, которые влияют на экономику здесь и сейчас. Нынешние изменения в данной области требуют правильной реакции как со стороны компаний, так и со стороны частных лиц, преследующих свои собственные интересы, не говоря уже о правительствах, смыслом деятельности которых является достижение и поддержание общественного благополучия.
Как перспектива сингулярности должна влиять на эти решения и вообще должна ли? Ответ на это, среди прочих, формулирует Джон Брокман, «культурный импресарио», связанный со многими ведущими мировыми учеными и мыслителями в области искусственного интеллекта. Он полагает, что на текущие решения всех участников нынешних событий грядущие революционные изменения могут оказать заметный эффект. В частности, Брокман пишет: «Не нужно быть сверхразумным интеллектуальным существом, чтобы понять, что мчаться неподготовленным, сломя голову, навстречу крупнейшему событию в истории человечества, было бы просто глупо»[13].
