Центральная тема этой книги – двойственность и парадоксальность, присущие деятельности разработчиков, которые то расширяют возможности человека, то заменяют людей с помощью создаваемых систем. Нагляднее всего это проявляется в контрастирующих философиях Энди Рубина и Тома Грубера. Рубин был первым архитектором империи роботов Google, а Грубер – ключевой разработчик Siri, интеллектуального помощника Apple. Оба они входят в число самых ярких представителей Кремниевой долины, и их проекты основываются на работе предшественников: Рубин – отражение Джона Маккарти – стремится к замене людей, а Грубер – последователь Дуга Энгельбарта, старающийся расширить возможности человека.
Сегодня и робототехника, и программы для искусственного интеллекта все более и более вызывают воспоминания о начале эры персональных компьютеров. Как и увлеченные своим делом люди, создавшие в свое время индустрию персональных компьютеров, разработчики искусственного интеллекта и робототехники одержимы техническим прогрессом, новыми продуктами и передовыми компаниями. Вместе с тем многие из разработчиков программного обеспечения и инженеров-робототехников чувствуют себя неловко, когда встает вопрос о потенциальных последствиях их изобретений, и нередко просто отшучиваются. Этот вопрос, однако, очень важен. Не существует «слепого часовщика»[1], определяющего эволюцию машин. Куда мы пойдем – в сторону расширения возможностей человека или замены его автоматами – зависит от решений конкретных разработчиков.
Легко, конечно, представить одну группу как героев, а другую – как злодеев, но последствия слишком многогранны, чтобы делить все на черное и белое. Это лишь два полярных видения перспектив искусственного интеллекта и робототехники, а между ними лежит будущее, которое может вести к утопии, антиутопии или еще бог знает куда. Стоит ли добиваться повышения уровня жизни и избавления от тяжелой работы, если это также означает отказ от свободы и неприкосновенности частной жизни? Существуют ли правильный и неправильный подходы к разработке этих систем? Я думаю, что ответ зависит от самих разработчиков. Одна группа создает мощные машины, которые позволяют людям выполнять то, что ранее казалось немыслимым, вроде роботов для исследования космоса, а другая пытается заменить людей машинами, как это делают создатели искусственного интеллекта, позволяющего роботам выполнять работу врачей и адвокатов. Важно, чтобы эти два лагеря не теряли контакта друг с другом. То, как мы разрабатываем все более автономные машины и взаимодействуем с ними, определяет характер нашего общества и экономики. От этого все в большей мере зависит каждый аспект современного мира, начиная с того, будем ли мы жить в более или менее стратифицированном обществе, и заканчивая тем, какой смысл мы будем вкладывать в понятие «человек».
Соединенные Штаты находятся в самом центре вновь вспыхнувшего спора о последствиях развития искусственного интеллекта и робототехники и их влиянии на занятость и качество жизни. Мы живем в удивительное время – автоматизация поражает ряды рабочих мест белых воротничков с такой же стремительностью, как она изменяла заводские цеха в начале 1950-х гг. Но возобновление «великого спора об автоматизации» спустя полвека после его начала напоминает сцены из фильма «Расёмон»: все видят одно и то же, но интерпретируют по-разному, кому как выгоднее. Несмотря на все более громкие предупреждения о страшных последствиях компьютеризации, количество работающих американцев продолжает расти. Аналитики на основании одних и тех же данных Бюро трудовой статистики предрекают одновременно и глобальное сокращение числа рабочих мест, и новый трудовой ренессанс. Независимо от того, что происходит с живым трудом, исчезает он или видоизменяется, ясно одно – новая эра автоматизации оказывает глубокое влияние на общество. Менее понятно, несмотря на огромное количество сказанного и написанного, куда в действительности идет технологическое общество.
У тех немногих, кто имел дело с огромными мейнфреймами выпуска 1950-х и 1960-х гг., нередко возникало ощущение зловещего контроля с их стороны. В 1970-х гг. появились персональные компьютеры, которые стали восприниматься как нечто более дружественное, – их можно было потрогать, а значит, и управлять ими. Сегодня мы являемся свидетелями рождения «интернета вещей», и компьютеры вновь начинают «исчезать», становясь частью предметов повседневного пользования, которые в результате приобретают магические свойства – детекторы дыма умеют говорить и слышать, телефоны, аудиоплееры и планшеты имеют более значительные возможности, чем суперкомпьютеры всего несколько десятилетий назад.
Со «сплошной компьютеризацией» мы вошли в век умных машин. В ближайшие годы искусственный интеллект и робототехника изменят мир сильнее, чем персональные компьютеры и интернет за прошлые три десятилетия. Автомобили будут ездить сами, а роботы возьмут на себя работу служащих FedEx и, конечно, врачей и адвокатов. Новая эра сулит нам огромные физические и вычислительные возможности, однако вновь ставит вопрос, впервые возникший больше 50 лет назад: кто кого будет контролировать, мы эти системы или они нас?
Джордж Оруэлл сформулировал этот вопрос предельно красноречиво. Его роман «1984» известен описанием государства тотального надзора, но там есть также идея о том, что государственный контроль можно осуществлять, сжимая письменную и устную речь, чтобы было труднее выражать и, соответственно, воспринимать альтернативные идеи. Оруэлл ввел в обращение вымышленный язык, «новояз», который эффективно ограничивал свободу мысли и самовыражения.
Имея интернет с его миллионами каналов, мы на первый взгляд сегодня как никогда далеки от оруэлловского кошмара, однако все чаще умные машины принимают решения за нас. Если бы такие системы просто давали советы, вряд ли это можно было бы считать «контролем» в оруэлловском смысле. Но так превозносимый в наши дни мир «больших данных» сделал интернет совсем не таким, каким он был всего десятилетие назад. Интернет расширил сферу использования компьютерной техники и начал трансформировать нашу культуру. Фактически мы получаем неооруэлловское общество с более мягкой формой контроля. Интернет несет с собой беспрецедентные свободы и одновременно, как это ни парадоксально, выводит контроль и надзор далеко за пределы того, что предполагал Оруэлл. Каждый шаг и каждое высказывание теперь отслеживаются и регистрируются если не Старшим братом, то растущей армией коммерческих «младших братьев». Интернет стал всепроникающей технологией, которая касается каждого аспекта нашей культуры. Сегодня смартфоны, ноутбуки и настольные компьютеры слушают нас вроде бы по нашему желанию, а их камеры наблюдают за нами, надо думать, с лучшими намерениями. Нарождающийся «интернет вещей» вводит в наши дома незаметных, всегда находящихся в состоянии готовности и, наверное, полезных роботов, подобных Echo компании Amazon и Jibo Синтии Бризил.
Будет ли мир, за которым присматривают те, кого поэт 1960-х Ричард Бротиган назвал «машинами благодати и любви», свободным? Свободным в смысле «свободы слова», а не «бесплатного пива»{1}. Лучший способ получить ответ на вопрос о контроле в мире, полном умных машин, – понять ценности тех, кто фактически создает эти системы.
В Кремниевой долине среди оптимистически настроенных специалистов популярно мнение, что сочетания силы инноваций и закона Мура – удвоения вычислительной мощности каждые два года – достаточно для объяснения технического прогресса. Мало кто задумывается о том, почему одна технология берет верх над другими или почему та или иная технология появляется в определенный момент. Это представление – полное отрицание того, что социологи называют «социальным конструированием технологии», т. е. понимания того, что мы формируем наши методы, а не они нас.
Мы уже не один век сосуществуем с машинами вроде экскаватора, которые заменяют работников физического труда, но умные машины, приходящие на смену белым воротничкам и работникам умственного труда, – явление новое. Информационные технологии не просто заменяют людей, они демократизируют определенные процессы. Использование персонального компьютера не только позволяет обходиться без секретаря. Интернет и сеть значительно уменьшили стоимость, например, новостных изданий, они не только полностью изменили издательский процесс, но и коренным образом трансформировали сбор информации и представление новостей. Аналогичным образом технологии коррекции тона позволяют петь любому, просто нажав на кнопку, без обучения, а множество компьютеризированных музыкальных систем дают возможность каждому желающему стать композитором и музыкантом. От того, какими будут эти системы, зависит, что нас ждет – невиданный ренессанс или нечто мрачное, мир, где профессии людей будут полностью переданы машинам. Идеи Маккарти и Энгельбарта привели к началу новой эры, в которой компьютеры должны преобразовать экономику и общество в такой же мере, в какой это сделала промышленная революция.
