В том, что в обществе возникают разрушающие его перегородки и нарастает взаимная отчужденность, остается винить именно процесс, имевший целью осчастливить людей благодаря расширению возможностей выбора. Вместо того чтобы объединять людей, технологии разделяют их на враждующие радикальные группировки, а значение центра при этом снижается. Такое размежевание стало важным и непредвиденным результатом некоторых микротрендов.
Выбор делают за вас, но ваш ли это выбор?
Стоит обратить внимание и на другое интересное явление из области технологий, индивидуализации и выбора. По мере развития искусственного интеллекта и больших данных индивидуализация все чаще осуществляется с помощью скрытых алгоритмов. Теоретически системам известно о людях столько, что им не требуется сам человек, чтобы и дальше облегчать ему жизнь – например, подавать тапочки по возвращении домой. Исполнительный вице-президент Microsoft, ответственный в том числе и за искусственный интеллект, сказал мне как-то: «Ну, с человечеством я разобрался быстро». Кто бы сомневался. Он думал, что полностью постиг процесс принятия решений.
На примерах микротрендов раз за разом убеждаешься, что в основе новой экономики лежит стремление соответствовать индивидуальным запросам. Действительно, то, что начиналось с кофе на любой вкус и персонифицированных опций для автомобиля, сегодня распространилось практически на все аспекты вашей жизни – от предложений недвижимости и выбора романтических партнеров до новостей. Все это подается как идеально подходящее именно вам, исходя из результатов обработки тысяч или миллионов единиц информации. Искусственный интеллект изучает товары, которые вы купили или хотя бы просмотрели, чтобы показать вам рекламные объявления, появляющиеся, стоит вам кликнуть на какой-то предмет. Ваш профайл постоянно анализируют, и в результате вам показывают рекламу одежды, которую вы просматривали вчера на другом сайте. Все происходит со скоростью света. Каждый клик делает вас частью какого-то микротренда.
В мире микротрендов, меняющих мир прямо сейчас, ваш смартфон – не просто телефон. Это главный шпион бизнеса, прекрасно осведомленный о том, во сколько вы встаете, во сколько ложитесь, где бываете, и даже о том, что говорите и покупаете. В ближайшие годы именно информация, а не нефть или золото станет главной ценностью планеты. Для более чем 5 млрд человек сервис по запросу означает возможность получить песню, фильм, рекламу, автомобиль, домашнего питомца или помощника именно тогда, когда они вам нужны. Вся эта экосистема функционирует на основе информации. Чем она точнее, тем точнее таргетинг и выше прибыль одного из участников цифровой цепочки.
Все это начинается достаточно безобидно, но не факт, что так останется и дальше. ИИ-приложения в основном устроены по принципу черного ящика, а интересы компаний могут расходиться с вашими собственными. В большинстве случаев технологическим компаниям платите не вы, а рекламодатели, так что именно последние (а не вы) являются реальными потребителями их сервисов. Даже такая незамысловатая штука, как приложение с прогнозом погоды, может на самом деле предназначаться для продажи зонтиков, а не для того, чтобы предупреждать вас о дожде. Оно существует не для того, чтобы вы не промокли, а для продвижения продукции своих рекламодателей.
Эта бизнес-модель существует уже десятилетие, и тем не менее очень немногие понимают, сколько информации о себе предоставляют люди и как эту информацию могут использовать политические деятели, лоббисты, рекламщики и даже иностранные правительства. Бесплатных приложений не бывает – за них платите либо вы, либо рекламодатели, или же разработчик торгует вашими данными.
Работая в Microsoft, я придумал кампанию под названием Scroogled, призванную предупредить потребителей о том, что происходит на самом деле. Людям открытым текстом объясняли, что Google может читать их почту и делает это, а то, что преподносится пользователю как нейтральная и бесплатная информация о товарах и услугах, на самом деле замаскированная коммерческая реклама. Потребители откликнулись на эту кампанию с удивительным энтузиазмом. На сайт Scroogled ежедневно заходило около 250 000 человек, отчаянно желавших понять, что происходит с их личной информацией. Шутки ради я открыл онлайн-магазин Scroogled, и в течение первых 30 часов его существования страницу посетили 450 000 человек, чтобы купить кружки и прочие мелочи с надписями типа «Сохраняйте спокойствие – мы скачиваем ваши данные!». Понятно, что в Google не сочли это очень остроумным.
В наши дни данные собирают прежде всего для создания таргетированной рекламы. Но со временем будут появляться и другие варианты их использования, и не исключено, что они окажутся намного более важными, а иногда и более опасными для нас. По сути, происходящее означает, что технологические компании могут собрать досье на любого человека, включая его привычки и предпочтения, и отслеживать изменение всех параметров от рождения до самой смерти. Сегодня Facebook располагает, вероятно, самым полным и пригодным для дальнейшей разработки массивом персональных данных из когда-либо существовавших. А поскольку люди все чаще прибегают к ДНК-тестированию, то к медицинским и поведенческим данным прибавятся генетические, что послужит прогрессу науки, но уничтожит самые элементарные представления о неприкосновенности личной жизни.
Сегодня большие данные создаются при каждом удобном случае, как по крупным, так и по незначительным поводам, чему способствует превращение облачных сервисов в главное хранилище информации. Иногда их используют довольно неожиданным образом. Например, один из ведущих производителей лифтов объединил в сеть все когда-либо установленное или обслуженное им оборудование по всему миру. Компания получает данные о каждой поездке каждого лифта – время, этаж и количество пассажиров. Эта информация используется для организации сервисного обслуживания и ремонтов, но ее ценность возрастает по мере накопления данных со всех 50 000 лифтов. Системы распознавания лиц или электронные ключи сообщают, куда направляются люди, и дают возможность рассчитывать нагрузку на лифты и даже управлять ими на расстоянии. На основе накопленных данных искусственный интеллект определяет, когда пора делать профилактический ремонт, и даже прогнозирует аварийные ситуации. Получается, технологии, большие данные и ИИ совершают революцию в управлении лифтовым хозяйством. И если подобным образом можно управлять даже лифтами, то как скоро данные, собираемые с наручных часов и фитнес-браслетов, позволят точно так же обращаться с людьми? Видимо, недалек тот день, когда хирурги, оперирующие коленные суставы, смогут находить себе потенциальных пациентов среди людей, которые пока и не догадываются, что им нужно подновить колено. ИИ будет делать вывод об этом на основе данных о скорости их ходьбы и бега.
По мере того как большие данные будут загружаться в ИИ, машины смогут все серьезнее влиять на ваш опыт и ощущения. Вероятно, вы знаете, что Amazon рекомендует товары на основе ваших прошлых покупок. Точно так же поступает и Netflix, рекомендуя вам фильмы и сериалы. На смену тщательно оформляющим витринную выкладку мерчандайзерам приходят невидимые алгоритмы, и постепенно они берут на себя все большую часть ответственности за то, что вы видите и слышите. На смену мерчандайзерам с их искусством пришли боты. И это же прекрасно, верно? Ведь теперь все точно соответствует нашим индивидуальным потребностям, да? Возможно. Но это зависит от того, как устроен конкретный алгоритм. Считайте, что домашние странички Netflix и Amazon – витрины этих компаний. Они могут выкладывать на них все что угодно и будут исходить при этом как из своего представления о том, что должно вам понравиться, так и из того, что принесет им больше всего денег. Так что, если вы любите научно-фантастические фильмы, на виду окажутся те, которые увеличивают прибыль компании, а не те, которые больше понравились бы вам. А рекламные объявления в Google размещаются на платной основе. Поскольку об этом никто не распространяется, а сам сервис выглядит в ваших глазах бесплатным, вы естественным образом считаете это дополнительным плюсом. Вот в чем загвоздка: индивидуализация постепенно искажается ботами так, чтобы создавать компаниям условия для максимизации их прибылей, а вы продолжаете считать, что бесплатные сервисы работают на вас.
