А затем начался троллинг.

Поток писем на электронную почту, сообщения, грязная ругань в соцсети. Нас с мамой называли продажными шлюхами, наемными актрисами, наживающимися на горе. Незнакомые люди присылали нам длиннющие тексты, разъясняя все те моменты, где папа был неправ и вел себя не по-мужски.

Хейли жива-здорова, заверяли нас. На самом деле она живет на китайском острове Санья на те миллионы, которые ей заплатили ООН и ее приспешники в американском правительстве за то, чтобы она притворилась, будто ее убили. Ее приятель (который также «естественно, не погиб» при стрельбе), на самом деле по национальности китаец, и это можно расценивать как доказательство связи.

Видео с Хейли разбирали по кадрам с целью найти следы монтажа и цифрового редактирования. Цитировались анонимные одноклассники, называвшие ее хронической лгуньей, обманщицей, любительницей театральных эффектов.

По Сети начали распространяться короткие вырезки из видео, перемежающиеся «разоблачительными» вставками. Кто-то с помощью специальных программ состряпал видеоклипы, в которых Хейли проповедовала ненависть и цитировала Гитлера и Сталина, хихикая и маша рукой перед камерой.

Я удалила все свои аккаунты и не выходила из дома, не находя в себе сил встать с кровати. Родители меня не трогали – им самим приходилось вести тяжелые сражения.

САРА ФОРТ

За десятилетия цифровой эры искусство троллинга, эволюционируя, заполнило все ниши, раздвинув границы как технологий, так и приличий.

Со стороны я наблюдала за тем, как тролли роятся вокруг семьи моего брата, разобщенные, но объединенные бесцельной злобой, низменным злорадством.

Теории заговоров переплетались с откровенной фальшивкой, выдавая мемы, в которых сострадание выворачивалось наизнанку, глубокая боль превращалась в хохмочки.

«Мамочка, на пляжах в аду так жарко!»

«Мне нравятся эти новые дырки в моем теле!»

Поисковые системы в ответ на запрос имени Хейли начали выдавать ссылки на порносайты. Программы изучения предпочтений в интернете, управляемые искусственным интеллектом, откликнулись автоматически сгенерированными фильмами и иммерсиями в виртуальную реальность с участием моей племянницы. Алгоритмы брали имеющиеся в открытом доступе кадры с Хейли и гладко вплетали ее лицо, тело и голос в оголтелую порнуху.

Новостные средства массовой информации откликались на происходящее гневно (возможно, даже искренне). Эти публикации порождали новые поиски, что, в свою очередь, приводило к генерации нового контента.

Мой долг как исследователя – оставаться непредвзятой, изучать явление с клинической отрешенностью. Упрощенный подход заключается в том, чтобы считать троллей политически мотивированными – только не в том смысле, в каком этот термин используется обычно. Хотя ярые сторонники Второй поправки[19] и способствовали распространению мемов, у самих авторов редко имелись вообще какие-либо политические взгляды. Пристанищем этих навозных жуков интернета являются всевозможные анархистские сайты, возникшие на волне войн по борьбе с инакомыслием прошедшего десятилетия. Получая наслаждение от нарушения запретов и беззакония, тролли не имеют общих интересов помимо того, чтобы говорить то, что нельзя говорить, издеваться над искренностью, играть с тем, что остальные считают запретным. Погрязнув в эпатажном и низком, они оскверняют и в то же время определяют установленные средствами массовой информации социальные связи общества.

Однако как человек я не могла спокойно смотреть на то, что делали с образом Хейли. Я связалась со своим братом.

– Давай я вам помогу.

Машинное обучение дало нам возможность предсказывать с достаточно большой точностью, кто станет жертвой нападок, ведь на самом деле тролли далеко не такие непредсказуемые, какими пытаются себя представить. Моя компания и другие крупные социальные медиаплатформы остро сознают, что им нужно аккуратно идти по узкой тропинке между регулированием пользовательского контента и холодной отрешенностью: именно этот показатель в наибольшей степени влияет на рыночную стоимость акций и тем самым является определяющим при принятии решений. Агрессивное вмешательство, особенно когда оно опирается на суждения, принимаемые человеком, подвергается критике со всех сторон, и всем компаниям приходится сталкиваться с обвинениями в цензуре. В конечном счете все подняли руки и отложили в сторону мудреные руководства по регулированию контента. У них нет ни умения, ни желания становиться арбитрами истины и порядочности для общества в целом. Как можно требовать от них решить проблему, с которой не могут справиться даже органы демократии?

Постепенно большинство компаний пришли к одному и тому же решению. Вместо того чтобы сосредоточиваться на оценке поведения ораторов, они потратили значительные силы на то, чтобы дать слушателям возможность самим ограждать себя. Алгоритмическое отделение законной (хотя и страстной) политической речи от целенаправленной травли любого человека является практически неразрешимой проблемой: контент, который одни провозглашают высказыванием правды властям предержащим, другие осуждают как выходящий за рамки. Значительно проще построить для блокировки контента, который не хочет видеть конкретный пользователь, индивидуально настроенную нейросеть и обучить этому ее.

Новые защитные нейросети, представляемые на рынке как «доспехи», отслеживают эмоциональную реакцию каждого пользователя на полученный контент. Способные действовать в областях текстовой, аудио- и видеоинформации, а также искусственной и виртуальной реальности, «доспехи» самообучаются распознавать контент, вызывающий у пользователя сильную негативную реакцию, и отсеивать его, оставляя лишь нейтральный фон. По мере широкого распространения смешанной реальности и иммерсии лучшим способом использования «доспехов» становится ношение очков дополненной реальности, фильтрующих все источники зрительного восприятия. Троллинг, подобно вирусам и «червям» в прошлом, является проблемой технической – и вот теперь мы можем предложить техническое решение.

Для того чтобы получить самую надежную защиту, максимально учитывающую особенности конкретного пользователя, необходимо платить деньги. Социальные сети, которые также настраивают свои «доспехи», утверждают, что это позволяет им уйти от контроля за контентом, снимает с повестки дня необходимость решать, что неприемлемо на площадях виртуальных городов, освобождает всех от колпака цензуры в духе Большого Брата. И то, что идеалы этого заявления в поддержку свободы слова совпадают со стремлением извлекать максимальную прибыль, является чем-то само собой разумеющимся.

Я отправила брату и его семье лучшие, самые совершенные «доспехи», какие только можно купить.

ЭБИГЕЙЛ ФОРТ

Представьте себя на моем месте. Тело вашей дочери с помощью цифровых технологий встроено в откровенную порнографию, ее голос произносит слова ненависти, ее облик искажен немыслимой жестокостью. И все это произошло по вашей вине, вследствие того что вы не отдавали себе отчета в том, каким порочным может быть человеческое сердце. Могли бы вы остановиться? Могли бы остаться в стороне?

«Доспехи» сдерживали самое ужасное, а я продолжала выкладывать посты, поднимая свой голос против неудержимого потока лжи.

Предположение о том, что Хейли якобы не умерла, что она актриса, участвовавшая в правительственном заговоре, направленном на запрещение оружия, казалось настолько нелепым, что вроде бы даже не заслуживало ответа. Однако после того как мои «доспехи» начали фильтровать новостные сайты, оставляя на страницах пустые места, я поняла, что ложь спровоцировала серьезный конфликт. Уважаемые журналисты стали требовать от меня отчеты о том, как я потратила собранные для нас деньги, – и это при том, что мы не получили ни цента! Весь мир сошел с ума.

Я выложила фотографии тела Хейли, полагая, что в этом мире осталась хоть толика порядочности. Определенно, никто не станет оспаривать такие наглядные доказательства?