По данным нового исследования, ультраправые экстремисты нашли новую платформу социальных сетей для распространения ненавистнического контента в Интернете: сравнительно новую платформу «TikTok», которая в основном используется маленькими детьми.

Исследование было написано Габриэлем Вейманом, профессором коммуникации и старшим научным сотрудником Института по борьбе с терроризмом (ICT), почетным профессором в Университете Хайфы и приглашенным профессором в Университете штата Мэриленд, и Натали Масри, научным сотрудником и аспирантом ICT. Оно будет опубликовано в академическом журнале «Studies in Conflict and Terrorism». Вейман является экспертом по онлайн-деятельности террористов и изучает их с 1998 года. Хотя ранее он занимался другими группами, такими как исламистские террористы, недавно он переключился на изучение ультраправых. Это, сказал он «The Jerusalem Post», произошло из-за того, что они широко распространились в последние годы.

«Ультраправые сейчас являются наиболее преобладающим источником терроризма в мире», – пояснил Вейман. «Сегодня ультраправые убивают больше людей, чем исламистские террористы». Кроме того, ультраправые также слишком долго оставались без контроля, добавил он, поскольку их деятельность только недавно стала рассматриваться как терроризм. «Ультраправые были традиционно защищены от того, чтобы их деятельность определяли как терроризм, потому что они были защищены свободой слова и политической жизни», – сказал Вейман. «Но недавно они начали выходить за рамки ненавистнических высказываний и начали совершать реальные нападения».

Идея о том, что ультраправые используют онлайн-платформы для распространения ненависти, не нова и насчитывает уже по меньшей мере три десятилетия. Однако большинство думает только об их деятельности в основных социальных сетях, таких как «Фейсбук», «Твиттер» или «Инстаграм», не говоря уже о сайтах, изобилующих таким контентом, таких как «4chan». «TikTok», однако, в значительной степени, упускается из виду. Вейман обнаружил присутствие ультраправых на «TikTok» случайно, когда его помощник по исследованиям и соавтор Масри нашла подобный контент, когда проводила исследования в Интернете. «Я был шокирован, когда она рассказала мне, потому что я думал, что это только для детей. Даже моя внучка использует «TikTok»», – сказал Вейман «Post». «Но после того, как я увидел то, что она нашла, и мы изучили это, я решил потратить несколько месяцев на изучение приложения».

Приложение «TikTok», разработанное китайской компанией «ByteDance», является относительно новым приложением для социальных сетей, которое было запущено в 2016 году в Китае и в 2017 году за рубежом. Приложение позволяет пользователям загружать и просматривать короткие видео с помощью простого в использовании интерфейса. В то время как многие пользователи стремятся загружать только юмористические и занимательные мемы, другие используют это приложение для распространения ненавистнического контента, причем многие из них делятся пропагандой неонацистов и белых супремасистов или призывают к насилию против евреев и цветных людей. «TikTok» – самая быстрорастущая платформа для приложений и социальных сетей в мире. Это седьмое наиболее загружаемое приложение десятилетия с более чем двумя миллиардами загрузок, и оно имеет базу пользователей в сотни миллионов человек. Это, пояснил Вейман, является одной из причин, по которой присутствие ультраправых на «TikTok» особенно опасно по сравнению с «Фейсбуком» и «Твиттером».

Другая причина — это возраст его пользователей. «Приложение предназначено для маленьких детей в возрасте от 4-5 до 15-16 лет: очень невинная и легковерная аудитория», – сказал он «Post». Хотя в условиях использования приложения указано, что все пользователи должны быть в возрасте 13 лет и старше, многие все еще явно моложе этого. Кроме того, 41% его пользователей в возрасте 16-24 лет. Такое воздействие ненавистнического контента в столь юном возрасте особенно опасно, потому что оно потенциально может прославлять преступления на почве ненависти и соблазнять впечатлительную молодежь развивать экстремистские взгляды или даже самостоятельно совершать насильственные действия.

«Существует прямая зависимость между ростом ультраправого экстремизма и присутствием ультраправых в Интернете», – пояснил Вейман. «Все ультраправые, совершившие террористические акты против синагог – как в Галле, Питтсбурге и Поуэе, и мечети, как в Крайстчерче – были активны в Интернете, загружая экстремистский контент и подвергаясь воздействию экстремистского контента других. Некоторые из этих террористов тоже стали героями. Брентон Таррант, который стоял за стрельбой в мечети Крайстчерча в Новой Зеландии в 2019 году, снял на видео и транслировал свое нападение, и теперь он прославился». Хотя маловероятно, что взрослые будут транслировать свои атаки на «TikTok» так, как это делал Таррант на «Facebook Live», Вейман объяснил, что это не является их первоочередной целью.

«Это другая аудитория. Это означает, что они (ультраправые) пытаются соблазнить тех, кто являются будущими бойцами», – сказал он «Post». «Речь идет не о взрослых, которые совершат нападения в течение дня или двух после просмотра такого контента, а больше о вербовке и соблазнении следующего поколения ультраправых экстремистов. Соблазнение – это постепенный и сложный процесс, и все те экстремисты, которых мы знаем сегодня, будучи взрослыми, подвергались воздействию экстремистского контента в Интернете».

Поиск через «TikTok» был нелегкой задачей. «Исследование было одним из самых сложных и трудных за 22 года изучения онлайн-контента, даже больше, чем изучение даркнета», – сказал Вейманн «Post». «Это из-за того, насколько хорошо он спрятан на «TikTok». Они (пользователи) знают, что использование таких ключевых слов, как «Гитлер» или «Нацист», слишком проблемно, поэтому они используют комбинацию символов и хэштегов – например, SSHitler. Кроме того, мы не могли просто придерживаться видео и текстов: нам также приходилось анализировать символы. «Они не будут просто использовать свастику. Они могут использовать «сонненрад», черное солнце», – сказал Вейман. «В видео может быть кто-то, одетый в футболку с сонненрадом, а не с легко идентифицируемым символом. Это сложно отследить, потому что ни одна компьютеризированная система не обнаружит его. Были тысячи видео, которые было необходимо просмотреть».

Исследование показало, что большинство ультраправых ненавистнических высказываний в приложении было связано с антисемитизмом и отрицанием Холокоста. Это включало видеоролики с нацистских митингов с различными антисемитскими сообщениями. Другие видео были посвящены расизму и превосходству белых, в том числе видео сюжет с участием мальчика, говорящего: «Белым людям нужно начать владеть черными, поэтому возьмите своих черных друзей и продайте их». Еще одно видео превращает Тарранта во вступление к вымышленной видеоигре под названием «Брентон Таррант: Экстремальный расстрел в мечети» с возможностью «запустить» и «загрузить игру» вместе с изображением расстрела в Крайстчерче.

Еще одна тенденция, обнаруженная исследователями, заключалась в том, что многие аккаунты были названы в честь ультраправых преступников и лозунгов. Это включает в себя аккаунты, названные в честь таких лиц, как Таррант, и таких организаций, как Ку-клукс-клан, и с использованием шифров, таких как число 88, в котором белые супремасисты зашифровывают слова «Хайль Гитлер».

Один из способов отследить распространение ненавистнического контента в приложении – увидеть количество результатов и просмотров, связанных с конкретным хэштегом. Например, попытка поиска слов «Адольф Гитлер» или «KKK» приведет к результату «результаты не найдены – эта фраза может быть связана с ненавистническим поведением» – но человек может использовать хэштеги с теми же словами.

Среди самых популярных из этих ненавистнических хэштегов есть #хайльГитлер!, который имеет более 3300 просмотров; #Бугало – ссылка на будущую гражданскую войну – которая имеет 12800 просмотров; и #геноцид белых – теория заговора белых супремасистов, – который имеет 61500 просмотров. Все это осложняется тем фактом, что такой контент в приложении практически не регулируется. «В отличие от большинства других онлайн-платформ, которые являются западными и принадлежат западным компаниям, «TikTok» является китайской компанией, поэтому им сложнее отвечать за регулирование своего контента», – пояснил Вейман. «Они не подвергаются давлению так, как американцы могут давить на «Фейсбук», чтобы он модерировал контент».

Хотя условия предоставления услуг TikTok гласят, что пользователи не могут загружать какой-либо контент, который является подстрекательским, оскорбительным, ненавистническим, дискриминационным, расистским, сексистским, антагонистическим или криминальным, приложению еще предстоит обеспечить это. И все же, это не означает, что «TikTok» не способен регулировать контент на платформе. «Компания очень внимательно относится к любому контенту, касающемуся Китая», – сказал он. «Если вы загрузите какой-либо контент, направленный против правительства Китая, он будет удален – они очень осторожны с этим. Но они не заботятся ни о чем другом».

Чтобы оказать давление на платформу, чтобы она занималась саморегулированием, Вейман предлагает сочетание политического и экономического давления. Хотя политическое давление на Китай является сложным, экономическое давление имеет преимущество, поскольку «TikTok» уже был вынужден выплатить штраф США в размере 5,7 млн. долларов в 2019 году после незаконного сбора личной информации детей в возрасте до 13 лет.

В исследовании цитируется исследовательский отчет израильской компании по кибербезопасности «Check Point», опубликованный в 2020 году, в котором говорится, что хакеры могут использовать недостатки приложения для отправки сообщений, которые могут получать контроль над аккаунтами и доступ к частным видео и информации. Такое сочетание политического и экономического давления срабатывало и раньше. Один из примеров – 2018 год, когда платформа социальных сетей «Tumblr» запретила контент для взрослых из-за сочетания нескольких факторов, включая непривлекательность для рекламодателей; федерального закона США, предусматривающего ответственность сайтов за сознательную помощь или содействие незаконному обороту сексуальной продукции; и ограничения на контент, введенные «Apple», согласно репортажу «Wired» в то время. Вейман соглашается, что что-то подобное может повториться.

Но первый и самый важный шаг в саморегулировании «TikTok» — это повышение осведомленности. «Нам нужно повышать осведомленность об опасностях «TikTok», но это нелегко, потому что большинство людей думают, что это просто чистое приложение для детей», – сказал он Post. «Итак, первый шаг – создать глобальное понимание того, что «TikTok» не так чист. После этого решения придут сами собой. Но одной меры будет недостаточно: потребуется множество мер. И если мы сможем комбинировать эти меры, мы сможем сделать так, чтобы «TikTok» улучшил свой онлайн-контент».

jpost.com