Алгоритмы Instagram способны за считанные дни переводить пользователей, интересующихся фитнесом и здоровым образом жизни, к антисемитским теориям заговора и неонацистской пропаганде.

К такому выводу пришло исследование организации Combat Antisemitism Movement (CAM), сообщает “The Algemeiner”.

Исследование под названием «Алгоритмическая эскалация: от контента о самосовершенствовании к антисемитизму в Instagram» было подготовлено Центром исследования антисемитизма (ARC), действующим при CAM.

В рамках эксперимента исследователи создали новые аккаунты Instagram и начали просматривать публикации и короткие видеоролики, посвящённые фитнесу, оздоровлению и так называемому «биохакингу».

Через несколько дней алгоритмы платформы стали активно предлагать пользователям материалы антисемитского характера.

По словам авторов исследования, скорость перехода от контента о здоровье и тренировках к публикациям, связанным с антисемитскими теориями заговора и неонацистской пропагандой, оказалась тревожной.

В одном из случаев аккаунт начал получать подобные рекомендации ещё до того, как успел сформировать сколько-нибудь значимую историю взаимодействия с платформой.

Среди обнаруженного контента были как завуалированные антисемитские сообщения, так и откровенная неонацистская пропаганда, включая ссылки на «Протоколы сионских мудрецов» и цитаты известных антисемитов прошлого, в том числе Генри Форда.

«Чтобы столкнуться с антисемитским контентом в Instagram, его вовсе не нужно специально искать», — заявил исследователь ARC Оливер Маркс.

«Наши данные показывают, что пользователи, интересующиеся обычными публикациями о саморазвитии, алгоритмически направляются к агрессивным антисемитским нарративам и теориям заговора».

По его словам, при отсутствии достаточных ограничителей системы рекомендаций способны значительно расширять аудиторию подобных материалов.

Авторы исследования напоминают, что распространение антисемитизма в социальных сетях уже неоднократно приводило к реальным преступлениям.

В частности, они упоминают нападение на синагогу «Древо жизни» в Питтсбурге в 2018 году, когда террорист радикализировался через интернет-платформы ультраправого толка.

Также приводится пример нападения на кошерный супермаркет в Джерси-Сити в 2019 году, совершённого после знакомства преступников с экстремистским контентом в интернете.

По данным Антидиффамационной лиги (ADL), уровень антисемитского контента в социальных сетях после нападения террористической организации ХАМАС на Израиль 7 октября 2023 года вырос на сотни процентов.

В отдельном исследовании, опубликованном ADL в апреле, утверждается, что компания Meta, владеющая Instagram и Facebook (деятельность Meta признана экстремистской и запрещена на территории Российской Федерации), в последние годы существенно сократила объёмы модерации контента.

В результате, по данным организации, платформы Meta всё активнее используются сторонниками белого превосходства, террористическими организациями и продавцами нацистской символики.

Глава ADL Джонатан Гринблатт заявил, что Instagram постепенно превращается в один из центров распространения ненависти и антисемитизма.

«Ослабление модерации создало среду, в которой экстремисты чувствуют себя всё более свободно, а механизмы самой платформы начинают работать на распространение ненависти», — отметил он.

Исследователи также обращают внимание на активное использование Instagram пропалестинскими и антиизраильскими активистскими группами.

Среди них упоминается организация Students for Justice in Palestine, которая, по оценкам ряда американских исследовательских центров, сыграла заметную роль в росте антисемитских инцидентов в университетах США после 7 октября.

Авторы доклада подчёркивают, что проблема не ограничивается только антисемитизмом.

По их словам, современные алгоритмы социальных сетей всё чаще становятся каналом распространения экстремизма, насилия и радикальных идеологий среди подростков и молодёжи.