В январе турецкий пользователь «Инстаграм» (управляющая социальной сетью компания «Meta» признана в РФ экстремистской организацией) опубликовал часть интервью с Йе, артистом, ранее известным как Канье Уэст, в котором он делал заявления, восхваляющие Гитлера, а также отрицал Холокост – и платформа быстро удалила этот пост из социальных сетей, пишет журналист JTA Асаф Элиа-Шалев. Но это не было историей успеха для усилий «Meta» по предотвращению разжигания ненависти в «Инстаграме», постановил Надзорный совет компании, поскольку, интервью Йе сопровождалось видеореакцией пользователя, осуждающего его комментарии и рассказывающего о семейных связях с жертвами Холокоста.

Система обнаружения разжигания ненависти «Meta» не смогла уловить, что пользователь критиковал Йе, а не одобрял его. Поэтому компания удалила публикацию, обвинив пользователя в нарушении ее политики разжигания ненависти. Теперь Надзорный совет, независимый орган, которому поручено рассматривать решения «Meta» по модерации контента, говорит, что владелец «Фейсбука» и «Инстаграма» должен активизировать свои усилия по различению постов, пропагандирующих ненависть, от тех, которые направлены на борьбу с ней. Слишком часто, как объяснил совет в кратком изложении своего решения, модераторы – и люди и роботы – помечают как опасные сообщения, призванные бороться против ненависти и антисемитизма. «Подобные ошибки могут подавить заявления, призванные ответить на разжигание ненависти, включая отрицание Холокоста, или осудить хвалебные высказывания в адрес опасных людей, таких как Гитлер», — говорится в резюме. «Защита контрвысказывания необходима для развития свободы выражения мнений и является инструментом борьбы с вредным контентом, таким как дезинформация и разжигание ненависти».

Надзорный совет «Meta» заявил, что «Meta» проигнорировала контекст, в котором пользователь представил комментарии Йе, и ошибочно удалила сообщение в соответствии с политикой, запрещающей отрицание Холокоста и восхваление таких фигур как Гитлер. Пользователь подал апелляцию на удаление, но безрезультатно, но когда Надзорный совет довел этот вопрос до сведения «Meta», компания признала ошибку и восстановила публикацию. Надзорный совет решил рассмотреть дело, несмотря на исправления, поскольку считает основной вопрос важным, говорится в кратком изложении доводов.

Совет повторил рекомендации, сделанные в предыдущих случаях, о том, чтобы «Meta» проверяла, как часто модераторы контента и алгоритмы неправильно удаляют сообщения, предназначенные для обучения разжиганию ненависти или противодействия ему. Случайная цензура образовательного контента преследовала компанию в течение многих лет, резко усилившись, например, когда «Meta» запретила отрицание Холокоста в 2020 году.

Надзорный совет, созданный в 2020 году на фоне обвинений в том, что платформы «Meta» способствуют распространению дезинформации и экстремизма, уже не первый раз берется за дело, связанное с антисемитизмом. Из почти 50 дел, прошедших через его рассмотрение, по крайней мере четыре касались отрицания Холокоста или контента, связанного с нацизмом. Самый последний случай произошел в прошлом месяце, когда Совет объявил, что рассмотрит действия «Meta» в отношении публикации, искажающей Холокост. В более ранних случаях Совет отменил удаление «Meta» поста, содержащего цитату, ошибочно приписываемую нацистскому пропагандисту Йозефу Геббельсу, и пост, сравнивающий российскую армию с нацистами.