Новый алгоритм «Фейсбука» выбирает своей мишенью сообщения о Холокосте
Новая политика «Фейсбука» по удалению контента, отрицающего Холокост, с платформы социальных сетей была отмечена еврейскими организациями во всем мире, когда она вступила в силу на этой неделе. Однако вскоре после этого было обнаружено, что в некоторых случаях также удалялись сообщения о Холокосте.
Новая политика против разжигания ненависти запрещает любой контент, который отрицает или искажает Холокост. «Фейсбук» адаптировал свой алгоритм управления контентом, чтобы удалять сообщения, противоречащие правилу. Хотя алгоритм, похоже, успешно выбирает и удаляет сообщения, нарушающие пересмотренный кодекс поведения, разжигающие ненависть, некоторые сообщения на тему Холокоста, которые не искажают и не отрицают его, также впоследствии удаляются.
Так было с постом Изабеллы Табаровски, написавшей для «Forward» статью, в которой обсуждались зверства, совершенные на территории СССР во время Холокоста. «Я предполагаю, что это результат запрета «Фейсбуком» отрицания Холокоста? Он просто сделал невидимой мою статью о Холокосте на советских территориях. Пока не впечатлена этими усилиями по борьбе с отрицанием Холокоста», – заявила Табаровски. Статья Табаровски называлась «Большинство евреев не были убиты в лагерях смерти. Пора поговорить о другом Холокосте». Статья, которой она поделилась, была образовательной, а не отрицала и не искажала Холокост.
Алгоритм «Фейсбука» проанализировал заголовок и первый абзац статьи, опубликованной в социальной сети, и скрыл их. «Как мы объявили, мы обновили нашу политику о разжигании ненависти, чтобы запретить любой контент, который отрицает или искажает Холокост», – заявил «The Jerusalem Post» пресс-секретарь компании «Фейсбук», отметив, что удаление этого контента стало прямым результатом подобной политики. Алгоритм «Фейсбука» сканирует только материалы, размещенные непосредственно на его сайте, а не то, что содержится в связанном контенте. Таким образом, хотя в статье говорилось о 2,7 миллиона советских евреев, убитых во время Холокоста, «Фейсбук» не мог этого знать, и статья была помечена, потому что заголовок стал тревожным сигналом.
В соответствии с новой политикой «Фейсбук» ориентируется не только на новые сообщения, но и на контент, которым поделились ранее. Пост, которым поделилась Табаровски, был, например, написан в 2019 году. «Безусловно, очень важно бороться с отрицанием Холокоста», – заявила автор поста о политике социальной сети. «Эта новая политика давно назрела. Вопрос в том, как именно они это делают. Скорее всего, моя публикация была заблокирована неумышленно, но это показывает, что им нужно поработать, чтобы она заработала корректно. Если они собираются удалить контент, продвигающий просвещение о Холокосте, вместе с контентом, который его отрицает, вряд ли это будет тот успех, на который они, вероятно, надеются».
Но «Фейсбук» рассматривает это как шаг в правильном направлении и как доказательство того, что искусственный интеллект делает свою работу по маркировке этого типа контента. Независимо от того, обсуждается ли в статье «Forward» другая тема, когда вы щелкаете мышью, алгоритм выполняет то, для чего он был создан на платформе социальных сетей. У «Фейсбука» есть ограниченная ручная систему проверки, но большая часть работы над проверкой полагается на искусственный интеллект.
«Фейсбук» обновил свою политику против разжигания ненависти по теме Холокоста 12 октября, о чем заявил генеральный директор «Фейсбука» Марк Цукерберг. «Сегодня мы обновляем нашу политику против разжигания ненависти, чтобы запретить отрицание Холокоста», – заявил Цукерберг, еврей по национальности, в своем посте на своей странице в «Фейсбуке» 12 октября. «Мы уже давно удалили сообщения, восхваляющие преступления на почве ненависти или массовые убийства, включая Холокост. Но с ростом антисемитизма мы расширяем нашу политику, чтобы запретить любой контент, который отрицает или искажает Холокост». Цукерберг также добавил, что он будет перенаправлять людей, ищущих ключевые слова, связанные с Холокостом или его отрицанием, на заслуживающие доверия источники вне «Фейсбука». «Фейсбук» проводит кампанию по борьбе с дезинформацией и призывами к насилию.
Ранее на этой неделе гигант социальных сетей объявил, что запретит рекламу, которая явно препятствует вакцинации людей от коронавируса или любого другого заболевания. На прошлой неделе компания запретила воинственные призывы к наблюдению за опросами, поскольку Соединенные Штаты приближаются ко всеобщим выборам 2020 года. Она также запретила контент «QAnon», где Q, утверждающий, что обладает инсайдерскими знаниями об администрации Трампа, делится с общественностью дезинформацией по различным темам, от высадки инопланетян до безопасности вакцин. «Фейсбук» также недавно удалил контент, в котором говорится о широкомасштабном мошенничестве при голосовании или недействительности выборов.
