В октябре, через день после того, как «Фейсбук» объявил о запрете отрицания Холокоста, Изабелла Табаровски получила неожиданное сообщение с платформы, пишет JTA. Ее пост 2019 года, рекламирующий статью о памяти жертв Холокоста, был удален за нарушение «Стандартов сообщества в отношении языка ненависти».

Никакой дополнительной информации предоставлено не было, и Табаровски не помнит, чтобы у нее была возможность обжаловать это решение. Она связалась с представителем «Фейсбука», которую нашла в «Твиттере», но не получила ответа. Решение «Фейсбука» запретить отрицание Холокоста было принято только после того, как ученые, активисты и знаменитости осудили платформу за разжигание ненавистнических высказываний.

Но Табаровски не отрицает Холокост. Она — журналистка, которая пишет о советских евреях, в том числе о Холокосте на советских территориях. Статья называлась «Большинство евреев не было убито в лагерях смерти. Пришло время поговорить о другом Холокосте». Речь шла о том, что усилия по сохранению памяти о Холокосте мало затрагивают миллионы евреев, убитых за пределами концентрационных лагерей, таких как собственные родственники Табаровски, убитые в Бабьем Яре. Возможно, заголовок задействовал алгоритм, предназначенный для выявления отрицания Холокоста, который затем заблокировал пост Табаровски. Она не знает точно, потому что не получала объяснений от «Фейсбука». «Это сообщение появилось, и, очевидно, моя первая реакция был следующей: что же ненавистнического я сказал?» – заявила Табаровски JTA. «Мы видели столько антисемитских высказываний. Они не могут бороться с этим, они не могут победить, и все же они удаляют посты о Холокосте из 2019 года. Это поистине невероятно».

Табаровски входит в длинный список пользователей социальных сетей, чьи посты против ненависти по ошибке стали жертвами алгоритмов, направленных на удаление языка вражды. Такие компании, как «Фейсбук», «Твиттер» и «ТикТок», заявляют, что активизировали борьбу с оскорбительными постами и дезинформацией. Но искусственный интеллект, который управляет этими системами, намереваясь искоренить расизм или призывы к геноциду, вместо этого может удалять призывы по борьбе с ними. Организации, занимающиеся просвещением о Холокосте, говорят, что эта проблема особенно остро стоит для них, потому что она возникает в то время, когда большой процент молодых людей не осведомлен об основных фактах о Холокосте, и этих людей в Интернете стало больше, чем когда-либо.

Мишель Штайн, директор по связям с общественностью Мемориального музея Холокоста в США, заявила JTA, что рекламные объявления музея в «Фейсбуке» часто категорически отвергаются, так «что для нас это настоящая проблема». «Слишком часто наши образовательные материалы буквально натыкаются на непреодолимые трудности», – заметила она. «Это не нормально, что реклама с историческим изображением детей 1930-х годов, носящих желтую звезду, отклоняется, особенно в то время, когда нам нужно просвещать общественность о том, что олицетворял собой этот желтый значок во время Холокоста». Пост с желтой звездой – лишь один из примеров заблокированной рекламы, подчеркнула Штайн. Нацисты заставляли евреев, которые позже были уничтожены, прикреплять звезды к своей одежде. Недавно желтая звезда была присвоена протестующими против всего, от вакцин до «Брексита», что, возможно, сделало «Фейсбук» особенно чувствительным к ее изображению. Реклама музея Холокоста была направлена на то, чтобы реагировать на подобные инциденты, рассказывая людям о том, что на самом деле означает звезда. Были и другие случаи блокирования просветительских постов о Холокосте.

В марте «Фейсбук» деактивировал аккаунт Норвежского центра изучения Холокоста и меньшинств на пять дней, а также аккаунты 12 его сотрудников. Когда аккаунты были восстановлены, местный представитель «Фейсбука» заявил норвежскому изданию: «Я не могу сказать, техническая это ошибка или ошибка человека». В 2018 году у Центра взаимного уважения Анны Франк, просветительская организация по вопросам Холокоста в Нью-Йорке, «Фейсбук»удалил пост с фотографией истощенных еврейских детей. «Redfish», проект агентства «Russia Today», связанного с российским государством, сообщил, что у него есть три поста, посвященные памяти Холокоста, в том числе один со знаменитой фотографией Эли Визеля и других в бараках концлагеря, снятые «Фейсбуком» в этом году. Образовательные программы о Холокосте – не единственные, кто протестует против того, как алгоритмы социальных сетей регулируют контент, якобы разжигающий ненависть.

Антирасистские активисты жаловались на то, что их сообщения в «Фейсбуке» рассматриваются как язык вражды, что побудило платформу изменить свой алгоритм. Пользователи – евреи в «ТикТоке» говорят, что их забанили за публикацию не вызывающего возражений еврейского контента. Во время недавнего конфликта Израиля и ХАМАСа как произраильские, так и пропалестинские активисты заявляли, что их сообщения были скрыты или удалены из «Инстаграма» и других источников. «Фейсбук» (которому принадлежит «Инстаграм») и «ТикТок» сообщили JTA, что пользователи, чьи посты были удалены, могут обжаловать это решение. «Твиттер» не ответил на вопросы, отправленные по электронной почте. Но Штайн заявила, что причина блокировки рекламы непонятна, а процесс обжалования иногда может занять несколько дней. По ее словам, к тому времени, когда объявления будут одобрены, обучающий момент, на который они должны были обратить внимание, часто уже прошел.

Музей обращался к «Фейсбуку», чтобы решить эту проблему, но безрезультатно. «Нам неясно, в какой части поста возникла проблема, поэтому мы вынуждены гадать. Но что гораздо важнее, это мешает нам вовремя донести это послание до пользователей», – заметила она. «Большой потенциал социальных сетей заключается не в образовании, закрепленном в классе, а в образовательных моментах, привязанных к тому, что происходит в окружающей среде поэтому, когда вам нужно прерваться, это настоящая потеря».

Пресс-секретарь «Фейсбука» сообщил JTA, что он использует «комбинацию человеческой и автоматизированной проверки» для обнаружения языка ненависти, и что люди «обычно» проверяют автоматизированные решения. «Фейсбук» определяет отрицание Холокоста как публикацию, в которой оспаривается «факт того, что это произошло, количество жертв, методы и преднамеренность этого». «Мы не полагаемся исключительно на конкретные слова или язык, чтобы различать отрицание Холокоста и образовательный контент», – заявил JTA пресс-секретарь. «У нас также есть конфликтные группы, которые могут проводить больше времени с контентом и получать дополнительный контекст, чтобы мы могли принять более обоснованное решение». «ТикТок» также сообщил JTA, что модераторы – люди просматривают контент, помеченный его системой искусственного интеллекта. И что он учит своих модераторов различать язык ненависти и то, что он определяет как «контрречи». Ни «Фейсбук», ни «Твиттер» не предоставили дополнительной информации о том, когда и как посты переходят от искусственного интеллекта к модераторам – людям, или как они обучают модераторов – людей.

«Мы не знаем, когда они используют автоматизированные инструменты, кто решает, что такое антисемитизм, кто решает, что такое анти-черный расизм», – заявил Дэниел Келли, заместитель директора Центра технологий и общества Антидиффамационной лиги (ADL). ADL была одним из организаторов громкого бойкота «Фейсбука» со стороны рекламодателей в прошлом году в знак протеста против того, что, по его словам, было слабой политикой борьбы с разжиганием ненависти. Позже в том же году «Фейсбук» объявил, что запретит отрицание Холокоста и будет бороться с другими формами ненависти.

«Основаны ли эти наборы данных на опыте людей из пострадавших сообществ?» – вопрошал Келли. «У нас есть информация о том, как создаются эти автоматизированные системы?» И «Фейсбук», и «ТикТок» заявили, что намерены не допускать антисемитизма на своих платформах, а «ТикТок» заявил, что работает с ADL, а также Всемирным еврейским конгрессом (WJC), чтобы сформировать модерацию антисемитских высказываний ненависти. WJC также работает с «Фейсбуком».

«Гораздо сложнее иметь дело с такими вещами, как тон или контекст, и именно здесь обучение искусственного интеллекта имеет решающее значение, и это пространство для обучения, но оно никогда не будет идеальным», – подчеркнула Ифат Барак-Чейни, директор WJC по международным делам. «Такие проблемы, как нагота, машинам легко обнаружить – 98 или 99% подобного контента удаляются автоматически, прежде чем он достигнет платформы. Но в случае с ненавистническими высказываниями, где такие вещи, как тон и содержание, играют большую роль, машины не могут удалить их в таком количестве». Барак-Чейни заявила, что ее организация не решается говорить о «перегибании палки» платформами в модерировании таких тем, как отрицание Холокоста, потому что для них важнее, чтобы «Фейсбук» и другие компании занимали решительную позицию против разжигания ненависти.

Прежде чем WJC приступит к своей ежегодной кампании памяти жертв Холокоста в социальных сетях под названием «#Мы помним», он будет отправлять эти посты на платформы социальных сетей для предварительного утверждения, чтобы гарантировать, что они не будут заблокированы, когда они появятся. «Необходимо внести улучшения, но, если мы будем говорить: «Эй, вы должны разрешить больше контента», это будет противоречить тому, что мы просим их удостовериться, что не осталось и вредного контента, нарушающего правила», – заявила она.

Павел Савицки, пресс-секретарь Государственного музея Аушвиц-Биркенау, заметил, что бан образовательных постов является по крайней мере сигналом того, что платформы серьезно относятся к этой проблеме. Савицки подчеркнул, что посты музея не блокировались, и что он все еще обеспокоен возможностью распространения отрицания Холокоста в социальных сетях, несмотря на политику платформ. «Это показывает, что в социальных сетях происходит некоторый процесс удаления риторики ненависти, если такой контент исчезает», – заметил он. «Ситуация меняется, и мы надеемся, что это реальное изменение их подхода к более универсальным высказываниям ненависти».

Табаровски также поддерживает компании, владеющие социальными сетями, которые принимают решительные меры против отрицания Холокоста и языка вражды. Но ей хотелось бы понять, почему ее пост был заблокирован, и, в идеале, найти способ избежать удаления своих постов. На прошлой неделе, после того как JTA направило запрос с просьбой о комментариях по поводу этой истории, и спустя более шести месяцев после того, как пост была удалена, «Фейсбук» восстановил его. «Это просто безумие, когда вы имеете дело с роботом, который не может отличить отрицание Холокоста от просвещения о Холокосте», – заметила Табаровски. «Как мы, человечество, дошли до того момента, когда передали такие важные решения на аутсорсинг роботам? Это просто чушь».