Исследователи, работающие при Центре по изучению антисемитизма организации Anti-Defamation League, показали, что искусственный интеллект может не только распространять вредные идеи, но и ослаблять веру в антисемитские теории заговора. Как следует из опубликованного в среду исследования, правильно обученный чат-бот способен убедительно опровергать конспирологию — и это меняет отношение пользователей к евреям в лучшую сторону.

Авторы работы обучили крупную языковую модель (LLM) аргументированно отвечать на шесть распространённых антисемитских конспирологических утверждений, включая тезисы о «контроле над медиа» и пресловутую «теорию замещения». Затем более 1 200 людей, которые ранее заявили, что верят хотя бы в одну из этих теорий, общались с ИИ, после чего повторно отвечали на те же вопросы.

По данным исследования, те, кто беседовал с обученным чат-ботом — в ADL его назвали DebunkBot — значительно снизили уровень веры в антисемитские утверждения. Более того, эффект сохранялся даже через месяц, без повторного взаимодействия с моделью. Пользователи также продемонстрировали более благожелательное отношение к евреям в целом.

«Удивительно, но фактологическое опровержение работает даже против теорий, имеющих глубокие исторические корни», — сообщил “The Times of Israel” профессор Корнеллского университета Дэвид Рэнд, один из руководителей исследования. По его словам, DebunkBot в основном использует точную информацию и логические доводы, а не попытки вызвать эмпатию, что обычно является стандартной практикой в образовательных программах против антисемитизма.

Руководитель Центра исследования антисемитизма ADL Мэтт Уильямс подчеркнул, что современный антисемитизм всё чаще проявляется как массовая дезинформация: «Мы должны рассматривать антисемитизм как неисправность в механизме восприятия истины. И люди способны эту неисправность исправлять».

Исследование включало три группы: одна беседовала с DebunkBot, другая — с чат-ботом на нейтральные темы, а третьей лишь сообщили, что их убеждение является «опасной теорией заговора». Только первая группа показала значимое снижение уровня веры в конспирологию.

Несмотря на успех, ИИ не стал универсальным решением: те, кто верил в большее число антисемитских теорий, оказались менее подвержены изменениям. Однако даже частичное снижение влияния конспирологии исследователи называют прорывом — особенно на фоне данных ADL, согласно которым доля американцев, верящих в теории заговора, за последнее десятилетие достигла 45%.

Публикация исследования совпала с волной критики в адрес других ИИ-моделей. Так, чат-бот Grok, созданный компанией Илона Маска xAI, ранее уже обвинялся в транслировании антисемитских тезисов, а на этой неделе французские власти начали проверку после того, как бот заявил пользователю, будто газовые камеры в Аушвице «предназначались для дезинфекции».

В ADL сообщили, что пытаются убедить крупные технологические компании внедрить принцип работы DebunkBot в их собственные системы. «ИИ — инструмент. Он может работать во зло, но может работать и во благо. И сегодняшнее исследование доказывает, что старейшая ненависть в мире поддаётся коррекции», — заявил Уильямс.