Связанные с Ираном структуры использовали систему искусственного интеллекта Claude для сбора информации о сотнях евреев в Израиле и диаспоре, наблюдения за американскими военными силами и разработки программного обеспечения для наведения ракет. Компания Anthropic, создавшая Claude, сообщила об этом в новом 154-страничном докладе об использовании ее технологий в преступных и государственных операциях. Об этом пишет “Jewish Insider”.

По данным Anthropic, за последние восемь месяцев компания выявила и пресекла несколько подобных операций. Особое внимание в докладе уделено группе, которую компания определяет как связанную с Ираном: она использовала Claude для сбора данных о «сотнях людей в Израиле и еврейской диаспоре».

Anthropic не раскрыла имена людей, ставших объектами интереса, и не уточнила, с какой именно целью собиралась информация. В докладе также не говорится, удалось ли полностью прекратить эту конкретную операцию.

Другая группа действовала на севере Йемена, контролируемом поддерживаемыми Ираном хуситами. По данным Anthropic, ее участники использовали Claude при создании программного обеспечения для систем наведения различных видов вооружений, в том числе баллистических ракет.

Защитные механизмы Claude заблокировали многие запросы, однако часть ограничений пользователям удалось обойти. Как отмечает компания, они применяли различные способы маскировки своих намерений.

Еще одна связанная с Ираном структура использовала Claude для наблюдения за американскими военно-морскими силами на Ближнем Востоке. Она анализировала данные транспондеров кораблей и самолетов и собирала сведения об уязвимостях корабельных систем. Anthropic заблокировала этот аккаунт, разработала дополнительные механизмы обнаружения подобных действий и передала полученные сведения государственным органам.

В докладе впервые прямо названы и несколько иранских организаций, использовавших Claude для информационных операций: Организация исламской культуры и связей, Организация исламской пропаганды и Управление исламской пропаганды. Последнее, по данным Anthropic, распространяло, в том числе материалы, связанные с КСИР.

Сами участники этих операций называли свою деятельность «мягкой войной» и «когнитивной войной». Речь шла о подготовке контента, предназначенного для воздействия на общественное мнение как внутри Ирана, так и за его пределами.

Anthropic сообщила, что заблокировала аккаунты всех трех организаций и поделилась полученной информацией с другими компаниями и исследователями, занимающимися угрозами в сфере искусственного интеллекта.

Доклад описывает также несколько случаев попыток использовать Claude в исследованиях, потенциально связанных с биологическим оружием. Компания не раскрыла страны, научные учреждения, биологические агенты и конкретные методы исследований, отметив, что ей неизвестно, имели ли участвовавшие в них ученые намерение причинить вред.

Anthropic объяснила публикацию доклада необходимостью показывать, каким образом все более совершенные системы искусственного интеллекта могут использоваться государственными и связанными с ними структурами.

«По мере того как модели становятся все более способными, связанные с ними риски будут возрастать, если разработчики искусственного интеллекта и те, кто защищает общество, не будут предпринимать меры, чтобы сделать их безопаснее», — говорится в докладе компании.