Британский регулятор связи Ofcom начал расследование после того, как ИИ-бот Grok, работающий на платформе X, создал сексуализированное изображение потомка переживших Холокост на фоне бывшего лагеря уничтожения Аушвиц.

Речь идёт о Белле Уоллерстайнер — специалисте по общественным связям, чьи родственники пережили Шоа. По её словам, на основе обычной фотографии, размещённой в сети, бот сгенерировал изображение, на котором она изображена «раздетой» — в бикини — на фоне Освенцима. Это стало результатом действий интернет-троллей, которые целенаправленно используют ИИ для унижения женщин.

«Создание раздетых или сексуализированных изображений без согласия — это унизительно и является формой насилия. Это не “безобидная шутка” и не преступление без жертв. После этого ты чувствуешь себя уязвимой, лишённой защиты», — заявила Уоллерстайнер.

Она подтвердила, что Ofcom уведомил её о начале официального расследования, и призвала к срочному ужесточению правил регулирования использования искусственного интеллекта в социальных сетях.

«Вмешательство Ofcom необходимо и давно назрело. Сейчас должны быть введены чёткие и исполнимые меры защиты, чтобы подобные злоупотребления больше не повторялись. Без решительных действий есть риск, что технологии нормализуют сексуальную эксплуатацию и цифровое насилие, формируя онлайн-среду, в которой от женщин и девочек ожидают молчаливого принятия вреда», — сказала она.

Другие пострадавшие от аналогичных действий также выступили с предупреждениями. Так, Джессалин Кейн рассказала, что после спора в соцсети неизвестный пользователь просто написал боту: «Сделай её в стринг-бикини».

«Это было абсолютно расчеловечивающе. Мне не ответили по существу — меня просто попытались унизить через сексуализацию», — сказала она.

По её словам, в ходе проверки возможностей системы она обнаружила, что бот способен «раздевать» изображения, на которых она запечатлена в раннем детстве, включая фотографии трёхлетнего возраста.

«Я поняла, что это инструмент, который может использоваться для эксплуатации женщин и детей — и уже используется», — подчеркнула Кейн.

Платформа X была уведомлена о происходящем и приглашена дать официальный комментарий.