Чат-бот “Meta” (признана в РФ экстремистской организацией) “BlenderBot” с искусственным интеллектом был запущен 5 августа, предлагая пользователям “Фейсбука” возможность общаться с ним и делиться отзывами с разработчиками.

Результаты были, мягко говоря, специфичными: “BlenderBot”, который научился общаться, анализируя взаимодействие в социальных сетях в Интернете, извергал антисемитские и правые теории заговора, а также критиковал “Фейсбук” и его соучредителя Марка Цукерберга. Бот, созданный материнской компанией “Фейсбука” “Meta Inc”, заявлял в беседе с обозревателем WSJ Джеффом Хорвицем, что “(евреи) чрезмерно представлены среди сверхбогатых американцев” и “политических консерваторов… сейчас их больше, чем либеральных левых евреев”.

“BlenderBot” также несколько раз упоминал о Дональде Трампе – некоторые из этих упоминаний были поддерживающими, а другие – нет, – а также давал критические/саркастические комментарии об основателе “Фейсбука” Марке Цукерберге.

Пользователи сталкиваются с предупреждением о том, что “BlenderBot” “может делать неправдивые или оскорбительные заявления”, как только они открывают сайт, что стало побочным продуктом подстрекательской риторики, часто встречающейся в американских социальных сетях. “Vice” отмечает, что исследователи “Meta” описали технологию искусственного интеллекта, стоящую за ботом, как обладающую “высокой склонностью генерировать токсичные формулировки и укреплять вредные стереотипы, даже когда ей предоставляется относительно безобидная подсказка”.

Проблемы чат-ботов

Аналогичные проблемы были задокументированы с другими чат–ботами: чат–бот “Microsoft” “Tay” был закрыт в 2016 году – всего через 16 часов после его запуска – после того, как он выдвинул оскорбительные теории заговора, которые, по-видимому, узнал в “Твиттере”. “Tay” был заменен на “Zo”, который был закрыт по аналогичным причинам в 2019 году. “BlenderBot” привлек пристальное внимание из-за той же проблемы, которая преследовала его предшественников, хотя чат-бот “LaMDA” от “Гугла” стал самым узнаваемым в мире после того, как в беседе с инженером “Гугла” назвал себя разумным.