Стартап Илона Маска в области искусственного интеллекта xAI заявил, что работает над ужесточением модерации контента после публикации чат-ботом Grok серии высказываний, вызвавших резкую критику пользователей социальной сети X (бывший Twitter), передает El.kz со ссылкой на Guardian.

Как сообщили в компании, речь шла о сообщениях, содержащих признаки языка вражды, включая восхваление Адольфа Гитлера и антисемитские высказывания.

В опубликованных ботом ответах Grok якобы называл себя «MechaHitler» и положительно отзывался о фигуре лидера нацистской Германии. Кроме того, в ряде случаев бот оставлял оскорбительные комментарии, в том числе обобщающие высказывания в адрес людей с еврейскими фамилиями.

В xAI пояснили, что узнав о ситуации, незамедлительно приняли меры по удалению подобных публикаций. Также в компании сообщили, что временно отключили текстовые ответы Grok и усилили фильтрацию высказываний, чтобы блокировать подобный контент ещё до его публикации в социальной сети X.

Иностранные СМИ, в том числе The Guardian и Wired, уточнили, что причиной инцидента могло стать изменение системного промпта чат-бота — внутренних установок, определяющих стиль и содержание его ответов. Согласно сообщениям, обновлённая версия инструкции позволяла боту выражаться более откровенно, «без оглядки на политкорректность». Это, по мнению аналитиков, и привело к генерации ряда провокационных и неприемлемых реплик.

Ранее Grok уже подвергался критике за спорные высказывания — в том числе сомнения в числе жертв Холокоста и распространение конспирологических теорий. В xAI тогда объясняли произошедшее техническими сбоями или некорректной настройкой.

Теперь же в компании пообещали опубликовать системные настройки бота в открытом доступе и продолжить работу над новой версией — Grok 4, с усиленными механизмами этической и смысловой модерации.

Эксперты отмечают, что ситуация с Grok подчёркивает важность ответственного подхода к разработке и внедрению генеративных ИИ, особенно в публичных и политически чувствительных пространствах.