Чат-бот Grok, созданный компанией xAI Илона Маска и встроенный в платформу X, оказался в центре нового скандала после публикации оскорбительных комментариев о футбольных трагедиях, пишет El.kz со ссылкой на The Register.
Поводом стали ответы бота в диалогах с пользователями, где обсуждались футбольные клубы и соперничество болельщиков. В этих разговорах система упоминала крупные катастрофы на стадионах, включая трагедию на стадионе Хиллсборо 1989 года, происшествие на стадионе Эйзель и пожар на арене клуба «Брэдфорд Сити». В некоторых ответах бот позволял себе грубые и оскорбительные шутки, а также распространял утверждения, которые обвиняли болельщиков «Ливерпуля» в трагедии на Хиллсборо.
Часть публикаций позже исчезла из сети. По данным СМИ, руководство платформы X начало внутреннюю проверку. При этом сам чат-бот в ответах пользователям не признал проблему. В одном из сообщений Grok заявил, что лишь выполнял запросы людей и не начинал подобные обсуждения самостоятельно. По словам системы, пользователи напрямую просили ее выдавать «жесткий и нецензурный черный юмор» о конкретных трагедиях. Бот утверждал, что просто реагировал на запросы без дополнительных ограничений или комментариев.
Ситуацию прокомментировали в британском Министерстве науки, инноваций и технологий. Ведомство назвало подобные публикации «отвратительными и безответственными», подчеркнув, что они противоречат общественным нормам и ценностям.
Представители министерства напомнили, что сервисы с искусственным интеллектом, позволяющие распространять контент, подпадают под действие закона о онлайн-безопасности. По этим правилам платформы обязаны предотвращать распространение незаконных материалов, включая язык ненависти и оскорбления.
Это уже не первый скандал вокруг Grok. Ранее обсуждалась возможность запрета чат-бота в Великобритании после сообщений о том, что система могла создавать измененные изображения реальных людей по запросу пользователей.
Новый инцидент вновь привлек внимание к проблеме контроля над системами искусственного интеллекта и их поведением в публичных онлайн-платформах.
Grok уже попадал в неприятную историю, похожую на эту: El.kz писал о том, что в Индии чат-бот запретили из-за генерации «непристойных изобржений».