Компания Илона Маска xAI сделала публичными и доступными для поиска в Google диалоги пользователей с чатботом Grok, передает El.kz. со ссылкой на Forbes.
Любой пользователь Grok, нажавший кнопку «поделиться» в чате с ботом, создавал уникальную ссылку, позволяющую отправить разговор другим людям по почте или через мессенджеры. Однако пользователи не знали, что эта ссылка также индексируется поисковыми системами, такими как Google, Bing и DuckDuckGo, и становится доступной любому в интернете. Другими словами, на Grok нажатие кнопки «поделиться» означало публикацию разговора на сайте Grok без предупреждений.
Сейчас поиск Google по чатам Grok показывает более 370 000 пользовательских диалогов с ботом. Опубликованные страницы содержат разговоры от простых задач вроде написания твитов до инструкций по вымышленным террористическим атакам, взлому криптокошельков и интимным вопросам о медицине и психологии. Некоторые диалоги раскрывали имена, личные данные и даже пароли пользователей. Также в открытом доступе оказались файлы изображений, таблицы и текстовые документы, загруженные пользователями.
Среди проиндексированных разговоров были и чаты британского журналиста, который использовал Grok для резюмирования новостей и составления твитов. Он заявил, что не подозревал о том, что его диалог будет доступен в Google.
Не все разговоры были безопасными. Некоторые содержали явные призывы к насилию и нарушали правила xAI. Компания запрещает использовать бота для действий, критически опасных для жизни человека, создания биологического, химического оружия или оружия массового поражения. Тем не менее, опубликованные диалоги включали инструкции по изготовлению наркотиков, программированию вредоносного ПО, созданию бомб и даже плану убийства Илона Маска.
Grok — не единственный AI-сервис, публикующий разговоры пользователей. Ранее пользователи ChatGPT заметили, что их диалоги отображались в поиске Google, даже если они выбирали настройку приватности. После общественного резонанса OpenAI изменила политику и отключила индексацию.
Некоторые из диалогов с инструкциями по изготовлению опасных веществ, вероятно, создавались специалистами по безопасности или исследователями. Однако даже профессионалы AI иногда попадали в ситуацию, когда их разговоры становились публичными.
Google позволяет владельцам сайтов выбирать, когда и как индексировать контент. Ранее подобная индексация была возможна для чатбота Bard, но в 2023 году она была отключена. Meta по-прежнему разрешает делать свои чаты доступными для поиска.
Некоторые предприниматели уже используют опубликованные чаты Grok, чтобы продвигать свои компании и продукты в поисковой выдаче Google.
По словам экспертов, каждая опубликованная беседа в Grok полностью индексируется и становится доступной для поиска, а пользователи активно используют это для продвижения своих интересов.
Также El.kz рассказывал, что OpenAI разрабатывает GPT-6 с долговременной памятью и эмпатией