Данные пользователей ChatGPT передаются властям при риске насилия

Компания OpenAI заявила, что изучает переписки пользователей с чат-ботом ChatGPT и в некоторых случаях самостоятельно направляет информацию правоохранительным органам, если видит потенциальную опасность для других людей, передает интернет-портал El.kz.

В официальном заявлении компании говорится, что все сообщения пользователей анализируются с целью выявления угроз.

«Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их сообщения на проверку небольшой команде специалистов. Эта команда прошла обучение по стандартам нашей политики использования и уполномочена принимать меры, включая блокировку учетных записей», — отметили в OpenAI.

Если эксперты компании определяют, что существует непосредственная угроза причинения серьёзного физического вреда другим людям, данные таких пользователей могут быть переданы в правоохранительные органы. Компания подчеркнула, что такой подход направлен на обеспечение безопасности пользователей и предотвращение потенциально опасных ситуаций.

В OpenAI также отметили, что система мониторинга строится на анализе содержания переписок, что позволяет выявлять угрозы на ранней стадии. В случае блокировки аккаунта пользователь получает уведомление о причинах принятого решения, а данные, переданные правоохранительным органам, используются только для расследования конкретной угрозы.

Эксперты считают, что подобные меры помогут снизить риски онлайн-опасностей, особенно связанных с планированием насильственных действий, и повышают ответственность пользователей при взаимодействии с искусственным интеллектом. Компания подчёркивает, что защита людей и предотвращение угроз остаются приоритетом в работе с данными пользователей ChatGPT.

Ранее стало известно, что Google запустил бета-тест YouTube для Android TV