OpenAI начала глобальное внедрение специального режима ChatGPT для пользователей младше 18 лет. Он предусматривает дополнительные ограничения на чувствительный контент, родительский контроль и уведомления о серьёзных рисках, сообщает El.kz.
Речь идёт о встроенном режиме внутри ChatGPT, а не об отдельном приложении или новом чат-боте. Пользователи в возрасте от 13 до 17 лет смогут продолжать задавать вопросы, создавать материалы и использовать сервис для учёбы, но с дополнительными мерами безопасности.
Согласно официальной документации OpenAI, подростковый режим ограничивает демонстрацию сцен жестокости, опасных интернет-челленджей и материалов, пропагандирующих нездоровое похудение или экстремальные стандарты красоты.
Более строгие правила также действуют для ролевых разговоров на сексуальные, романтические и насильственные темы. При этом OpenAI предупреждает, что защитные системы не гарантируют фильтрацию всего неподходящего контента.
Для определения возраста компания внедряет специальную систему прогнозирования. Она анализирует общие темы разговоров, время использования сервиса, особенности активности и возраст аккаунта.
Если система предположит, что пользователю меньше 18 лет, ChatGPT может автоматически включить подростковый режим. Это возможно даже в том случае, если при регистрации была указана другая дата рождения.
Совершеннолетний пользователь, ошибочно попавший под ограничения, сможет подтвердить возраст через сервис Persona. В зависимости от страны для проверки могут потребоваться селфи или документ, удостоверяющий личность.
OpenAI утверждает, что не получает сам документ или фотографию. Persona передаёт компании только сведения, необходимые для определения возраста, а загруженные материалы удаляет после проверки.
Родители и подростки могут добровольно связать свои аккаунты. После этого взрослые получают возможность устанавливать «тихие часы», в течение которых ребёнок не сможет пользоваться ChatGPT.
Через родительский контроль также можно управлять голосовым режимом, генерацией изображений, памятью и некоторыми другими функциями.
Родители не получают доступ к переписке подростка и не могут следить за разговорами в реальном времени. Оба пользователя вправе в любой момент отменить привязку аккаунтов.
В ограниченных случаях система может отправить родителю уведомление о безопасности. Это предусмотрено, если автоматическая проверка и специально обученные сотрудники выявят признаки серьёзной угрозы членовредительства или опасного поведения.
В уведомлении не будут показываться содержание переписки и полная история разговора. Родителю передадут только информацию, необходимую для проверки состояния подростка и поиска помощи вне интернета.
ChatGPT официально не предназначен для детей младше 13 лет. Пользователям до 18 лет для работы с сервисом требуется согласие родителей или законных представителей.
Система определения возраста внедряется поэтапно по всему миру. В Европейском союзе её запуск состоится позднее из-за региональных требований.
Госуслуги при нулевом балансе: что изменится для казахстанцев в eGov.
