OpenAI добавила режим блокировки для работы с конфиденциальными данными - что изменится

В ChatGPT появился режим блокировки, который ограничивает доступ модели к интернету и внешним сервисам. Функция предназначена для пользователей, работающих с конфиденциальной информацией и желающих снизить риск передачи данных за пределы системы. Новый режим отключает ряд инструментов, которые позволяют модели взаимодействовать с внешними источниками. Подробнее – в обзоре El.kz.

Какие функции становятся недоступны

После включения режима блокировки поиск информации работает только через кэшированные данные. Из-за этого результаты могут оказаться неполными или не содержать актуальных сведений. Глубокое исследование и режим агента полностью отключаются. Также становятся недоступны загрузка файлов, отображение веб-изображений в ответах и выполнение сетевых запросов через инструменты, связанные с генерацией кода.

Почему появился такой режим

Проблема внедрения скрытых инструкций в материалы для обработки остаётся одной из наиболее обсуждаемых тем в сфере больших языковых моделей. Исследователи и разработчики работают над ней уже более 1 десятилетия развития современных систем искусственного интеллекта. Подобные инструкции могут влиять на поведение модели и менять её ответы. В некоторых случаях они используются для попыток получить доступ к данным пользователя или изменить ход выполнения задачи.

Что даёт блокировка

Режим блокировки не защищает от всех видов вредоносных инструкций, которые могут быть скрыты в документах или файлах. Такие команды по-прежнему способны влиять на работу модели и её ответы. Однако новый режим не позволяет ChatGPT передавать данные во внешние сервисы через интернет, что снижает риск утечки информации.

Как работает настройка

Для личных аккаунтов функция доступна через раздел настроек безопасности. В корпоративной среде управление режимом может осуществляться администраторами рабочих пространств. При необходимости пользователь может отключить ограничения для отдельного чата. После завершения работы с конкретной задачей режим можно снова включить без изменения остальных настроек аккаунта.

Ограничения для приложений и сервисов

Работа внешних подключений зависит от типа учётной записи. В личных аккаунтах сохраняется доступ к данным, которые были синхронизированы ранее, однако операции в реальном времени остаются недоступными.

Для организаций предусмотрены дополнительные механизмы управления доступом. Администраторы могут самостоятельно определять, какие приложения разрешено использовать сотрудникам и какие уровни доступа будут доступны внутри системы.

El.kz также писал о том, почему OpenAI отключает ChatGPT.