Компания пересмотрела Model Spec, документ, который определяет принципы работы нейросетей и их взаимодействия с пользователями. Новая редакция уделяет особое внимание человеческим намерениям, безопасности, прозрачности и самостоятельности человека. Подробнее – в материале El.kz.
Обновлённую спецификацию OpenAI представила 29 октября. Документ описывает, каким компания хочет видеть поведение своих моделей в различных ситуациях, в том числе при выполнении сложных задач и принятии решений.
В основе новой редакции лежат пять принципов. Среди них следование намерениям человека, минимизация вреда, честность и прозрачность, поддержка самостоятельности пользователей и внимательное отношение к их обстоятельствам. Разработчики рассчитывают, что эти ориентиры помогут нейросетям лучше понимать смысл запросов и учитывать последствия своих действий.
Как будут работать новые правила
Отдельное внимание OpenAI уделила порядку выполнения инструкций. Компания определяет общие границы поведения моделей, разработчики приложений задают правила для своих продуктов, а пользователи формулируют задачи в рамках этих ограничений. Обновлённая спецификация также подробнее объясняет, как учитывать контекст беседы и ранее сообщённые предпочтения человека.
В документе затрагивается и проблема угодничества нейросетей. Модели должны сохранять объективность, даже когда собеседник ожидает подтверждения собственной позиции. OpenAI также подчёркивает необходимость честно сообщать о возможностях и ограничениях искусственного интеллекта, чтобы пользователи могли оценивать достоверность ответов и действий системы.
Что изменится для пользователей
Новая редакция расширяет требования к самостоятельности человека. Нейросети должны помогать пользователям разбираться в ситуации, оценивать возможные варианты и принимать собственные решения, не подменяя их выбор своими предпочтениями.
OpenAI продолжит развивать спецификацию с учётом исследований, практического опыта и отзывов пользователей. При этом компания отдельно подчёркивает, что Model Spec описывает целевое поведение моделей, к которому разработчики продолжают стремиться.
El.kz также писал о том, как безобидные истории формируют опасное поведение ИИ.
