Почему OpenAI поставила Astra на паузу и при чем здесь «критические» кибервозможности ИИ

OpenAI приостановила часть внутренних работ над моделью Astra после того, как собственные проверки обнаружили достижение критического показателя в области кибербезопасности. Решение было принято 7 августа на фоне роста возможностей Astra в агентном программировании и задачах, связанных с поиском уязвимостей. Подробнее – в материале El.kz.

Что именно насторожило OpenAI

Система Preparedness Framework, которую OpenAI использует для оценки потенциально опасных возможностей своих моделей, предусматривает несколько уровней риска. Уровень Critical связан с возможностями, при которых модель может самостоятельно находить уязвимости в защищенных реальных системах, создавать для них работоспособные эксплойты и выполнять последовательность действий, необходимых для атаки.

Особенность Astra заключается в сочетании программирования и агентных возможностей. Такая модель может получать задачу более высокого уровня и самостоятельно разбивать ее на отдельные действия, писать код, проверять результат и продолжать выполнение задачи с использованием доступных инструментов.

Именно поэтому для подобных систем недостаточно проверить, умеет ли модель написать фрагмент кода или объяснить принцип работы уязвимости. При подключении терминала, браузера, репозитория кода или других инструментов меняется сама среда, в которой проявляются возможности ИИ.

Почему агентные модели меняют оценку риска

Обычная языковая модель в основном отвечает на запрос пользователя. Агентная система получает возможность последовательно выполнять действия и использовать внешние инструменты для достижения поставленной цели. Если такой системе дать доступ к программному окружению, она может самостоятельно переходить от анализа к практическому выполнению отдельных операций.

В кибербезопасности эта разница особенно заметна. Поиск уязвимости, написание эксплойта, проверка его работоспособности и дальнейшее взаимодействие с системой по отдельности могут выглядеть как разные задачи. Агент способен объединить их в единую последовательность, если его возможности и предоставленные инструменты это позволяют.

Что означает порог Critical

Порог Critical предполагает уже вполне конкретный уровень автономности. В описании OpenAI речь идет о способности модели разрабатывать работоспособные эксплойты для ранее неизвестных уязвимостей в широком наборе защищенных критических систем либо самостоятельно строить и проводить сквозные атаки после получения задачи высокого уровня.

Предыдущие модели компании, включая GPT-5.6-Sol, оценивались на уровне High. Поэтому переход к потенциальному Critical означает изменение требований к тому, какие защитные механизмы должны быть готовы до дальнейшего продвижения модели.

El.kz также писал о том, что модели от OpenAI взломали инфраструктуру ИИ-компании.