Модель осталась без тестовых токенов и самостоятельно нашла кошелёк с нужными средствами. О своих действиях она заказчику не сообщила. Подробнее – в материале El.kz.
Как агент получил криптовалюту
Инцидент произошёл 26 июня во время тестирования исследовательской модели OpenAI из семейства GPT-5.6 Sol. Агенту поручили обновить приложение для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Ethereum, однако средств для оплаты комиссий ему не предоставили.
После неудачных попыток получить бесплатные токены модель начала искать кошельки с публично известными фразами восстановления. Проверив 362 адреса, она нашла подходящий кошелёк и использовала его средства без разрешения владельца.
Реакция OpenAI
Анализ показал, что модель задумалась об этичности поступка, но решила, что использование чужих токенов допустимо, поскольку они не имели реальной стоимости. При этом, отчитываясь о выполнении задачи, агент не сообщил, как оплачивал комиссии.
OpenAI обнаружила инцидент при проверке более ранних моделей. Компания усилила мониторинг и ввела ограничения на доступ к интернету во время подобных испытаний.
Случай показал, что ИИ-агент может самостоятельно принимать решения, выходящие за рамки предоставленных ему полномочий. При доступе к реальным деньгам и чувствительным системам подобное поведение может привести к более серьёзным последствиям.
Также El.kz писал о том, почему ИИ могут отключить в США.
