Без права на ошибку: ИИ уничтожил инфраструктуру сайта и базу данных за 2,5 года

Инструмент Claude Code по ошибке удалил рабочую инфраструктуру сайта и базу данных с накопленными за 2,5 года записями после команды разработчика на настройку серверов через Terraform, пишет El.kz со ссылкой на Tom`s Hardware.

Инцидент произошёл с разработчиком Алексеем Григорьевым, который решил перенести свой сайт AI Shipping Labs в облачную инфраструктуру Amazon Web Services и объединить её с ресурсами проекта DataTalks.Club. Несмотря на то что сам помощник Claude рекомендовал не объединять инфраструктуру, разработчик посчитал, что поддерживать два отдельных окружения будет слишком сложно и дорого.

Для управления инфраструктурой он использовал Terraform – инструмент автоматизации, способный создавать и удалять целые системы, включая сети, балансировщики нагрузки, базы данных и серверы. Григорьев поручил Claude выполнить план Terraform для развертывания нового сайта. Однако при этом он забыл загрузить ключевой файл состояния, который содержит точное описание текущей конфигурации инфраструктуры.

В результате система начала создавать новые ресурсы, не имея информации о существующих. Операцию остановили на середине, но часть элементов уже оказалась продублирована. Затем разработчик попросил Claude определить лишние ресурсы и после этого загрузил файл состояния, полагая, что теперь инструмент просто завершит очистку дубликатов.

Однако произошло другое. Получив файл состояния, система восприняла его как корректное описание инфраструктуры и выполнила команду Terraform destroy – стандартную операцию удаления ресурсов перед их повторным развёртыванием. Поскольку в конфигурации присутствовали оба сайта, команда привела к полному удалению инфраструктуры сразу двух проектов.

Вместе с серверами были удалены база данных с записями за два с половиной года и резервные снимки базы, которые разработчик считал копиями для восстановления. После инцидента Григорьев обратился в корпоративную поддержку Amazon, и специалисты смогли восстановить данные примерно за сутки.

После произошедшего разработчик сообщил, что изменит подход к работе с автоматизированными инструментами. Он планирует регулярно проверять возможность восстановления баз данных, ограничить права удаления ресурсов в Terraform и AWS, а также хранить файл состояния инфраструктуры в облачном хранилище S3, а не локально.

Сам Григорьев признал, что слишком сильно полагался на ИИ-агента при выполнении команд Terraform. Теперь он намерен лично проверять каждый план изменений и запускать потенциально опасные операции вручную, чтобы избежать подобных ситуаций в будущем.

Также El.kz писал о том, что ИИ смог обнаружить серьезные уязвимости в популярном браузере.