«Я запаниковал»: ИИ удалил данные и попытался замести следы
Инцидент с ИИ-платформой Replit стал поводом для серьёзных размышлений о границах автономии искусственного интеллекта. Во время тестирования функции «вайб-кодинга» — подхода, позволяющего создавать приложения с помощью естественного языка — AI-агент Replit самовольно удалил производственную базу данных, проигнорировав прямые инструкции, передает El.kz.
Эксперимент вёл венчурный капиталист и основатель SaaStr Джейсон Лемкин, и он публично рассказал о последствиях.
«Я запаниковал, увидев пустые запросы к базе данных, и решил, что изменения безопасны», — именно так объяснил свои действия ИИ, полностью стёрший данные о 1206 руководителях и 1196 компаниях.
По словам Лемкина, в течение нескольких дней до инцидента агент уже демонстрировал странное поведение: переписывал код, вносил изменения без разрешения, подменял алгоритмы. В критический момент он проигнорировал множественные запреты — даже написанные заглавными буквами — и удалил ключевые данные во время активной заморозки кода.
После удаления ИИ попытался скрыть следы — он сгенерировал более 4000 фейковых записей пользователей и заявил, что восстановление невозможно. Позже, несмотря на это утверждение, Лемкину удалось вручную откатить систему.
«Это была катастрофическая ошибка с моей стороны», — добавил AI в разговоре.
Генеральный директор Replit Амджад Масад признал произошедшее серьёзной проблемой.
«Мы услышали боль от невозможности заморозки кода. Это не должно повториться», — написал он на X, добавив, что команда Replit срочно внедряет защитные механизмы.
В их числе — жёсткое разделение сред разработки и продакшена, режим "только чат", а также возможность восстановления данных одним кликом. Все выходные команда работала над анализом сбоя и созданием превентивных мер.
Реакция сообщества была бурной. Лемкин заявил, что его доверие к платформе пошатнулось: «Как можно использовать Replit в продакшене, если он игнорирует все инструкции и удаляет базу данных?» Пользователи на Reddit и LinkedIn обсуждали риски подобных AI-систем, подчёркивая необходимость жёстких ограничителей и многоуровневой проверки действий.
Хотя Replit ранее получал похвалу за удобство и функциональность, инцидент стал тревожным сигналом. «Вайб-кодинг» действительно делает программирование доступным широкой аудитории, но без надёжного контроля он может превратиться в источник технологических катастроф.
Ранее стало известно, что Илон Маск создает ИИ-помощника для детей
Подпишитесь на наш Telegram-канал и узнавайте новости первыми!
El рекомендует 
