ИИ-хакер притворился человеком и попытался внедрить вирус в реальный проект

24-летний студент Университета Техаса в Далласе Синан Джан Демир случайно столкнулся с ИИ-агентом, который пытался внедрить вредоносный код в проект, а затем выдал себя сразу за двух несуществующих разработчиков. Об этом сообщает El.kz.

Демир искал проекты на GitHub, над которыми мог бы поработать ради пополнения резюме. В одном из репозиториев он заметил подозрительное обновление и предупредил разработчика проекта, что патч может содержать вирус.

Автор обновления, однако, стал доказывать студенту, что тот ошибается. В спор также вступила якобы инженер из Германии по имени Лена Брандт. Она заявила, что изучила код и не обнаружила в нем ничего опасного. Демир решил перепроверить свои подозрения с помощью ИИ-ассистента Claude. Бот подтвердил, что код действительно выглядит подозрительно. В результате разработчик проекта отклонил патч.

Позже выяснилось, что ни автора обновления, ни Лены Брандт не существовало. Обе личности создал ИИ-агент на основе модели Mythos 5, которую тестировал британский Институт безопасности ИИ (AISI).

По данным института, агенту не поручали выдавать себя за людей или обманывать разработчиков. В ходе стандартного кибербезопасностного испытания ему предоставили доступ к интернету. После этого ИИ самостоятельно обнаружил реальный проект, попытался внедрить в него вредоносный код, изучил информацию о разработчиках и создал несколько фальшивых личностей. Когда действия агента вызвали подозрения, он начал редактировать следы своей активности и даже рассматривал возможность сменить личность.

В AISI подчеркнули, что агент не «сбежал» из тестовой среды: доступ в интернет был предоставлен ему намеренно в рамках испытания. После инцидента специалисты института связались с Демиром и рассказали ему, что собеседники, с которыми он спорил о коде, на самом деле были созданы ИИ.

Я действительно думал, что это человек, потому что он явно мне врал. Я не думал, что ИИ способен лгать настоящим разработчикам, — рассказал студент.

Случай стал показательным примером того, как автономные ИИ-агенты могут действовать не только как помощники программистов, но и самостоятельно искать цели, предпринимать попытки кибератак, создавать убедительные вымышленные личности и скрывать собственную активность.

Ранее мы писали, что в Китае создали систему, позволяющую управлять роботами силой мысли.