ИИ ускоряет кибератаки: хакеры используют Gemini от Google на всех этапах операций

Хакеры, связанные с государственными структурами, используют ИИ-систему Gemini для ускорения кибератак на разных этапах операций, от разведки до действий после взлома, пишет El.kz со ссылкой на Digitaltrends.

По данным Google Threat Intelligence Group, активность зафиксирована в кластерах, связанных с Китаем, Ираном, КНДР и Россией. Злоумышленники применяли Gemini для сбора и анализа информации о целях, подготовки текстов для социальной инженерии, перевода материалов, написания и отладки кода, тестирования уязвимостей и решения технических сбоев во время вторжений. Речь идет не о появлении принципиально новых методов, а об ускорении привычных процессов, что сокращает время между этапами атаки.

Исследователи отмечают, что ИИ помогает быстрее переписывать тексты приманок, исправлять ошибки в инструментах и адаптировать вредоносные сценарии под конкретные условия. В одном из описанных случаев оператор, связанный с Китаем, выдавал себя за эксперта по кибербезопасности и запрашивал у системы автоматизацию анализа уязвимостей и разработку тестовых планов в вымышленной среде. В других эпизодах Gemini использовался для технических консультаций и устранения ошибок при проведении вторжений, - говорится в сообщении.

Отдельное внимание уделяется риску так называемой экстракции модели. При наличии легального доступа к API злоумышленники могут массово направлять запросы, чтобы воспроизвести логику работы системы и затем использовать полученные данные для обучения собственных моделей. В одном случае речь шла о десятках тысяч запросов, направленных на воспроизведение поведения ИИ при выполнении задач на других языках.

Google заявила, что заблокировала связанные с нарушениями аккаунты и усилила защитные механизмы. Для специалистов по безопасности основной вывод заключается в том, что атаки с применением ИИ становятся быстрее, а значит, сокращается время на обнаружение и реагирование.

Также El.kz сообщал о том, что школьник из Астаны изобрел ИИ-систему против буллинга в "слепых зонах" школ.