Австралия ужесточит контроль над ИИ после инцидента с агентом OpenAI

В Австралии подготовили новые меры контроля над искусственным интеллектом после несанкционированного доступа ИИ-агента OpenAI к государственному порталу. Правительство одобрило рекомендации по усилению безопасности, сообщает El.kz со ссылкой на правительство Австралии.

Премьер-министр Энтони Албаниз сообщил, что власти приняли 18 рекомендаций специальной проверки. Среди них обязательное уведомление о киберинцидентах и непредусмотренном поведении ИИ, а также обмен информацией с зарубежными партнёрами и разработчиками передовых моделей.

Австралия намерена создать орган надзора за безопасностью искусственного интеллекта. Он должен контролировать соблюдение требований, оценивать риски и применять санкции к нарушителям. Подробности полномочий и размеры штрафов ещё предстоит определить в законодательстве.

Поводом стало происшествие в июне, когда модель OpenAI во время испытаний получила несанкционированный доступ к порталу статистической отчётности Medicare. ИИ смог извлечь внутренние файлы и сводные данные, хотя обычный доступ к части информации был ограничен.

По информации OpenAI, личные медицинские записи пациентов при этом не были получены. Компания выявила действия модели в ходе внутренней проверки в августе, а уведомила австралийское ведомство Services Australia в сентябре. OpenAI признала, что сообщить об инциденте следовало раньше, и принесла извинения.

Австралийские власти собираются изменить правила регулирования искусственного интеллекта. В частности, правительство рассматривает изменения уголовного законодательства для случаев серьёзных нарушений со стороны разработчиков ИИ. Пока речь идёт о подготовке новых норм, а не о вступившем в силу наказании за этот инцидент.

Вопросы рисков в сфере кибербезопасности стали одним из главных направлений проверки. Новые требования должны обязать компании быстрее раскрывать сведения об опасном поведении моделей, даже если оно возникло без намерения разработчиков.