Матрица, жидкий терминатор или апокалипсис: какие угрозы несет искусственный интеллект

Сюжеты фантастических фильмов об искусственном интеллекте всё чаще напоминают реальные сценарии, которые обсуждают исследователи. Международная группа специалистов составила рейтинг наиболее опасных угроз, сообщает El.kz со ссылкой на MIT Sloan.

В исследовании участвовали 272 специалиста из академической среды, технологических компаний, государственных структур и общественных организаций. Опрос провели методом Дельфи, который позволяет участникам пересматривать свои оценки после знакомства с обобщёнными мнениями коллег.

Эксперты изучили 24 группы рисков и оценили вероятность тяжёлых последствий до конца десятилетия. Среди угроз оказались автономное развитие опасных возможностей, применение ИИ в оружии и кибератаках, массовая дезинформация, потеря рабочих мест и концентрация власти.

Сценарий “Матрицы” ближе всего к риску тотального контроля над информацией и поведением людей. ИИ способен создавать убедительные подделки, проводить массовые кампании влияния, усиливать слежку и подбирать персональные способы манипуляции. При концентрации таких инструментов у ограниченного круга компаний или государств растёт угроза для частной жизни и демократических институтов.

Образ жидкого терминатора передаёт другой страх – появление системы, которая быстро приспосабливается к ограничениям и самостоятельно ищет способы выполнить поставленную задачу. В реальности опасность связывают с созданием вредоносного кода, поиском уязвимостей, обходом защитных механизмов и помощью в разработке химического или биологического оружия.

Апокалиптическим исходом авторы исследования считали гибель более миллиона человек, экономический ущерб свыше 100 млрд долларов или сопоставимые последствия для общества. В эту категорию входят крах демократических норм, масштабная потеря приватности и серьёзное нарушение работы критической инфраструктуры.

При сохранении нынешнего подхода к разработке ИИ восемнадцать групп угроз получили вероятность катастрофического развития событий не ниже 10%. Эта оценка относится к отдельным сценариям и не показывает общую вероятность единого “восстания машин”.

Даже при внедрении доступных мер безопасности пять направлений сохранили вероятность катастрофического исхода выше 10%. В их числе опасные возможности ИИ, оружие и кибератаки, экологический ущерб, рост неравенства и безработицы, а также концентрация технологической власти.

Наиболее уязвимыми сферами эксперты назвали информационную среду, финансы и национальную безопасность. Основную ответственность за снижение угроз они возложили на разработчиков универсальных ИИ-систем, правительства, регуляторов и организации по стандартизации.

Исследование опубликовано в виде научного препринта. Представленные показатели отражают коллективные оценки экспертов и не служат точным прогнозом будущего.

Ранее мы рассказывали, какие профессии труднее всего заменить искусственным интеллектом.