Сюжеты фантастических фильмов об искусственном интеллекте всё чаще напоминают реальные сценарии, которые обсуждают исследователи. Международная группа специалистов составила рейтинг наиболее опасных угроз, сообщает El.kz со ссылкой на MIT Sloan.
В исследовании участвовали 272 специалиста из академической среды, технологических компаний, государственных структур и общественных организаций. Опрос провели методом Дельфи, который позволяет участникам пересматривать свои оценки после знакомства с обобщёнными мнениями коллег.
Эксперты изучили 24 группы рисков и оценили вероятность тяжёлых последствий до конца десятилетия. Среди угроз оказались автономное развитие опасных возможностей, применение ИИ в оружии и кибератаках, массовая дезинформация, потеря рабочих мест и концентрация власти.
Сценарий “Матрицы” ближе всего к риску тотального контроля над информацией и поведением людей. ИИ способен создавать убедительные подделки, проводить массовые кампании влияния, усиливать слежку и подбирать персональные способы манипуляции. При концентрации таких инструментов у ограниченного круга компаний или государств растёт угроза для частной жизни и демократических институтов.
Образ жидкого терминатора передаёт другой страх – появление системы, которая быстро приспосабливается к ограничениям и самостоятельно ищет способы выполнить поставленную задачу. В реальности опасность связывают с созданием вредоносного кода, поиском уязвимостей, обходом защитных механизмов и помощью в разработке химического или биологического оружия.
Апокалиптическим исходом авторы исследования считали гибель более миллиона человек, экономический ущерб свыше 100 млрд долларов или сопоставимые последствия для общества. В эту категорию входят крах демократических норм, масштабная потеря приватности и серьёзное нарушение работы критической инфраструктуры.
При сохранении нынешнего подхода к разработке ИИ восемнадцать групп угроз получили вероятность катастрофического развития событий не ниже 10%. Эта оценка относится к отдельным сценариям и не показывает общую вероятность единого “восстания машин”.
Даже при внедрении доступных мер безопасности пять направлений сохранили вероятность катастрофического исхода выше 10%. В их числе опасные возможности ИИ, оружие и кибератаки, экологический ущерб, рост неравенства и безработицы, а также концентрация технологической власти.
Наиболее уязвимыми сферами эксперты назвали информационную среду, финансы и национальную безопасность. Основную ответственность за снижение угроз они возложили на разработчиков универсальных ИИ-систем, правительства, регуляторов и организации по стандартизации.
Исследование опубликовано в виде научного препринта. Представленные показатели отражают коллективные оценки экспертов и не служат точным прогнозом будущего.
Ранее мы рассказывали, какие профессии труднее всего заменить искусственным интеллектом.
