ИИ может спровоцировать новую пандемию

Искусственный интеллект способен в разы повысить риск глобальной пандемии, говорится в новом отчёте Rand Corporation, подготовленном для DARPA. Исследователи смоделировали сценарии, при которых генеративные ИИ-системы, подобные ChatGPT, упрощают создание биологического оружия и снижают порог доступа к опасным технологиям, передает ИА El.kz со ссылкой на Time.

Ранее для разработки смертельно опасного вируса требовались годы подготовки и высококвалифицированные специалисты, но теперь достаточно подсказок ИИ, чтобы получить инструкции по выбору патогена, синтезу ДНК и методам распространения. Особенно тревожит возможность автоматического подбора характеристик, повышающих заразность и устойчивость вируса.

Авторы подчёркивают, что угроза исходит не только от террористов, но и от случайных утечек из лабораторий, где ИИ применяется для ускорения исследований. В таких случаях риск может оказаться даже выше, чем во время пандемии COVID-19.

Доклад призывает к более строгому регулированию: ограничить доступ ИИ к биотехнической информации, фильтровать опасный контент и контролировать работу моделей в научной сфере. Если этого не сделать, технологии, которые должны помогать людям, могут непреднамеренно стать причиной катастрофы.

El.kz также сообщал о том, что нейросети вскоре могут отобрать у людей работу.