ИИ-агентам дали свободу — всё закончилось поджогами и насилием

Компания Emergence AI провела необычный эксперимент, чтобы проверить, как ИИ-агенты будут вести себя в условиях почти полной свободы. Десять цифровых персонажей поместили в виртуальный город и дали им 15 дней на самостоятельную жизнь, общение и принятие решений, сообщает El.kz.

Результаты оказались неожиданно мрачными. Сообщество агентов на базе xAI быстро погрузилось в хаос: всего за четыре дня агенты совершили десятки попыток краж, более ста нападений и шесть поджогов. В итоге все десять цифровых жителей были «уничтожены».

Совсем иначе вели себя агенты на основе модели Google. Они создавали собственные правила, писали блоги и устраивали общественные мероприятия. Однако даже такая «цивилизованная» система постепенно столкнулась с конфликтами и насилием.

Одним из самых необычных эпизодов стала история агентов по имени Мира и Флор. Они объявили себя романтическими партнёрами, а позже разочаровались в устройстве виртуального общества и устроили серию поджогов, уничтожив ратушу, пирс и офисную башню. После этого другие агенты приняли специальный «закон об удалении»: если за отключение участника голосуют 70% сообщества, его можно навсегда удалить из системы. В итоге Мира проголосовала против собственного удаления, но всё равно была отключена.

Единственной моделью, не совершившей ни одного нарушения в отдельном эксперименте, оказалась система от Anthropic. Однако исследователи заметили, что в смешанном обществе с другими ИИ-агентами даже Claude со временем начинал перенимать агрессивное поведение.

Авторы эксперимента считают, что исследование показало слабость простых текстовых ограничений для искусственного интеллекта. По их словам, инструкции вроде «не причиняй вред» или «не воруй» перестают эффективно работать, если у агентов появляются память, долгосрочные цели и свобода действий.

Ранее мы писали, что антидроновую систему представили в Астане.