ИИ всё хуже копирует поведение людей – в чем причина

Исследователи выяснили, что современные языковые модели постепенно теряют способность точно воспроизводить человеческое поведение после дополнительного обучения, которое превращает их в удобных чат-ботов. При этом именно такие модели всё чаще используют для проведения виртуальных экспериментов и прогнозирования реакции людей на различные ситуации. Подробнее – в материале El.kz.

Авторы работы отмечают, что сегодня искусственный интеллект нередко выступает в роли заменителя участников исследований. Его применяют для оценки возможной реакции общества на новые меры, в образовательных проектах и при подготовке специалистов в области психического здоровья.

Масштабная база данных для проверки

В основу исследования легла новая база данных Psych-201, которая объединяет материалы многочисленных поведенческих экспериментов. В неё вошли данные примерно о 208 тысячах участников, что делает проект одним из крупнейших в своей области.

Собранный массив содержит около 26 миллионов отдельных ответов, полученных в ходе исследований разной тематики. Это позволило учёным сравнить реальные человеческие реакции с ответами языковых моделей на одинаковые задания.

Полезнее как помощники, слабее как имитаторы

Результаты показали, что после этапов дополнительного обучения модели становятся более удобными для общения и выполнения пользовательских запросов. Однако одновременно снижается их способность воспроизводить особенности человеческого поведения в экспериментальных условиях.

По словам исследователей, этот эффект наблюдается у разных поколений языковых моделей. С каждой новой версией разрыв между поведением реальных людей и ответами искусственного интеллекта становится все более явным.

Польза для научных исследований

Полученные данные могут оказаться важными для научных проектов, которые используют искусственный интеллект в качестве виртуальных участников экспериментов. Если модель хуже отражает реальные человеческие реакции, результаты таких исследований могут отличаться от поведения людей в реальной жизни.

Авторы работы считают, что при использовании языковых моделей для изучения человеческого поведения необходимо учитывать влияние дополнительного обучения, которое делает системы более полезными помощниками, но одновременно меняет характер их ответов.

Также El.kz писал о том, как ИИ учится контролировать живые организмы.