ИИ «переоценивает» людей: ChatGPT слишком рационален и поэтому проигрывает

Учёные из НИУ ВШЭ выяснили, что современные модели искусственного интеллекта, включая ChatGPT и Claude, ошибаются в стратегических играх из-за слишком высокого мнения о человеческой логике. ИИ предполагает, что люди думают более рационально, чем это происходит на самом деле, и из-за этого часто выбирает проигрышную стратегию, пишет El.kz.

Исследование опубликовано в журнале Journal of Economic Behavior & Organization.

В основе эксперимента – так называемый «конкурс красоты» Джона Мейнарда Кейнса. Его суть не в том, чтобы выбрать лучший вариант по собственному вкусу, а в том, чтобы угадать, как будут думать другие. Побеждает тот, кто точнее всего предсказывает коллективное мнение.

Исследователи предложили нескольким популярным ИИ-моделям сыграть в игру «Угадай число» – одну из версий этого конкурса. Участники выбирают число от 0 до 100, а выигрывает тот, чьё значение ближе всего к половине или двум третям среднего результата.

Моделям заранее описывали, с кем они играют: с первокурсниками, опытными учёными, участниками научных конференций или людьми с разным типом мышления и эмоциональным состоянием. После этого ИИ должен был выбрать число и объяснить свой ход.

Результаты показали, что ИИ действительно подстраивается под соперников. Против профессионалов он выбирает низкие значения, ожидая сложных стратегий, а против студентов – более высокие. Однако в целом модели играют «слишком умно»: они переоценивают способность людей к многоуровневому мышлению и поэтому часто проигрывают.

Учёные отмечают, что ИИ уже умеет имитировать стратегическое поведение, но пока плохо улавливает реальные пределы человеческой рациональности. Это важно не только для игр, но и для экономики и бизнеса, где искусственный интеллект всё чаще принимает решения вместо людей. В таких задачах слишком логичный ИИ может оказаться не преимуществом, а проблемой.

El.kz также писал о том, что в ChatGPT появилась настройка уровня «дружелюбия».