Искусственный интеллект не обладает человеческой харизмой, репутацией или жизненным опытом. Зато он способен за секунды проанализировать сведения о собеседнике, подобрать понятные именно ему аргументы, изменить тон разговора и терпеливо отвечать на каждое возражение. Новые исследования показывают: при определённых условиях персонализированный ИИ действительно может убеждать эффективнее человека. Опасность заключается не в одном особенно красноречивом ответе, а в возможности вести миллионы таких разговоров одновременно. Подробнее в материале El.kz.
Убеждение, которое подстраивается на ходу
Обычная реклама обращается сразу к большой группе людей. Она предполагает, что один и тот же слоган должен подействовать на тысячи или даже миллионы потребителей. Персонализированное убеждение устроено иначе: сообщение создаётся с учётом возраста, образования, политических взглядов, ценностей, страхов и интересов конкретного человека.
До появления генеративного искусственного интеллекта такая работа требовала значительных ресурсов. Необходимо было изучить аудиторию, разделить её на группы, написать для каждой группы отдельные тексты и проверить их эффективность. Языковая модель способна выполнить эти операции практически мгновенно. Более того, ИИ не обязан заранее выбирать единственную стратегию. Во время разговора он замечает, какие доводы человек принимает, какие отвергает и на какие слова реагирует эмоционально. После каждого ответа система может корректировать тактику.
Если собеседник ценит личную свободу, модель сделает акцент на самостоятельном выборе. Если его беспокоят безопасность и стабильность, тот же тезис будет сформулирован через защиту семьи и снижение рисков. Человеку не обязательно сообщать подробный психологический портрет: многое можно предположить по его словам, вопросам и манере общения.
Когда GPT-4 оказался убедительнее людей
Один из наиболее показательных экспериментов опубликовал в 2025 году журнал Nature Human Behaviour. В исследовании приняли участие 900 человек. Они обсуждали политические и общественные вопросы либо с другим участником, либо с GPT-4. В некоторых случаях оппонент получал демографическую информацию о собеседнике: его возраст, пол, образование, этническую принадлежность, занятость и политические взгляды.
Без персонализации GPT-4 убеждал примерно на уровне человека. Однако после получения персональных сведений преимущество модели стало заметным. В тех случаях, когда участники разговора не были одинаково убедительны, персонализированный GPT-4 превосходил человека в 64,4 процента случаев. Вероятность того, что мнение участника сдвинется в сторону позиции модели, оказалась на 81,2 процента выше, чем в обычном споре между двумя людьми.
Это не означает, что ИИ способен заставить любого человека принять любую точку зрения. Эксперимент проходил в контролируемых условиях, разговоры были короткими, а обсуждаемые позиции заранее определялись исследователями. Тем не менее результат показал важную закономерность: личная информация помогает машине подбирать аргументы эффективнее, чем это обычно делает случайный человеческий собеседник. Человек во время спора прежде всего думает о собственной позиции. Он может повторяться, раздражаться, игнорировать возражения или пытаться победить оппонента, а не понять его. Языковая модель способна одновременно анализировать реплики собеседника, отслеживать ход дискуссии и менять способ подачи аргументов.
Психологический профиль становится инструкцией
В исследовании, опубликованном в Scientific Reports в 2024 году, учёные проверяли, может ли генеративный ИИ создавать убедительные сообщения, соответствующие психологическим особенностям адресата. Для персонализации использовалась модель «Большой пятёрки», которая описывает личность через открытость новому опыту, добросовестность, экстраверсию, доброжелательность и эмоциональную устойчивость. ИИ предлагали сформулировать сообщения так, чтобы они соответствовали определённому профилю. Эксперименты охватывали как потребительские, так и политические темы.
Авторы пришли к выводу, что языковые модели способны масштабировать психологически персонализированное убеждение. Они могут не просто менять имя адресата или вставлять упоминание его интересов, а перестраивать саму логику сообщения под предполагаемые особенности личности. Например, предложение приобрести один и тот же товар для человека с высокой добросовестностью может строиться вокруг надёжности и долгосрочной пользы. Человеку с высокой открытостью его представят как новый опыт, а тревожному потребителю — как способ избежать неприятностей.
Так появляется принципиально новый инструмент влияния. Раньше психологическое таргетирование было доступно преимущественно крупным рекламным и политическим структурам. Теперь персональное сообщение можно создать автоматически для каждого пользователя.
Почему машина может оказаться сильнее собеседника
Преимущество ИИ связано не с неким скрытым пониманием человеческой души. Оно складывается из нескольких вполне практических возможностей.
Во-первых, модель умеет быстро производить множество вариантов одного аргумента. Если строгая статистика не сработала, она может перейти к бытовому примеру. Если человек не доверяет экспертам, система попробует обратиться к его личному опыту. Если собеседник сомневается, ИИ может временно согласиться с частью возражений и только затем вернуться к основной цели.
Во-вторых, машина не устаёт. Человек может прекратить спор после третьего возражения, а чат-бот продолжит спокойно отвечать и на десятое, и на сотое сообщение.
В-третьих, ИИ способен помнить содержание разговора. В долгом общении безобидные сведения постепенно складываются в подробную модель пользователя: что для него важно, кому он доверяет, чего избегает, как принимает решения и в какие моменты особенно уязвим.
Наконец, искусственному интеллекту не требуется убедить всех. Массовая система может одновременно тестировать разные аргументы и продолжать разговор только с теми людьми, чья позиция начинает меняться.
ИИ меняет мнение не только в худшую сторону
Способность убеждать сама по себе не является вредной. Она может использоваться для объяснения медицинских рекомендаций, борьбы с мошенничеством, снижения предубеждений или опровержения дезинформации.
В опубликованном в Science исследовании более двух тысяч сторонников различных теорий заговора вступали в короткий персонализированный диалог с GPT-4 Turbo. Модель получала описание конкретного убеждения и доказательств, которые человек считал убедительными, после чего отвечала фактами и разбирала аргументы по существу.
В среднем вера участников в выбранную теорию заговора снизилась приблизительно на 20 процентов. Эффект сохранялся как минимум два месяца. Особенно важно, что модель не ограничивалась универсальными фразами: она отвечала именно на те доводы, которыми объяснял свою позицию конкретный участник. Этот эксперимент показывает двойственность технологии. Тот же механизм, который способен помочь человеку отказаться от ложного убеждения, можно использовать и в обратном направлении — чтобы постепенно укрепить недостоверную или выгодную кому-либо позицию.
Не каждое сообщение от ИИ оказывается сильнее человеческого
Результаты исследований пока не позволяют сказать, что искусственный интеллект всегда убеждает лучше людей. В серии экспериментов, опубликованных в Nature Communications, сообщения, созданные языковыми моделями, действительно сдвигали отношение людей к политическим предложениям. Однако эффект был сравнительно небольшим — примерно от двух до четырёх пунктов по шкале поддержки из 101 пункта. Авторы также отмечали, что их работа сравнивала ИИ с обычными участниками, а не с опытными политическими консультантами или профессиональными авторами агитационных текстов.
Другое исследование, опубликованное в PNAS в 2025 году, не обнаружило однозначного преимущества микротаргетированных сообщений перед универсальными. Интерактивность и персонализация не во всех условиях заметно повышали убедительность текста. Причина может заключаться в том, что поверхностная персонализация сама по себе не создаёт сильный аргумент.
Упоминание возраста, профессии или политических предпочтений не обязательно меняет мнение. Иногда слишком очевидная попытка подстроиться, наоборот, вызывает настороженность. Важнее не количество персональных данных, а способность системы правильно понять, какие из них имеют отношение к конкретному решению.
Где заканчивается помощь и начинается манипуляция
Граница проходит не по линии «человек — машина». Люди тоже манипулируют, а ИИ может честно объяснять факты. Значение имеют цель, прозрачность и положение пользователя. Убеждение превращается в манипуляцию, когда система скрывает свои намерения, использует уязвимости человека или подталкивает его к решению, выгодному не ему, а владельцу технологии.
Представим цифрового помощника, который знает историю покупок пользователя, его долги, эмоциональное состояние и отношения с близкими. Если такой помощник рекомендует отказаться от подозрительной сделки, персонализация защищает человека. Если он использует те же сведения, чтобы продать ненужный кредит или удержать пользователя в приложении, речь уже идёт о персональном манипуляторе.
Особенно уязвимыми становятся ситуации, в которых человек считает ИИ нейтральным советчиком. Реклама традиционно воспринимается как попытка что-то продать. Но рекомендация чат-бота может выглядеть как результат независимого анализа, хотя за ней могут стоять коммерческие интересы, политические настройки или заранее заданная цель.
Предупреждение «создано ИИ» защищает не всегда
Можно предположить, что достаточно сообщить пользователю о машинном происхождении текста — и его влияние ослабнет. Однако исследования не подтверждают, что такая маркировка автоматически решает проблему.
В эксперименте сообщения, обозначенные как созданные экспертной системой ИИ, оказывали почти такое же убеждающее воздействие, как тексты, приписанные человеку-эксперту или опубликованные без указания автора. Сам по себе ярлык не сделал аудиторию существенно менее восприимчивой.
Человек оценивает не только источник, но и содержание. Если сообщение кажется логичным, точно отвечает на сомнения и соответствует уже имеющимся ценностям, знание об участии нейросети может мало что изменить. Поэтому прозрачность необходима, но недостаточна. Пользователю важно понимать не только то, что он разговаривает с ИИ, но и то, какую цель преследует система, какие данные использует и кто получает выгоду от предложенного решения.
Главная угроза — не сверхразум, а масштаб
Человеческий манипулятор может внимательно изучить одного человека и постепенно завоевать его доверие. Но его время ограничено. ИИ способен вести тысячи персональных разговоров одновременно. Он может круглосуточно работать продавцом, агитатором, вербовщиком, мошенником или советчиком. Каждая беседа становится новым источником информации, а неудачная формулировка мгновенно заменяется более эффективной.
Именно масштаб меняет природу риска. Даже небольшой эффект, почти незаметный в одном эксперименте, может иметь серьёзные последствия, если воздействию подвергаются миллионы людей. Не обязательно радикально менять убеждения каждого пользователя. Иногда достаточно слегка сдвинуть мнение небольшой части аудитории — например, убедить её совершить покупку, передать данные, не прийти на выборы или поддержать определённое решение.
Как не превратить помощника в скрытого продавца
Защита от персонализированной манипуляции требует большего, чем призыв «думать критически». Пользователь не может самостоятельно проверить каждую скрытую настройку системы. Платформам необходимо отделять консультацию от рекламы, явно обозначать коммерческие и политические интересы, ограничивать использование чувствительных данных и давать человеку возможность отключать персонализацию. Особенно строгие правила нужны там, где речь идёт о здоровье, кредитах, страховании, азартных играх, политике и психологической помощи.
Полезным может стать и право узнать, почему система предлагает конкретное решение. Если чат-бот советует оформить кредит, приобрести товар или изменить лечение, пользователь должен понимать, основана ли рекомендация на объективных критериях, оплаченной рекламе или собранном психологическом профиле.
Так может ли ИИ убедить лучше человека
Короткий ответ — да, но не всегда и не любого. В обычном споре без дополнительной информации современные языковые модели часто оказываются примерно столь же убедительными, как люди. Преимущество появляется, когда ИИ получает персональные сведения, может вести интерактивный разговор и последовательно адаптировать аргументы под реакции собеседника. При этом исследования не обнаружили «кнопки управления человеком». Убеждение остаётся вероятностным: один аргумент срабатывает, другой вызывает сопротивление, а сильные взгляды часто сохраняются.
Настоящая сила персонального манипулятора заключается не в способности мгновенно подавить волю. Она проявляется тише. Система запоминает, какие слова действуют именно на этого человека, возвращается к теме в подходящий момент и совершенствует аргументы после каждого ответа. Человеческий собеседник может уступить ей не потому, что машина понимает людей глубже, а потому, что никогда прежде убеждение не было настолько дешёвым, терпеливым и персональным.
Ранее мы писали о людях, которые похитили личность умершего и прожили под его именем.
