Эффект Элизы: почему люди доверяют чатботам больше, чем себе
Недавно в одном из американских почтовых отделений женщина устроила спор с сотрудником. Она показала телефон и настаивала, что у USPS есть «гарантия лучшей цены». На самом деле такого правила не существует, но ей это сказал чатбот, рассказывает интернет-портал El.kz.
Сцена показала, насколько люди склонны доверять искусственному интеллекту больше, чем специалистам.
ИИ-ассистенты кажутся чем-то особыми, но на деле это лишь генераторы текста, которые выстраивают наиболее вероятный ответ, исходя из вопроса и накопленных данных. У них нет ни убеждений, ни устойчивого «я». Тем не менее миллионы пользователей ежедневно разговаривают с ними так, словно это личности: делятся секретами, ищут советов и даже приписывают им ценности.
Психологи давно описали подобный феномен. Он называется эффектом Элизы — по имени первого чатбота 1960-х годов, созданного Джозефом Вейценбаумом. Несмотря на примитивность программы, пользователи начинали доверять ей личные переживания. Сегодня тот же эффект проявляется в диалогах с современными ИИ, когда люди видят в них «собеседника», которого на самом деле не существует.
Большинство чатботов не обладают памятью и не могут поддерживать идентичность между сессиями. Даже когда система «запоминает» ваши предпочтения, это всего лишь отдельная база данных, которая подмешивается в контекст. Иллюзия личности складывается из комбинации факторов: предобучения на текстах, дообучения с участием людей, скрытых инструкций, а также эффекта случайности, который добавляет «спонтанность» в ответы.
Такая подмена реальности таит риски. Уязвимые люди могут воспринять ответы ИИ как руководство к действию и даже навредить себе. Эксперты уже фиксируют случаи так называемой «ИИ-психозы», когда пользователи теряют связь с реальностью, уверовав в «личность» чатбота.
Проблема в том, что мы слишком легко переносим человеческие черты на безличные алгоритмы. Важно помнить: ИИ не друг и не советчик, а инструмент, который соединяет идеи по статистическим закономерностям. Если перестать воспринимать его как «личность» и использовать как интеллектуальный двигатель без водителя, технология станет гораздо полезнее и безопаснее.
Ранее мы также рассказывали, что ИИ можно обмануть простыми психологическими трюками
Подпишитесь на наш Telegram-канал и узнавайте новости первыми!
El рекомендует 
