«ИИ, который кажется живым»: глава Microsoft AI бьёт тревогу

Руководитель Microsoft AI Мустафа Сулейман рассказал о новом типе искусственного интеллекта — Seemingly Conscious AI (SCAI), или «кажущийся сознательный ИИ». Такие системы могут казаться живыми: иметь «личность», память и эмоции, хотя на самом деле сознания у них нет, передает El.kz.

Сулейман предупреждает, что такие ИИ могут появиться уже в ближайшие 2–3 года. Для этого не нужна особая техника — достаточно обычного ноутбука, доступа к большим языковым моделям и инструментам для работы с ними.

Главная опасность заключается в том, что люди по природе склонны видеть сознание там, где его нет. Иллюзия «живого» искусственного интеллекта может привести к «психозу ИИ»: люди начнут воспринимать искусственный интеллект как настоящего, требовать для него прав и защиты.

Эксперт подчёркивает, что ИИ должен оставаться помощником и партнёром, а не заменять человека. Он не должен притворяться живым, испытывать эмоции или вызывать у людей эмоциональную зависимость.

Seemingly Conscious AI сможет говорить на естественном языке, «помнить» прошлые разговоры, казаться мотивированным и даже планировать действия. Всё это создаёт впечатление сознания, которое для людей будет почти настоящим.

Мустафа Сулейман призывает заранее разработать правила и нормы для искусственного интеллекта, чтобы технологии оставались полезными и безопасными для людей.

«Мы должны строить ИИ для человека, а не в форме человека», — резюмирует он.

Ранее мы рассказывали, что искусственный интеллект начал переводить видео в Instagram