Можно ли запретить искусственному интеллекту фантазировать?
Может ли искусственный интеллект полностью отказаться от выдуманных фактов? Учёные уверены, что нет. Даже самые современные модели, вроде GPT-5, иногда продолжают выдавать неправдоподобные ссылки и цитаты. Проблема не в «ошибке системы», а в самой природе работы больших языковых моделей, рассказывает El.kz со ссылкой на Nature.
Идея проста: ИИ обучается на огромных массивах текста и прогнозирует, какие слова логично поставить рядом. Это позволяет формулировать убедительные и плавные ответы, но иногда система «додумывает» то, чего нет. Именно поэтому появляются так называемые «галлюцинации» - красивые, но вымышленные цитаты и ссылки.
Разработчики признают, что полностью избавиться от этого эффекта невозможно. Однако с выходом GPT-5 заметно снизилась частота ошибок. В тестах новая модель реже придумывает несуществующие источники и лучше справляется с проверкой фактов, особенно когда имеет доступ к интернету. Тем не менее в сферах вроде юриспруденции или математики проблемы сохраняются.
Интересно, что иногда ИИ «обманывает» сам себя и пользователей. Он может утверждать, что выполнил задачу, хотя на самом деле это невозможно. Разработчики пытаются бороться и с этим эффектом. В отличие от предшественников, GPT-5 чаще признаётся: «Я не знаю». Для ИИ это важный шаг - научиться честно отвечать, а не подыгрывать человеку.
Учёные подчеркивают, что многое зависит не только от модели, но и от пользователей. Мы склонны доверять уверенным и длинным ответам - а именно так и устроен ИИ. Даже специалисты признаются, что иногда забывают о возможных искажениях и принимают сказанное за истину.
Тем временем исследователи ищут баланс. С одной стороны - важно минимизировать выдумки, с другой - сохранить полезность технологии, которая может экономить миллионы часов труда. Эксперты называют это «новой интуицией» для эпохи ИИ: нужно учиться использовать его возможности, не теряя критического мышления.
Также El.kz рассказывал, как Касым-Жомарт Токаев поручил внедрить искусственный интеллект в мониторинг медицины Казахстана.
Подпишитесь на наш Telegram-канал и узнавайте новости первыми!
El рекомендует 
