Пока в научных кругах обсуждают полностью автономных ИИ-агентов, компании идут другим путём. В реальном бизнесе ИИ почти всегда работает по простым сценариям и под жёстким контролем людей, пишет El.kz со ссылкой на The Decoder.
Исследование Measuring Agents in Production, основанное на опросе более 300 практиков и интервью с командами, показало: в продакшене не используют «самостоятельных» ИИ. Большинство корпоративных агентов выполняют всего несколько шагов и затем передают управление человеку. Почти 70% таких систем делают меньше десяти действий, а почти половина – меньше пяти.
Компании сознательно избегают идеи «ИИ как сотрудник». Вместо этого они используют языковые модели с ручными подсказками, чёткими ограничениями и проверкой результатов. Дообучение моделей и сложные методы вроде reinforcement learning почти не применяются – основной упор делается на ручную настройку запросов.
Главная цель внедрения ИИ – экономия времени и рост продуктивности, а не скорость и не снижение рисков. Большинство задач раньше занимали у людей часы или дни, поэтому ожидание ответа от ИИ в течение нескольких минут считается нормой. Мгновенные ответы нужны лишь в чатах и голосовых сервисах.
Почти все такие системы работают для людей, а не для других ИИ. Чаще всего они используются внутри компаний, чтобы снизить число ошибок и оставить финальные решения за сотрудниками.
Интересно, что хотя многие экспериментируют с популярными фреймворками для ИИ-агентов, реальные рабочие системы чаще пишут «с нуля». Разработчики считают, что так проще контролировать поведение ИИ и устранять ошибки.
Главная проблема, с которой сталкиваются команды – надёжность. ИИ остаётся непредсказуемым, поэтому автоматические оценки почти всегда дополняются ручной проверкой. Универсальные бенчмарки почти не применяются – компании ориентируются на обратную связь пользователей.
Вывод исследования простой: бизнесу нужен не умный и самостоятельный ИИ, а управляемый инструмент. И если научные разработки будут игнорировать эту реальность, они рискуют остаться оторванными от практики.
El.kz также сообщал о том, что искусственный интеллект становится основой интернета.