Бизнесу не нужны «ИИ-сотрудники»: компании выбирают простой ИИ под контролем человека

Пока в научных кругах обсуждают полностью автономных ИИ-агентов, компании идут другим путём. В реальном бизнесе ИИ почти всегда работает по простым сценариям и под жёстким контролем людей, пишет El.kz со ссылкой на The Decoder.

Исследование Measuring Agents in Production, основанное на опросе более 300 практиков и интервью с командами, показало: в продакшене не используют «самостоятельных» ИИ. Большинство корпоративных агентов выполняют всего несколько шагов и затем передают управление человеку. Почти 70% таких систем делают меньше десяти действий, а почти половина – меньше пяти.

Компании сознательно избегают идеи «ИИ как сотрудник». Вместо этого они используют языковые модели с ручными подсказками, чёткими ограничениями и проверкой результатов. Дообучение моделей и сложные методы вроде reinforcement learning почти не применяются – основной упор делается на ручную настройку запросов.

Главная цель внедрения ИИ – экономия времени и рост продуктивности, а не скорость и не снижение рисков. Большинство задач раньше занимали у людей часы или дни, поэтому ожидание ответа от ИИ в течение нескольких минут считается нормой. Мгновенные ответы нужны лишь в чатах и голосовых сервисах.

Почти все такие системы работают для людей, а не для других ИИ. Чаще всего они используются внутри компаний, чтобы снизить число ошибок и оставить финальные решения за сотрудниками.

Интересно, что хотя многие экспериментируют с популярными фреймворками для ИИ-агентов, реальные рабочие системы чаще пишут «с нуля». Разработчики считают, что так проще контролировать поведение ИИ и устранять ошибки.

Главная проблема, с которой сталкиваются команды – надёжность. ИИ остаётся непредсказуемым, поэтому автоматические оценки почти всегда дополняются ручной проверкой. Универсальные бенчмарки почти не применяются – компании ориентируются на обратную связь пользователей.

Вывод исследования простой: бизнесу нужен не умный и самостоятельный ИИ, а управляемый инструмент. И если научные разработки будут игнорировать эту реальность, они рискуют остаться оторванными от практики.

El.kz также сообщал о том, что искусственный интеллект становится основой интернета.