Специалисты Alibaba Cloud разработали и внедрили инновационную систему DualLane, предназначенную для автоматизации службы технической поддержки с минимальными затратами вычислительных ресурсов. Это решение стало ответом на две ключевые проблемы: ошибки полноценных ИИ-агентов при выборе инструментов и обработке параметров, а также высокую стоимость работы живых сотрудников.
Как работает DualLane
Новая система разделяет поступающие запросы на два сценария. Стандартные и известные проблемы решаются быстро по готовым шаблонам, без задействования тяжелых больших языковых моделей. Это позволяет существенно экономить вычислительные ресурсы и снижать задержки.
Нестандартные кейсы обрабатываются по «медленному» сценарию, где задействуются более мощные ИИ-модели. Если система выявляет массовый характер новой проблемы, она формирует кластер для перевода в категорию быстрых решений, но под контролем человека. Такой подход обеспечивает баланс между скоростью и точностью.
Результаты тестирования
Тестирование показало, что DualLane превосходит аналоги вроде LLMCompiler и React, обеспечивая точность на уровне 96.5% при минимальных задержках и расходе токенов. Это делает систему привлекательной для компаний, стремящихся оптимизировать работу служб поддержки без потери качества.
