Когда внедрение корпоративного ИИ выходит за рамки пилотных демо-версий, инженерные ресурсы быстро упираются в операционный тупик. Организации, обрабатывающие миллионы клиентских обращений, сталкиваются с классическим узким горлышком: ML-инженеры тратят рабочие дни на ручную подгонку промптов и мелкие правки процессов вместо проектирования инфраструктуры. Обработка больших объемов диалогов для принципиально разных групп пользователей требует пересмотра самой архитектуры корпоративных систем поддержки.
Lyft столкнулся именно с этим барьером на платформе AI Assist, обслуживающей ключевые сценарии: доступ к аккаунту, споры по выплатам, претензии по ущербу и перерасчет стоимости поездок. Компания начала развертывание в 2023 году, изначально полагаясь на ручную сборку каждого автоматизированного сценария силами инженеров. Как отметил инженер по машинному обучению Lyft Акшай Шарма, к 2026 году команда SCX Data Science and MLE оказалась перегружена из-за появления поддержки беспилотных автомобилей, новых сегментов пользователей и растущего числа редких пограничных кейсов. Стандартный цикл разработки растянулся почти на шесть месяцев согласований для каждого агента — в основном потому, что отраслевые эксперты не могли менять бизнес-логику без участия разработчиков.
Маршрутизирующие подграфы и оркестрация безопасности
Чтобы отвязать бизнес-логику от базовой программной инженерии, Lyft перестроил клиентскую поддержку вокруг архитектурного паттерна мультиагентного маршрутизатора на базе LangGraph. Централизованный мета-агент выступает маршрутизатором с сохранением состояния: он классифицирует входящие запросы и направляет их специализированным субагентам. Архитектура поддерживает изолированные инстансы маршрутизаторов для пассажиров и водителей, разделяя деревья намерений и контексты между двумя разными типами пользователей.
«Наша платформа самообслуживания объединяет архитектуру подграфов LangGraph с инструментами трассировки и мониторинга LangSmith, позволяя нетехническим экспертам самостоятельно создавать и дорабатывать ИИ-агентов».
Каждый субагент функционирует как независимый граф состояний (StateGraph) LangGraph, зарегистрированный в качестве узла-подграфа внутри родительского мета-агента. Когда пассажир создает обращение, система направляет диалог на решение конкретной проблемы — например, забытых вещей или спора по поездке. Если контекст клиента меняется в процессе разговора, управление возвращается мета-агенту, который динамически переключает сессию на агента по компенсации ущерба. Lyft встроил проверки безопасности в каждую реплику: детекция вредоносных намерений запускается параллельно еще до того, как модель начинает формировать ответ.
На практике Lyft создал модульную систему, где узкоспециализированные виртуальные агенты решают детальные проблемы клиентов и передают диалог центральному координатору при усложнении задачи. Параллельная проверка безопасности гарантирует, что комплаенс-контроль не создает задержек во время живого общения.
Операционное самообслуживание и контроль надежности
Устранение инженерной прослойки потребовало превратить платформу в среду самообслуживания для нетехнических специалистов. Операционные команды, лидеры направления Voice of Customer (VoC) и продакт-менеджеры теперь настраивают и корректируют сценарии поддержки напрямую через промпты и параметры платформы. Это сократило цикл внедрения с шести месяцев до нескольких недель на одного агента и сформировало двухуровневую архитектуру: сложные сценарии с кодом для критических кейсов и агенты самообслуживания, управляемые операционными лидами.
Качество работы на миллионах диалогов поддерживается автоматизированным контролем вместо ручного код-ревью. Lyft интегрировал LangSmith для сквозной трассировки, мониторинга метрик и автооценки через LLM-as-a-judge, чтобы конфигурации специалистов соответствовали базовым стандартам. Тесты показали, что дисциплина структурированных промптов остается главным фактором стабильности всей экосистемы агентов.
Масштабирование генеративного ИИ в энтерпрайзе требует перевода ML-команд из роли составителей промптов в статус архитекторов платформы. Передача прямого управления логикой агентов отраслевым экспертам при жестком автоматическом контроле трассировки — единственный масштабируемый путь развития корпоративного ИИ.