Когда использовать приложения для понимания разговорного языка или приложения для оркестрации рабочих процессов

2025-06-30

При создании больших приложений следует учитывать, лучше ли ваш сценарий использования будет обслуживаться одиночным диалоговым приложением с плоской архитектурой или несколькими приложениями, управляемыми вместе.

Общие сведения о оркестрации

Рабочий процесс оркестрации — это функция, которая позволяет подключать различные проекты LUIS, понимания разговорного языка и пользовательских ответов на вопросы в рамках одного проекта. Затем этот проект можно использовать для прогнозирования с помощью одной конечной точки. Проект оркестрации делает прогноз, какой дочерний проект должен быть вызван, автоматически направляет запрос и возвращает его ответ.

Оркестрация состоит из двух этапов:

Предсказание, какой дочерний проект выбрать для вызова.
Маршрутизация речевых фрагментов в целевое дочернее приложение и возврат ответа дочернего приложения.

Преимущества оркестрации

Чёткая декомпозиция и более быстрое развитие.
- Если общая схема имеет значительное количество доменов, подход оркестрации может помочь разложить приложение на несколько дочерних приложений (каждый обслуживающий определенный домен). Например, в автомобильном приложении может быть домен навигации или домен мультимедиа.
- Параллельная разработка каждого доменного приложения упрощает задачу. Люди и команды с определенным опытом в области домена могут работать над отдельными приложениями совместно и параллельно.
- Так как каждое доменное приложение меньше, цикл разработки становится быстрее. Приложения домена меньшего размера занимают гораздо меньше времени для обучения, чем одно большое приложение.
Более гибкие пороговые значения оценки достоверности:
- Так как отдельные дочерние приложения служат каждому домену, легко задать отдельные пороговые значения для разных дочерних приложений.
Улучшения качества ИИ при необходимости:
- Для некоторых приложений требуется, чтобы определенные сущности были ограничены доменом. Оркестрация упрощает выполнение этой задачи. После того как проект оркестрации прогнозирует, какое дочернее приложение должно вызываться, другие дочерние приложения не вызываются.
  
  Например, если ваше приложение содержит предварительно созданную Person.Name сущность, рассмотрите фразу "Как использовать домкрат?" в контексте вопроса о транспортном средстве. В этом контексте джек является автомобильным инструментом и не следует воспринимать его как имя человека. При использовании оркестрации этот речевой фрагмент можно перенаправить в дочернее приложение, созданное для ответа на такой вопрос, который не имеет Person.Name сущности.

Недостатки оркестрации

Избыточные сущности в дочерних приложениях:
- Если требуется, чтобы определенная предварительно созданная сущность возвращалась во всех речевых фрагментах независимо от домена, например Quantity.Number или Geography.Location, невозможно добавить сущность в приложение оркестрации, так как оно предназначено только для распознавания намерений. Вам потребуется добавить его во все отдельные дочерние приложения.
Эффективность:
- Приложения оркестрации обрабатывают два вывода модели. Один для предсказания, какое дочернее приложение нужно вызвать, и другой для прогноза в дочернем приложении. Время выполнения выводов обычно более медленное, чем у одного приложения, обладающего плоской архитектурой.
Разделение обучения и тестирования для оркестратора:
- Обучение приложения оркестрации не позволяет детально разделять данные между тестовыми и тренировочными наборами. Например, нельзя обучить разделение 90-10 для дочернего приложения A, а затем обучить разделение 80-20 для дочернего приложения B. Это ограничение может быть незначительным, но стоит помнить.

Общие сведения о плоской архитектуре

Плоская архитектура — это другой метод разработки диалоговых приложений. Вместо использования приложения оркестрации для отправки речевых фрагментов в одно из нескольких дочерних приложений вы разрабатываете единственное (или плоское) приложение для обработки речевых фрагментов.

Преимущества плоской архитектуры

Простота.
- Для небольших приложений или доменов подход оркестратора может быть чрезмерно сложным.
- Так как все намерения и сущности находятся на одном уровне приложений, может быть проще внести изменения в все их вместе.
Проще добавлять сущности, которые всегда должны возвращаться:
- Если вы хотите, чтобы некоторые предварительно созданные или перечисляемые сущности возвращались для всех речевых фрагментов, их нужно добавить вместе с другими сущностями в одном приложении. Если вы используете оркестрацию, как упоминалось, необходимо добавить её в каждое дочернее приложение.

Недостатки плоской архитектуры

Неудобно для больших приложений:
- Для больших приложений (например, более 50 намерений или сущностей) может стать трудно отслеживать изменяющиеся схемы и наборы данных. Эта трудность очевидна в случаях, когда приложение должно обслуживать несколько доменов. Например, в автомобильном приложении может быть домен навигации или домен мультимедиа.
Ограниченный контроль за сопоставлением сущностей.
- В плоской архитектуре невозможно ограничить возвращаемые сущности только в определенных случаях. При использовании оркестрации можно назначить определенные сущности определенным дочерним приложениям.

Поделиться через