SemanticRoutingChatClient Класс
Определение
Важно!
Некоторые сведения относятся к предварительной версии продукта, в которую до выпуска могут быть внесены существенные изменения. Майкрософт не предоставляет никаких гарантий, явных или подразумеваемых, относительно приведенных здесь сведений.
Маршрутизирует запросы по семантическому подобию предоставленных приложением примеров речевых фрагментов.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClient
type SemanticRoutingChatClient = class
inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
- Наследование
- Атрибуты
Комментарии
Внедрения профилей создаются лениво и кэшируются. Каждый запрос внедряет последнее сообщение пользователя и выбирает клиент с самой высокой оценкой после агрегирования сходства косинуса наиболее подходящих речевых фрагментов профиля. Настроенный клиент по умолчанию выбирается, если пользователь недоступен или когда самая высокая оценка ниже заданного порогового значения.
Настроенные экземпляры клиента используются в качестве стабильных удостоверений маршрутизации и различаются по ссылке. Параметры каждого вызова не участвуют в этом удостоверении. По умолчанию этот экземпляр владеет клиентами и генератором внедрения и удаляет их при удалении.
Пример метода маршрутизации речевых фрагментов вдохновлен проектом семантического маршрутизатора Aurelio Labs.
Конструкторы
Методы
| Имя | Описание |
|---|---|
| Dispose() |
Выполняет определяемые приложением задачи, связанные с освобождением, освобождением или сбросом неуправляемых ресурсов. (Унаследовано от RoutingChatClient) |
| Dispose(Boolean) |
Предоставляет механизм освобождения ресурсов, принадлежащих производной экземпляру. (Унаследовано от RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Отправляет сообщения чата и возвращает ответ. (Унаследовано от RoutingChatClient) |
| GetService(Type, Object) |
Запрашивает IChatClient объект указанного типа |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Отправляет сообщения чата и передает ответ. (Унаследовано от RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Выбирает клиент для вызова запроса. (Унаследовано от RoutingChatClient) |