Язык

SemanticRoutingChatClient Класс

Определение

Маршрутизирует запросы по семантическому подобию предоставленных приложением примеров речевых фрагментов.

public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
    inherit RoutingChatClient
type SemanticRoutingChatClient = class
    inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
Наследование
SemanticRoutingChatClient
Атрибуты

Комментарии

Внедрения профилей создаются лениво и кэшируются. Каждый запрос внедряет последнее сообщение пользователя и выбирает клиент с самой высокой оценкой после агрегирования сходства косинуса наиболее подходящих речевых фрагментов профиля. Настроенный клиент по умолчанию выбирается, если пользователь недоступен или когда самая высокая оценка ниже заданного порогового значения.

Настроенные экземпляры клиента используются в качестве стабильных удостоверений маршрутизации и различаются по ссылке. Параметры каждого вызова не участвуют в этом удостоверении. По умолчанию этот экземпляр владеет клиентами и генератором внедрения и удаляет их при удалении.

Пример метода маршрутизации речевых фрагментов вдохновлен проектом семантического маршрутизатора Aurelio Labs.

Конструкторы

Имя Описание
SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean)

Инициализирует новый экземпляр класса SemanticRoutingChatClient.

Методы

Имя Описание
Dispose()

Выполняет определяемые приложением задачи, связанные с освобождением, освобождением или сбросом неуправляемых ресурсов.

(Унаследовано от RoutingChatClient)
Dispose(Boolean)

Предоставляет механизм освобождения ресурсов, принадлежащих производной экземпляру.

(Унаследовано от RoutingChatClient)
GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Отправляет сообщения чата и возвращает ответ.

(Унаследовано от RoutingChatClient)
GetService(Type, Object)

Запрашивает IChatClient объект указанного типа serviceType.

(Унаследовано от RoutingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Отправляет сообщения чата и передает ответ.

(Унаследовано от RoutingChatClient)
SelectClientAsync(RoutingContext, CancellationToken)

Выбирает клиент для вызова запроса.

(Унаследовано от RoutingChatClient)

Методы расширения

Имя Описание
AsBuilder(IChatClient)

Создает новое ChatClientBuilder использование innerClient в качестве внутреннего клиента.

GetRequiredService(IChatClient, Type, Object)

Запрашивает IChatClient объект указанного типа serviceType и создает исключение, если он недоступен.

GetRequiredService<TService>(IChatClient, Object)

Запрашивает IChatClient объект типа TService и создает исключение, если он недоступен.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Отправляет сообщение чата и возвращает ответные сообщения.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Отправляет текстовое сообщение чата пользователя и возвращает ответные сообщения.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщение чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщение чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщения чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет сообщения чата, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет текстовое сообщение чата пользователя, запрашивая ответ, соответствующий типу T.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Отправляет текстовое сообщение чата пользователя, запрашивая ответ, соответствующий типу T.

GetService<TService>(IChatClient, Object)

Запрашивает IChatClient объект типа TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Отправляет сообщение чата и передает ответные сообщения.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Отправляет текстовое сообщение чата пользователя и передает ответные сообщения.

Применяется к