SemanticRoutingChatClient Klas

Definitie

Hiermee worden aanvragen gerouteerd op een semantische gelijkenis met voorbeelduitingen van apps.

public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
    inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
Overname
SemanticRoutingChatClient
Kenmerken

Opmerkingen

Profiel-insluitingen worden lui gegenereerd en in de cache opgeslagen. Elke aanvraag sluit het laatste gebruikersbericht in en selecteert de client met de hoogste score na het samenvoegen van de cosinus-overeenkomsten van de best overeenkomende profieluitingen. De geconfigureerde standaardclient wordt geselecteerd wanneer er geen gebruikersbericht beschikbaar is of wanneer de hoogste score onder de geconfigureerde drempelwaarde ligt.

De geconfigureerde clientexemplaren worden gebruikt als stabiele routeringsidentiteiten en worden onderscheiden door verwijzing. Opties per oproep nemen niet deel aan die identiteit. Deze instantie is standaard eigenaar van de clients en het insluiten van generatoren en verwijdert deze wanneer deze wordt verwijderd.

De voorbeeld-uitingsrouteringsbenadering is geïnspireerd op het semantische routerproject van Azure Labs.

Constructors

Name Description
SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean)

Initialiseert een nieuw exemplaar van de SemanticRoutingChatClient klasse.

Methoden

Name Description
Dispose()

Voert door de toepassing gedefinieerde taken uit die zijn gekoppeld aan het vrijmaken, vrijgeven of opnieuw instellen van onbeheerde resources.

(Overgenomen van RoutingChatClient)
Dispose(Boolean)

Biedt een mechanisme voor het vrijgeven van resources die eigendom zijn van het afgeleide exemplaar.

(Overgenomen van RoutingChatClient)
GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Verzendt chatberichten en retourneert het antwoord.

(Overgenomen van RoutingChatClient)
GetService(Type, Object)

Vraagt om een IChatClient object van het opgegeven type serviceType.

(Overgenomen van RoutingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Hiermee worden chatberichten verzonden en het antwoord gestreamd.

(Overgenomen van RoutingChatClient)
SelectClientAsync(RoutingContext, CancellationToken)

Hiermee selecteert u de client die u wilt aanroepen voor de aanvraag.

(Overgenomen van RoutingChatClient)

Extensiemethoden

Name Description
AsBuilder(IChatClient)

Hiermee maakt u een nieuw ChatClientBuilder gebruik innerClient als de interne client.

GetRequiredService(IChatClient, Type, Object)

Vraagt om IChatClient een object van het opgegeven type serviceType en genereert een uitzondering als deze niet beschikbaar is.

GetRequiredService<TService>(IChatClient, Object)

Vraagt om IChatClient een object van het type TService en genereert een uitzondering als deze niet beschikbaar is.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Hiermee wordt een chatbericht verzonden en worden de antwoordberichten geretourneerd.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Hiermee wordt een sms-bericht van een gebruiker verzonden en worden de antwoordberichten geretourneerd.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt chatberichten, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt chatberichten, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht van een gebruiker, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht van een gebruiker, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetService<TService>(IChatClient, Object)

Vraagt om een IChatClient object van het type TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Verzendt een chatbericht en streamt de antwoordberichten.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Hiermee wordt een sms-bericht van een gebruiker verzonden en worden de antwoordberichten gestreamd.

Van toepassing op