SemanticRoutingChatClient Klasse

Definition

Leitet Anforderungen nach semantischer Ähnlichkeit mit von der App bereitgestellten Beispiel-Äußerungen weiter.

public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
    inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
Vererbung
SemanticRoutingChatClient
Attribute

Hinweise

Profileinbettungen werden lazily generiert und zwischengespeichert. Jede Anforderung bettet die letzte Benutzernachricht ein und wählt den Client mit der höchsten Bewertung aus, nachdem die Kosinusähnlichkeiten der am besten übereinstimmenden Profilvergleiche aggregiert wurden. Der konfigurierte Standardclient wird ausgewählt, wenn keine Benutzernachricht verfügbar ist oder wenn der höchste Wert unter dem konfigurierten Schwellenwert liegt.

Die konfigurierten Clientinstanzen werden als stabile Routingidentitäten verwendet und unterscheiden sich nach Verweis. Anrufoptionen nehmen nicht an dieser Identität teil. Standardmäßig besitzt diese Instanz die Clients und das Einbetten des Generators und verworfen sie, wenn sie verworfen wird.

Der Beispiel-Utterance-Routing-Ansatz wurde vom Semantikrouter-Projekt von Aurelio Labs inspiriert.

Konstruktoren

Name Beschreibung
SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean)

Initialisiert eine neue Instanz der SemanticRoutingChatClient-Klasse.

Methoden

Name Beschreibung
Dispose()

Führt anwendungsdefinierte Aufgaben aus, die mit dem Freigeben, Freigeben oder Zurücksetzen nicht verwalteter Ressourcen verknüpft sind.

(Geerbt von RoutingChatClient)
Dispose(Boolean)

Stellt einen Mechanismus zum Freigeben von Ressourcen bereit, die der abgeleiteten Instanz gehören.

(Geerbt von RoutingChatClient)
GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Sendet Chatnachrichten und gibt die Antwort zurück.

(Geerbt von RoutingChatClient)
GetService(Type, Object)

Fragt nach IChatClient einem Objekt des angegebenen Typs serviceType.

(Geerbt von RoutingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Sendet Chatnachrichten und streamt die Antwort.

(Geerbt von RoutingChatClient)
SelectClientAsync(RoutingContext, CancellationToken)

Wählt den Client aus, der für die Anforderung aufgerufen werden soll.

(Geerbt von RoutingChatClient)

Erweiterungsmethoden

Name Beschreibung
AsBuilder(IChatClient)

Erstellt eine neue ChatClientBuilder Verwendung innerClient als inneren Client.

GetRequiredService(IChatClient, Type, Object)

Fragt nach IChatClient einem Objekt des angegebenen Typs serviceType und löst eine Ausnahme aus, wenn eine nicht verfügbar ist.

GetRequiredService<TService>(IChatClient, Object)

Fragt nach IChatClient einem Objekt vom Typ TService und löst eine Ausnahme aus, wenn ein Objekt nicht verfügbar ist.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Sendet eine Chatnachricht und gibt die Antwortnachrichten zurück.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Sendet eine Benutzerchattextnachricht und gibt die Antwortnachrichten zurück.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Chatnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Chatnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet Chatnachrichten und fordert eine Antwort an, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet Chatnachrichten und fordert eine Antwort an, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Benutzerchattextnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Sendet eine Benutzerchattextnachricht, die eine Antwort anfordert, die dem Typ Tentspricht.

GetService<TService>(IChatClient, Object)

Fragt nach IChatClient einem Objekt vom Typ TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Sendet eine Chatnachricht und streamt die Antwortnachrichten.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Sendet eine Benutzerchattextnachricht und streamt die Antwortnachrichten.

Gilt für: