SemanticRoutingChatClient Klasse
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Leitet Anforderungen nach semantischer Ähnlichkeit mit von der App bereitgestellten Beispiel-Äußerungen weiter.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
- Vererbung
- Attribute
Hinweise
Profileinbettungen werden lazily generiert und zwischengespeichert. Jede Anforderung bettet die letzte Benutzernachricht ein und wählt den Client mit der höchsten Bewertung aus, nachdem die Kosinusähnlichkeiten der am besten übereinstimmenden Profilvergleiche aggregiert wurden. Der konfigurierte Standardclient wird ausgewählt, wenn keine Benutzernachricht verfügbar ist oder wenn der höchste Wert unter dem konfigurierten Schwellenwert liegt.
Die konfigurierten Clientinstanzen werden als stabile Routingidentitäten verwendet und unterscheiden sich nach Verweis. Anrufoptionen nehmen nicht an dieser Identität teil. Standardmäßig besitzt diese Instanz die Clients und das Einbetten des Generators und verworfen sie, wenn sie verworfen wird.
Der Beispiel-Utterance-Routing-Ansatz wurde vom Semantikrouter-Projekt von Aurelio Labs inspiriert.
Konstruktoren
| Name | Beschreibung |
|---|---|
| SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean) |
Initialisiert eine neue Instanz der SemanticRoutingChatClient-Klasse. |
Methoden
| Name | Beschreibung |
|---|---|
| Dispose() |
Führt anwendungsdefinierte Aufgaben aus, die mit dem Freigeben, Freigeben oder Zurücksetzen nicht verwalteter Ressourcen verknüpft sind. (Geerbt von RoutingChatClient) |
| Dispose(Boolean) |
Stellt einen Mechanismus zum Freigeben von Ressourcen bereit, die der abgeleiteten Instanz gehören. (Geerbt von RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Sendet Chatnachrichten und gibt die Antwort zurück. (Geerbt von RoutingChatClient) |
| GetService(Type, Object) |
Fragt nach IChatClient einem Objekt des angegebenen Typs |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Sendet Chatnachrichten und streamt die Antwort. (Geerbt von RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Wählt den Client aus, der für die Anforderung aufgerufen werden soll. (Geerbt von RoutingChatClient) |