SemanticRoutingChatClient Classe
Definizione
Importante
Alcune informazioni sono relative alla release non definitiva del prodotto, che potrebbe subire modifiche significative prima della release definitiva. Microsoft non riconosce alcuna garanzia, espressa o implicita, in merito alle informazioni qui fornite.
Instrada le richieste in base alla semantica delle espressioni di esempio fornite dall'app.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Ereditarietà
- Attributi
Commenti
Gli incorporamenti dei profili vengono generati in modo differinte e memorizzati nella cache. Ogni richiesta incorpora l'ultimo messaggio utente e seleziona il client con il punteggio più alto dopo l'aggregazione delle analogie coseno delle espressioni del profilo di corrispondenza migliore. Il client predefinito configurato viene selezionato quando non è disponibile alcun messaggio utente o quando il punteggio più alto è inferiore alla soglia configurata.
Le istanze client configurate vengono usate come identità di routing stabili e sono distinte per riferimento. Le opzioni per chiamata non partecipano a tale identità. Per impostazione predefinita, questa istanza è proprietaria dei client e del generatore di incorporamento e li elimina quando viene eliminato.
L'approccio di routing delle espressioni di esempio è ispirato al progetto semantico router di Aurelio Labs.
Costruttori
| Nome | Descrizione |
|---|---|
| SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean) |
Inizializza una nuova istanza della classe SemanticRoutingChatClient. |
Metodi
| Nome | Descrizione |
|---|---|
| Dispose() |
Esegue attività definite dall'applicazione associate alla liberazione, al rilascio o alla reimpostazione di risorse non gestite. (Ereditato da RoutingChatClient) |
| Dispose(Boolean) |
Fornisce un meccanismo per il rilascio di risorse di proprietà dell'istanza derivata. (Ereditato da RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Invia messaggi di chat e restituisce la risposta. (Ereditato da RoutingChatClient) |
| GetService(Type, Object) |
Richiede un IChatClient oggetto del tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Invia messaggi di chat e trasmette la risposta. (Ereditato da RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Seleziona il client da richiamare per la richiesta. (Ereditato da RoutingChatClient) |
