SemanticRoutingChatClient Třída
Definice
Důležité
Některé informace platí pro předběžně vydaný produkt, který se může zásadně změnit, než ho výrobce nebo autor vydá. Microsoft neposkytuje žádné záruky, výslovné ani předpokládané, týkající se zde uváděných informací.
Směruje požadavky podle sémantické podobnosti s ukázkovými promluvami poskytovanými aplikací.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClient
type SemanticRoutingChatClient = class
inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
- Dědičnost
- Atributy
Poznámky
Vložené profily se generují lazily a ukládají se do mezipaměti. Každý požadavek vloží poslední zprávu uživatele a vybere klienta s nejvyšším skóre po agregaci kosinus podobností s nejlepšími promluvami profilu. Nakonfigurovaný výchozí klient je vybrán, pokud není k dispozici žádná zpráva uživatele nebo když je nejvyšší skóre pod nakonfigurovanou prahovou hodnotou.
Nakonfigurované instance klienta se používají jako stabilní identity směrování a rozlišují se pomocí odkazu. Možnosti volání se této identity neúčastní. Ve výchozím nastavení tato instance vlastní klienty a generátor vkládání a vyhazuje je, když je uvolněna.
Přístup směrování ukázkové promluvy je inspirovaný projektem sémantického směrovače Aurelio Labs.
Konstruktory
Metody
| Name | Description |
|---|---|
| Dispose() |
Provádí úlohy definované aplikací související s uvolněním, uvolněním nebo resetováním nespravovaných prostředků. (Zděděno od RoutingChatClient) |
| Dispose(Boolean) |
Poskytuje mechanismus pro uvolnění prostředků vlastněných odvozenou instancí. (Zděděno od RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Odešle chatové zprávy a vrátí odpověď. (Zděděno od RoutingChatClient) |
| GetService(Type, Object) |
Požádá o IChatClient objekt zadaného typu |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Odešle chatové zprávy a streamuje odpověď. (Zděděno od RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Vybere klienta, který se má pro požadavek vyvolat. (Zděděno od RoutingChatClient) |