SemanticRoutingChatClient Klasa
Definicja
Ważne
Niektóre informacje odnoszą się do produktu w wersji wstępnej, który może zostać znacząco zmodyfikowany przed wydaniem. Firma Microsoft nie udziela żadnych gwarancji, jawnych lub domniemanych, w odniesieniu do informacji podanych w tym miejscu.
Kieruje żądania według semantycznej podobieństwa do przykładowych wypowiedzi udostępnianych przez aplikację.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Dziedziczenie
- Atrybuty
Uwagi
Osadzanie profilów jest generowane z opóźnieniem i buforowane. Każde żądanie osadza ostatni komunikat użytkownika i wybiera klienta z najwyższym wynikiem po agregowaniu podobieństw cosinus wypowiedzi profilu najlepiej pasującego. Skonfigurowany domyślny klient jest wybierany, gdy żaden komunikat użytkownika nie jest dostępny lub gdy najwyższy wynik jest niższy od skonfigurowanego progu.
Skonfigurowane wystąpienia klienta są używane jako stabilne tożsamości routingu i są rozróżniane przez odwołanie. Opcje poszczególnych połączeń nie uczestniczą w tej tożsamości. Domyślnie to wystąpienie jest właścicielem klientów i generatora osadzania i usuwa je podczas usuwania.
Przykładowe podejście do routingu wypowiedzi jest inspirowane projektem semantycznym routera usługi Aurelio Labs.
Konstruktory
Metody
| Nazwa | Opis |
|---|---|
| Dispose() |
Wykonuje zadania zdefiniowane przez aplikację skojarzone z zwalnianiem, wydawaniem lub resetowaniem niezarządzanych zasobów. (Odziedziczone po RoutingChatClient) |
| Dispose(Boolean) |
Udostępnia mechanizm udostępniania zasobów należących do wystąpienia pochodnego. (Odziedziczone po RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Wysyła wiadomości czatu i zwraca odpowiedź. (Odziedziczone po RoutingChatClient) |
| GetService(Type, Object) |
IChatClient Pyta o obiekt określonego typu |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Wysyła wiadomości czatu i przesyła strumieniowo odpowiedź. (Odziedziczone po RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Wybiera klienta, który ma być wywoływany dla żądania. (Odziedziczone po RoutingChatClient) |
