SemanticRoutingChatClient Clase
Definición
Importante
Parte de la información hace referencia a la versión preliminar del producto, que puede haberse modificado sustancialmente antes de lanzar la versión definitiva. Microsoft no otorga ninguna garantía, explícita o implícita, con respecto a la información proporcionada aquí.
Enruta las solicitudes por similitud semántica con expresiones de ejemplo proporcionadas por la aplicación.
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClientPublic NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient- Herencia
- Atributos
Comentarios
Las incrustaciones de perfiles se generan de forma diferida y se almacenan en caché. Cada solicitud inserta el último mensaje de usuario y selecciona el cliente con la puntuación más alta después de agregar las similitudes de coseno de las expresiones de perfil con mejor coincidencia. El cliente predeterminado configurado se selecciona cuando no hay ningún mensaje de usuario disponible o cuando la puntuación más alta está por debajo del umbral configurado.
Las instancias de cliente configuradas se usan como identidades de enrutamiento estables y se distinguen por referencia. Las opciones por llamada no participan en esa identidad. De forma predeterminada, esta instancia posee los clientes e inserta el generador y los elimina cuando se elimina.
El enfoque de enrutamiento de expresiones de ejemplo está inspirado en el proyecto de enrutador semántico de Aurelio Labs.
Constructores
| Nombre | Description |
|---|---|
| SemanticRoutingChatClient(IEmbeddingGenerator<String,Embedding<Single>>, IReadOnlyDictionary<IChatClient,IReadOnlyList<String>>, IChatClient, Single, Int32, SemanticRoutingChatClient+ScoreAggregation, Boolean) |
Inicializa una nueva instancia de la clase SemanticRoutingChatClient. |
Métodos
| Nombre | Description |
|---|---|
| Dispose() |
Realiza tareas definidas por la aplicación asociadas a la liberación, liberación o restablecimiento de recursos no administrados. (Heredado de RoutingChatClient) |
| Dispose(Boolean) |
Proporciona un mecanismo para liberar recursos propiedad de la instancia derivada. (Heredado de RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envía mensajes de chat y devuelve la respuesta. (Heredado de RoutingChatClient) |
| GetService(Type, Object) |
Solicita un IChatClient objeto del tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Envía mensajes de chat y transmite la respuesta. (Heredado de RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
Selecciona el cliente que se va a invocar para la solicitud. (Heredado de RoutingChatClient) |
