SemanticRoutingChatClient 类
定义
重要
一些信息与预发行产品相关,相应产品在发行之前可能会进行重大修改。 对于此处提供的信息,Microsoft 不作任何明示或暗示的担保。
通过语义上的相似性路由请求,以应用提供的示例话语。
public ref class SemanticRoutingChatClient sealed : Microsoft::Extensions::AI::RoutingChatClient
[System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")]
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
public sealed class SemanticRoutingChatClient : Microsoft.Extensions.AI.RoutingChatClient
[<System.Diagnostics.CodeAnalysis.Experimental("MEAI001", UrlFormat="https://aka.ms/dotnet-extensions-warnings/{0}")>]
type SemanticRoutingChatClient = class
inherit RoutingChatClient
type SemanticRoutingChatClient = class
inherit RoutingChatClient
Public NotInheritable Class SemanticRoutingChatClient
Inherits RoutingChatClient
- 继承
- 属性
注解
配置文件嵌入在延迟和缓存中生成。 每个请求嵌入最后一条用户消息,并在聚合最佳匹配配置文件话语的余弦相似性后,选择得分最高的客户端。 如果未提供任何用户消息或最高分数低于配置的阈值,则会选择配置的默认客户端。
配置的客户端实例用作稳定的路由标识,并按引用进行区分。 按呼叫选项不参与该标识。 默认情况下,此实例拥有客户端并嵌入生成器,并在释放时释放它们。
示例言语路由方法灵感来自 Aurelio Labs 的语义路由器项目。
构造函数
方法
| 名称 | 说明 |
|---|---|
| Dispose() |
执行与释放、释放或重置非托管资源关联的应用程序定义任务。 (继承自 RoutingChatClient) |
| Dispose(Boolean) |
提供一种机制,用于释放派生实例拥有的资源。 (继承自 RoutingChatClient) |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
发送聊天消息并返回响应。 (继承自 RoutingChatClient) |
| GetService(Type, Object) |
IChatClient请求指定类型的 |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
发送聊天消息并流式传输响应。 (继承自 RoutingChatClient) |
| SelectClientAsync(RoutingContext, CancellationToken) |
选择要为请求调用的客户端。 (继承自 RoutingChatClient) |