DistributedCachingChatClient Classe

Définition

Espace de noms:

Microsoft.Extensions.AI

Assembly:

Microsoft.Extensions.AI.dll

Paquet:

Microsoft.Extensions.AI v10.9.0

Source:

DistributedCachingChatClient.cs

Client de conversation délégué qui met en cache les résultats des appels de réponse, en les stockant en tant que JSON dans un IDistributedCache.

public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient

public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient

type DistributedCachingChatClient = class
    inherit CachingChatClient

Public Class DistributedCachingChatClient
Inherits CachingChatClient

Héritage

Object

DelegatingChatClient

CachingChatClient

DistributedCachingChatClient

Remarques

Il DistributedCachingChatClient utilise la sérialisation JSON dans le cadre du stockage des données mises en cache. Il n’est pas garanti que les modèles d’objets utilisés par ChatMessage, ChatOptions, ChatResponse, ou ChatResponseUpdatel’un des autres objets du pipeline client de conversation effectuent un aller-retour via la sérialisation JSON avec une fidélité totale. Par exemple, RawRepresentation elles seront ignorées, et Object les valeurs dans AdditionalProperties le fichier désérialiseront plutôt JsonElement que comme type d’origine. En règle générale, l’utilisation DistributedCachingChatClient du code doit uniquement s’appuyer sur l’accès aux données qui peuvent être conservées suffisamment par le biais de la sérialisation ET de la désérialisation JSON.

L’implémentation IChatClient fournie est thread-safe pour une utilisation simultanée tant que l’employé IDistributedCache est de même thread-safe pour une utilisation simultanée.

Constructeurs

Nom	Description
DistributedCachingChatClient(IChatClient, IDistributedCache)	Initialise une nouvelle instance de la classe DistributedCachingChatClient.

Propriétés

Nom	Description
CacheKeyAdditionalValues	Obtient ou définit des valeurs supplémentaires utilisées pour informer la clé de cache utilisée pour stocker l’état.
CoalesceStreamingUpdates	Obtient ou définit une valeur indiquant si les mises à jour de diffusion en continu sont coalescées. (Hérité de CachingChatClient)
InnerClient	Obtient le fichier interne IChatClient. (Hérité de DelegatingChatClient)
JsonSerializerOptions	Obtient ou définit des options de sérialisation JSON à utiliser lors de la sérialisation des données du cache.

Méthodes

Nom	Description
Dispose()	Effectue des tâches définies par l’application associées à la libération, à la libération ou à la réinitialisation des ressources non managées. (Hérité de DelegatingChatClient)
Dispose(Boolean)	Fournit un mécanisme permettant de libérer des ressources non managées. (Hérité de DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)	Détermine si la mise en cache doit être utilisée avec la requête spécifiée. (Hérité de CachingChatClient)
GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)	Calcule une clé de cache pour les valeurs spécifiées.
GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)	Client de conversation délégué qui met en cache les résultats des appels de réponse, en les stockant en tant que JSON dans un IDistributedCache. (Hérité de CachingChatClient)
GetService(Type, Object)	Demande l’objet IChatClient du type serviceTypespécifié. (Hérité de DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)	Client de conversation délégué qui met en cache les résultats des appels de réponse, en les stockant en tant que JSON dans un IDistributedCache. (Hérité de CachingChatClient)
ReadCacheAsync(String, CancellationToken)	Retourne un cache précédemment mis ChatResponseen cache, le cas échéant. Cela est utilisé lorsqu’il existe un appel à GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
ReadCacheStreamingAsync(String, CancellationToken)	Retourne une liste de ChatResponseUpdate valeurs précédemment mise en cache, le cas échéant. Cela est utilisé lorsqu’il existe un appel à GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
WriteCacheAsync(String, ChatResponse, CancellationToken)	Stocke un ChatResponse dans le cache sous-jacent. Cela est utilisé lorsqu’il existe un appel à GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)	Stocke une liste de ChatResponseUpdate valeurs dans le cache sous-jacent. Cela est utilisé lorsqu’il existe un appel à GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Méthodes d’extension

Nom	Description
AsBuilder(IChatClient)	Crée une nouvelle ChatClientBuilder utilisation innerClient en tant que client interne.
GetRequiredService(IChatClient, Type, Object)	Demande l’objet IChatClient du type serviceType spécifié et lève une exception si elle n’est pas disponible.
GetRequiredService<TService>(IChatClient, Object)	Demande l’objet IChatClient de type TService et lève une exception si un objet n’est pas disponible.
GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)	Envoie un message de conversation et retourne les messages de réponse.
GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)	Envoie un sms de conversation utilisateur et retourne les messages de réponse.
GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)	Envoie un message de conversation, en demandant une réponse correspondant au type T.
GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)	Envoie un message de conversation, en demandant une réponse correspondant au type T.
GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)	Envoie des messages de conversation, en demandant une réponse correspondant au type T.
GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)	Envoie des messages de conversation, en demandant une réponse correspondant au type T.
GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)	Envoie un sms de conversation utilisateur, demandant une réponse correspondant au type T.
GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)	Envoie un sms de conversation utilisateur, demandant une réponse correspondant au type T.
GetService<TService>(IChatClient, Object)	Demande l’objet IChatClient de type TService.
GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)	Envoie un message de conversation et diffuse les messages de réponse.
GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)	Envoie un sms de conversation utilisateur et diffuse les messages de réponse.