DistributedCachingChatClient Třída

Definice

Delegování chatovacího klienta, který ukládá výsledky volání odpovědí do mezipaměti a ukládá je jako JSON do souboru IDistributedCache.

public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient
public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient
type DistributedCachingChatClient = class
    inherit CachingChatClient
Public Class DistributedCachingChatClient
Inherits CachingChatClient
Dědičnost
DistributedCachingChatClient

Poznámky

Využívá DistributedCachingChatClient serializaci JSON jako součást ukládání dat uložených v mezipaměti. Není zaručeno, že objektové modely používané objekty ChatMessage, ChatOptions, ChatResponseUpdateChatResponse, ani žádné jiné objekty v kanálu chat klienta přejdou přes serializaci JSON s plnou věrností. Budou například RawRepresentation ignorovány a Object hodnoty v AdditionalProperties deserializaci budou JsonElement namísto původního typu. Obecně platí, že použití DistributedCachingChatClient kódu by mělo spoléhat pouze na přístup k datům, která je možné dostatečně dobře zachovat prostřednictvím serializace JSON a deserializace.

Za předpokladu IChatClient , že implementace je bezpečná pro souběžné použití s vlákny, pokud je použité IDistributedCache pro souběžné použití podobně bezpečné pro přístup z více vláken.

Konstruktory

Name Description
DistributedCachingChatClient(IChatClient, IDistributedCache)

Inicializuje novou instanci DistributedCachingChatClient třídy.

Vlastnosti

Name Description
CacheKeyAdditionalValues

Získá nebo nastaví další hodnoty použité k informování klíče mezipaměti použitého pro ukládání stavu.

CoalesceStreamingUpdates

Získá nebo nastaví hodnotu označující, zda jsou aktualizace streamování sloučeny.

(Zděděno od CachingChatClient)
InnerClient

Získá vnitřní IChatClient.

(Zděděno od DelegatingChatClient)
JsonSerializerOptions

Získá nebo nastaví možnosti serializace JSON pro použití při serializaci dat mezipaměti.

Metody

Name Description
Dispose()

Provádí úlohy definované aplikací související s uvolněním, uvolněním nebo resetováním nespravovaných prostředků.

(Zděděno od DelegatingChatClient)
Dispose(Boolean)

Poskytuje mechanismus pro uvolnění nespravovaných prostředků.

(Zděděno od DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)

Určuje, jestli se má použít ukládání do mezipaměti se zadaným požadavkem.

(Zděděno od CachingChatClient)
GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)

Vypočítá klíč mezipaměti pro zadané hodnoty.

GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Delegování chatovacího klienta, který ukládá výsledky volání odpovědí do mezipaměti a ukládá je jako JSON do souboru IDistributedCache.

(Zděděno od CachingChatClient)
GetService(Type, Object)

Požádá o IChatClient objekt zadaného typu serviceType.

(Zděděno od DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Delegování chatovacího klienta, který ukládá výsledky volání odpovědí do mezipaměti a ukládá je jako JSON do souboru IDistributedCache.

(Zděděno od CachingChatClient)
ReadCacheAsync(String, CancellationToken)

Vrátí dříve uloženou mezipaměť ChatResponse, pokud je k dispozici. To se používá, když existuje volání GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

ReadCacheStreamingAsync(String, CancellationToken)

Vrátí seznam dříve uložených ChatResponseUpdate hodnot v mezipaměti, pokud je k dispozici. To se používá, když existuje volání GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheAsync(String, ChatResponse, CancellationToken)

Uloží v ChatResponse podkladové mezipaměti. To se používá, když existuje volání GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)

Uloží seznam ChatResponseUpdate hodnot v podkladové mezipaměti. To se používá, když existuje volání GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Metody rozšíření

Name Description
AsBuilder(IChatClient)

Vytvoří nové ChatClientBuilder použití innerClient jako jeho vnitřní klient.

GetRequiredService(IChatClient, Type, Object)

IChatClient Požádá o objekt zadaného typu serviceType a vyvolá výjimku, pokud není k dispozici.

GetRequiredService<TService>(IChatClient, Object)

IChatClient Požádá o objekt typu TService a vyvolá výjimku, pokud není k dispozici.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Odešle chatovou zprávu a vrátí zprávy s odpovědí.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Odešle textovou zprávu chatu uživatele a vrátí zprávy s odpovědí.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Odešle chatovou zprávu a požádá o odpověď odpovídající typu T.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Odešle chatovou zprávu a požádá o odpověď odpovídající typu T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Odesílá chatové zprávy a žádá o odpověď odpovídající typu T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Odesílá chatové zprávy a žádá o odpověď odpovídající typu T.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Odešle textovou zprávu chatu uživatele s žádostí o odpověď odpovídající typu T.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Odešle textovou zprávu chatu uživatele s žádostí o odpověď odpovídající typu T.

GetService<TService>(IChatClient, Object)

Požádá o IChatClient objekt typu TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Odešle chatovou zprávu a streamuje zprávy s odpověďmi.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Odešle textovou zprávu chatu uživatele a streamuje zprávy odpovědí.

Platí pro