DistributedCachingChatClient Klas

Definitie

Een delegerende chatclient die de resultaten van antwoordaanroepen in de cache opslaat, waarbij deze als JSON worden opgeslagen in een IDistributedCache.

public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient
public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient
type DistributedCachingChatClient = class
    inherit CachingChatClient
Public Class DistributedCachingChatClient
Inherits CachingChatClient
Overname
DistributedCachingChatClient

Opmerkingen

De DistributedCachingChatClient functie maakt gebruik van JSON-serialisatie als onderdeel van het opslaan van gegevens in de cache. Het is niet gegarandeerd dat de objectmodellen die worden gebruikt doorChatMessage, ChatOptionsof ChatResponseChatResponseUpdateeen van de andere objecten in de chatclientpijplijn, met volledige betrouwbaarheid worden afgerond via JSON-serialisatie. Wordt bijvoorbeeld RawRepresentation genegeerd en Object waarden in AdditionalProperties worden gedeserialiseerd als JsonElement het oorspronkelijke type. In het algemeen moet codegebruik DistributedCachingChatClient alleen afhankelijk zijn van toegang tot gegevens die goed genoeg kunnen worden bewaard via JSON-serialisatie en deserialisatie.

De opgegeven implementatie is IChatClient thread-safe voor gelijktijdig gebruik, zolang de gebruikte IDistributedCache thread-veilig is voor gelijktijdig gebruik.

Constructors

Name Description
DistributedCachingChatClient(IChatClient, IDistributedCache)

Initialiseert een nieuw exemplaar van de DistributedCachingChatClient klasse.

Eigenschappen

Name Description
CacheKeyAdditionalValues

Hiermee worden extra waarden opgehaald of ingesteld die worden gebruikt om de cachesleutel te informeren die wordt gebruikt voor het opslaan van de status.

CoalesceStreamingUpdates

Hiermee wordt een waarde opgehaald of ingesteld die aangeeft of streaming-updates zijn gekoppeld.

(Overgenomen van CachingChatClient)
InnerClient

Haalt het binnenste IChatClient.

(Overgenomen van DelegatingChatClient)
JsonSerializerOptions

Hiermee worden JSON-serialisatieopties opgehaald of ingesteld die moeten worden gebruikt bij het serialiseren van cachegegevens.

Methoden

Name Description
Dispose()

Voert door de toepassing gedefinieerde taken uit die zijn gekoppeld aan het vrijmaken, vrijgeven of opnieuw instellen van onbeheerde resources.

(Overgenomen van DelegatingChatClient)
Dispose(Boolean)

Biedt een mechanisme voor het vrijgeven van onbeheerde resources.

(Overgenomen van DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)

Bepaalt of caching moet worden gebruikt met de opgegeven aanvraag.

(Overgenomen van CachingChatClient)
GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)

Berekent een cachesleutel voor de opgegeven waarden.

GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Een delegerende chatclient die de resultaten van antwoordaanroepen in de cache opslaat, waarbij deze als JSON worden opgeslagen in een IDistributedCache.

(Overgenomen van CachingChatClient)
GetService(Type, Object)

Vraagt om een IChatClient object van het opgegeven type serviceType.

(Overgenomen van DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)

Een delegerende chatclient die de resultaten van antwoordaanroepen in de cache opslaat, waarbij deze als JSON worden opgeslagen in een IDistributedCache.

(Overgenomen van CachingChatClient)
ReadCacheAsync(String, CancellationToken)

Retourneert een eerder in de cache opgeslagen ChatResponse, indien beschikbaar. Dit wordt gebruikt wanneer er een aanroep naar GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

ReadCacheStreamingAsync(String, CancellationToken)

Retourneert een eerder in de cache opgeslagen lijst ChatResponseUpdate met waarden, indien beschikbaar. Dit wordt gebruikt wanneer er een aanroep naar GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheAsync(String, ChatResponse, CancellationToken)

Slaat een ChatResponse op in de onderliggende cache. Dit wordt gebruikt wanneer er een aanroep naar GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)

Slaat een lijst met ChatResponseUpdate waarden op in de onderliggende cache. Dit wordt gebruikt wanneer er een aanroep naar GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Extensiemethoden

Name Description
AsBuilder(IChatClient)

Hiermee maakt u een nieuw ChatClientBuilder gebruik innerClient als de interne client.

GetRequiredService(IChatClient, Type, Object)

Vraagt om IChatClient een object van het opgegeven type serviceType en genereert een uitzondering als deze niet beschikbaar is.

GetRequiredService<TService>(IChatClient, Object)

Vraagt om IChatClient een object van het type TService en genereert een uitzondering als deze niet beschikbaar is.

GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Hiermee wordt een chatbericht verzonden en worden de antwoordberichten geretourneerd.

GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Hiermee wordt een sms-bericht van een gebruiker verzonden en worden de antwoordberichten geretourneerd.

GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt chatberichten, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt chatberichten, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht van een gebruiker, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)

Verzendt een chatbericht van een gebruiker, waarbij een antwoord wordt aangevraagd dat overeenkomt met het type T.

GetService<TService>(IChatClient, Object)

Vraagt om een IChatClient object van het type TService.

GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)

Verzendt een chatbericht en streamt de antwoordberichten.

GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)

Hiermee wordt een sms-bericht van een gebruiker verzonden en worden de antwoordberichten gestreamd.

Van toepassing op