DistributedCachingChatClient Класс

Определение

Пространство имен:

Microsoft.Extensions.AI

Сборка:

Microsoft.Extensions.AI.dll

Пакет:

Microsoft.Extensions.AI v10.7.0

Исходный код:

DistributedCachingChatClient.cs

Делегированный клиент чата, который кэширует результаты вызовов ответа, сохраняя их в формате JSON в формате IDistributedCacheJSON.

public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClient

public class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClient

type DistributedCachingChatClient = class
    inherit CachingChatClient

Public Class DistributedCachingChatClient
Inherits CachingChatClient

Наследование

Object

DelegatingChatClient

CachingChatClient

DistributedCachingChatClient

Комментарии

В DistributedCachingChatClient процессе хранения кэшированных данных используется сериализация JSON. Не гарантируется, что объектные модели, используемые ChatMessage, ChatOptionsChatResponseChatResponseUpdateили любой другой объект в клиентском конвейере чата, будет циклический обход через сериализацию JSON с полной точностью. Например, RawRepresentation будет игнорироваться, а Object значения в AdditionalProperties десериализуются JsonElement , а не как исходный тип. Как правило, использование DistributedCachingChatClient кода должно полагаться только на доступ к данным, которые можно сохранить достаточно хорошо с помощью сериализации и десериализации JSON.

Предоставленная реализация IChatClient является потокобезопасной для параллельного использования, если используется IDistributedCache аналогично потокобезопасно для параллельного использования.

Конструкторы

Имя	Описание
DistributedCachingChatClient(IChatClient, IDistributedCache)	Инициализирует новый экземпляр класса DistributedCachingChatClient.

Свойства

Имя	Описание
CacheKeyAdditionalValues	Возвращает или задает дополнительные значения, используемые для информирования ключа кэша, используемого для хранения состояния.
CoalesceStreamingUpdates	Возвращает или задает значение, указывающее, являются ли обновления потоковой передачи объединенными. (Унаследовано от CachingChatClient)
InnerClient	Возвращает внутренний IChatClient. (Унаследовано от DelegatingChatClient)
JsonSerializerOptions	Возвращает или задает параметры сериализации JSON для использования при сериализации данных кэша.

Методы

Имя	Описание
Dispose()	Выполняет определяемые приложением задачи, связанные с освобождением, освобождением или сбросом неуправляемых ресурсов. (Унаследовано от DelegatingChatClient)
Dispose(Boolean)	Предоставляет механизм освобождения неуправляемых ресурсов. (Унаследовано от DelegatingChatClient)
EnableCaching(IEnumerable<ChatMessage>, ChatOptions)	Определяет, следует ли использовать кэширование с указанным запросом. (Унаследовано от CachingChatClient)
GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>)	Вычисляет ключ кэша для указанных значений.
GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)	Делегированный клиент чата, который кэширует результаты вызовов ответа, сохраняя их в формате JSON в формате IDistributedCacheJSON. (Унаследовано от CachingChatClient)
GetService(Type, Object)	Запрашивает IChatClient объект указанного типа serviceType. (Унаследовано от DelegatingChatClient)
GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken)	Делегированный клиент чата, который кэширует результаты вызовов ответа, сохраняя их в формате JSON в формате IDistributedCacheJSON. (Унаследовано от CachingChatClient)
ReadCacheAsync(String, CancellationToken)	Возвращает ранее кэшированный ChatResponseобъект , если он доступен. Это используется при вызове GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
ReadCacheStreamingAsync(String, CancellationToken)	Возвращает ранее кэшированный список значений ChatResponseUpdate , если он доступен. Это используется при вызове GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
WriteCacheAsync(String, ChatResponse, CancellationToken)	Хранится ChatResponse в базовом кэше. Это используется при вызове GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).
WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken)	Хранит список значений ChatResponseUpdate в базовом кэше. Это используется при вызове GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken).

Методы расширения

Имя	Описание
AsBuilder(IChatClient)	Создает новое ChatClientBuilder использование innerClient в качестве внутреннего клиента.
GetRequiredService(IChatClient, Type, Object)	Запрашивает IChatClient объект указанного типа serviceType и создает исключение, если он недоступен.
GetRequiredService<TService>(IChatClient, Object)	Запрашивает IChatClient объект типа TService и создает исключение, если он недоступен.
GetResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)	Отправляет сообщение чата и возвращает ответные сообщения.
GetResponseAsync(IChatClient, String, ChatOptions, CancellationToken)	Отправляет текстовое сообщение чата пользователя и возвращает ответные сообщения.
GetResponseAsync<T>(IChatClient, ChatMessage, ChatOptions, Nullable<Boolean>, CancellationToken)	Отправляет сообщение чата, запрашивая ответ, соответствующий типу T.
GetResponseAsync<T>(IChatClient, ChatMessage, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)	Отправляет сообщение чата, запрашивая ответ, соответствующий типу T.
GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, ChatOptions, Nullable<Boolean>, CancellationToken)	Отправляет сообщения чата, запрашивая ответ, соответствующий типу T.
GetResponseAsync<T>(IChatClient, IEnumerable<ChatMessage>, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)	Отправляет сообщения чата, запрашивая ответ, соответствующий типу T.
GetResponseAsync<T>(IChatClient, String, ChatOptions, Nullable<Boolean>, CancellationToken)	Отправляет текстовое сообщение чата пользователя, запрашивая ответ, соответствующий типу T.
GetResponseAsync<T>(IChatClient, String, JsonSerializerOptions, ChatOptions, Nullable<Boolean>, CancellationToken)	Отправляет текстовое сообщение чата пользователя, запрашивая ответ, соответствующий типу T.
GetService<TService>(IChatClient, Object)	Запрашивает IChatClient объект типа TService.
GetStreamingResponseAsync(IChatClient, ChatMessage, ChatOptions, CancellationToken)	Отправляет сообщение чата и передает ответные сообщения.
GetStreamingResponseAsync(IChatClient, String, ChatOptions, CancellationToken)	Отправляет текстовое сообщение чата пользователя и передает ответные сообщения.