DistributedCachingEmbeddingGenerator<TInput,TEmbedding> Класс

Определение

Представляет делегированный генератор внедрения, который кэширует результаты внедрения вызовов создания, сохраняя их в формате JSON в формате IDistributedCacheJSON.

generic <typename TInput, typename TEmbedding>
 where TEmbedding : Embeddingpublic ref class DistributedCachingEmbeddingGenerator : Microsoft::Extensions::AI::CachingEmbeddingGenerator<TInput, TEmbedding>
public class DistributedCachingEmbeddingGenerator<TInput,TEmbedding> : Microsoft.Extensions.AI.CachingEmbeddingGenerator<TInput,TEmbedding> where TEmbedding : Embedding
type DistributedCachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)> = class
    inherit CachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)>
Public Class DistributedCachingEmbeddingGenerator(Of TInput, TEmbedding)
Inherits CachingEmbeddingGenerator(Of TInput, TEmbedding)

Параметры типа

TInput

Тип, из которого будут созданы внедренные модули.

TEmbedding

Тип внедрения для создания.

Наследование

Комментарии

Предоставленная реализация IEmbeddingGenerator<TInput,TEmbedding> является потокобезопасной для параллельного использования, если используется IDistributedCache аналогично потокобезопасно для параллельного использования.

Конструкторы

Имя Описание
DistributedCachingEmbeddingGenerator<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IDistributedCache)

Инициализирует новый экземпляр класса DistributedCachingEmbeddingGenerator<TInput,TEmbedding>.

Свойства

Имя Описание
CacheKeyAdditionalValues

Возвращает или задает дополнительные значения, используемые для информирования ключа кэша, используемого для хранения состояния.

InnerGenerator

Возвращает внутренний IEmbeddingGenerator<TInput,TEmbedding>.

(Унаследовано от DelegatingEmbeddingGenerator<TInput,TEmbedding>)
JsonSerializerOptions

Возвращает или задает параметры сериализации JSON для использования при сериализации данных кэша.

Методы

Имя Описание
Dispose()

Выполняет определяемые приложением задачи, связанные с освобождением, освобождением или сбросом неуправляемых ресурсов.

(Унаследовано от DelegatingEmbeddingGenerator<TInput,TEmbedding>)
Dispose(Boolean)

Предоставляет механизм освобождения неуправляемых ресурсов.

(Унаследовано от DelegatingEmbeddingGenerator<TInput,TEmbedding>)
GenerateAsync(IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Представляет делегированный генератор внедрения, который кэширует результаты внедрения вызовов создания, сохраняя их в формате JSON в формате IDistributedCacheJSON.

(Унаследовано от CachingEmbeddingGenerator<TInput,TEmbedding>)
GetCacheKey(ReadOnlySpan<Object>)

Вычисляет ключ кэша для указанных значений.

GetService(Type, Object)

Запрашивает IEmbeddingGenerator<TInput,TEmbedding> объект указанного типа serviceType.

(Унаследовано от DelegatingEmbeddingGenerator<TInput,TEmbedding>)
ReadCacheAsync(String, CancellationToken)

Возвращает ранее кэшированный Embedding<T>объект , если он доступен.

WriteCacheAsync(String, TEmbedding, CancellationToken)

Хранится TEmbedding в базовом кэше.

Методы расширения

Имя Описание
AsBuilder<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>)

Создает новое EmbeddingGeneratorBuilder<TInput,TEmbedding> использование innerGenerator в качестве внутреннего генератора.

GenerateAndZipAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Создает внедрения для каждого предоставленного values и создает список, который связывает каждое входное значение с результирующей внедрением.

GenerateAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, TInput, EmbeddingGenerationOptions, CancellationToken)

Создает внедрение из указанного valueобъекта.

GetRequiredService(IEmbeddingGenerator, Type, Object)

Запрашивает IEmbeddingGenerator<TInput,TEmbedding> объект указанного типа serviceType и создает исключение, если он недоступен.

GetRequiredService<TService>(IEmbeddingGenerator, Object)

Запрашивает IEmbeddingGenerator<TInput,TEmbedding> объект типа TService и создает исключение, если он недоступен.

GetService<TService>(IEmbeddingGenerator, Object)

Запрашивает IEmbeddingGenerator<TInput,TEmbedding> объект типа TService.

Применяется к