DistributedCachingEmbeddingGenerator<TInput,TEmbedding> Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Representa um gerador de embedding delegado que armazena em cache os resultados das chamadas de geração de embedding, armazenando-as como JSON num IDistributedCachearquivo .
generic <typename TInput, typename TEmbedding>
where TEmbedding : Embeddingpublic ref class DistributedCachingEmbeddingGenerator : Microsoft::Extensions::AI::CachingEmbeddingGenerator<TInput, TEmbedding>
public class DistributedCachingEmbeddingGenerator<TInput,TEmbedding> : Microsoft.Extensions.AI.CachingEmbeddingGenerator<TInput,TEmbedding> where TEmbedding : Embedding
type DistributedCachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)> = class
inherit CachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)>
Public Class DistributedCachingEmbeddingGenerator(Of TInput, TEmbedding)
Inherits CachingEmbeddingGenerator(Of TInput, TEmbedding)
Parâmetros de Tipo Genérico
- TInput
O tipo a partir do qual serão gerados os embeddings.
- TEmbedding
O tipo de embeddings a gerar.
- Herança
-
DistributedCachingEmbeddingGenerator<TInput,TEmbedding>
Observações
A implementação fornecida de IEmbeddingGenerator<TInput,TEmbedding> é thread-safe para uso concorrente, desde que a utilizada IDistributedCache seja igualmente thread-safe para uso concorrente.
Construtores
| Name | Description |
|---|---|
| DistributedCachingEmbeddingGenerator<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IDistributedCache) |
Inicializa uma nova instância da DistributedCachingEmbeddingGenerator<TInput,TEmbedding> classe. |
Propriedades
| Name | Description |
|---|---|
| CacheKeyAdditionalValues |
Obtém ou define valores adicionais usados para informar a chave de cache empregada para armazenar estado. |
| InnerGenerator |
Obtém o interior IEmbeddingGenerator<TInput,TEmbedding>. (Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>) |
| JsonSerializerOptions |
Obtém ou define opções de serialização JSON para usar ao serializar dados de cache. |
Métodos
| Name | Description |
|---|---|
| Dispose() |
Realiza tarefas definidas pela aplicação associadas à libertação, libertação ou reinício de recursos não geridos. (Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>) |
| Dispose(Boolean) |
Fornece um mecanismo para libertar recursos não geridos. (Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>) |
| GenerateAsync(IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken) |
Representa um gerador de embedding delegado que armazena em cache os resultados das chamadas de geração de embedding, armazenando-as como JSON num IDistributedCachearquivo . (Herdado de CachingEmbeddingGenerator<TInput,TEmbedding>) |
| GetCacheKey(ReadOnlySpan<Object>) |
Calcula uma chave de cache para os valores especificados. |
| GetService(Type, Object) |
Pergunta a IEmbeddingGenerator<TInput,TEmbedding> um objeto do tipo |
| ReadCacheAsync(String, CancellationToken) |
Devolve um arquivo previamente armazenado Embedding<T>em cache , se disponível. |
| WriteCacheAsync(String, TEmbedding, CancellationToken) |
Armazena a |