DistributedCachingEmbeddingGenerator<TInput,TEmbedding> Classe

Definição

Representa um gerador de embedding delegado que armazena em cache os resultados das chamadas de geração de embedding, armazenando-as como JSON num IDistributedCachearquivo .

generic <typename TInput, typename TEmbedding>
 where TEmbedding : Embeddingpublic ref class DistributedCachingEmbeddingGenerator : Microsoft::Extensions::AI::CachingEmbeddingGenerator<TInput, TEmbedding>
public class DistributedCachingEmbeddingGenerator<TInput,TEmbedding> : Microsoft.Extensions.AI.CachingEmbeddingGenerator<TInput,TEmbedding> where TEmbedding : Embedding
type DistributedCachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)> = class
    inherit CachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)>
Public Class DistributedCachingEmbeddingGenerator(Of TInput, TEmbedding)
Inherits CachingEmbeddingGenerator(Of TInput, TEmbedding)

Parâmetros de Tipo Genérico

TInput

O tipo a partir do qual serão gerados os embeddings.

TEmbedding

O tipo de embeddings a gerar.

Herança

Observações

A implementação fornecida de IEmbeddingGenerator<TInput,TEmbedding> é thread-safe para uso concorrente, desde que a utilizada IDistributedCache seja igualmente thread-safe para uso concorrente.

Construtores

Name Description
DistributedCachingEmbeddingGenerator<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IDistributedCache)

Inicializa uma nova instância da DistributedCachingEmbeddingGenerator<TInput,TEmbedding> classe.

Propriedades

Name Description
CacheKeyAdditionalValues

Obtém ou define valores adicionais usados para informar a chave de cache empregada para armazenar estado.

InnerGenerator

Obtém o interior IEmbeddingGenerator<TInput,TEmbedding>.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
JsonSerializerOptions

Obtém ou define opções de serialização JSON para usar ao serializar dados de cache.

Métodos

Name Description
Dispose()

Realiza tarefas definidas pela aplicação associadas à libertação, libertação ou reinício de recursos não geridos.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
Dispose(Boolean)

Fornece um mecanismo para libertar recursos não geridos.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
GenerateAsync(IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Representa um gerador de embedding delegado que armazena em cache os resultados das chamadas de geração de embedding, armazenando-as como JSON num IDistributedCachearquivo .

(Herdado de CachingEmbeddingGenerator<TInput,TEmbedding>)
GetCacheKey(ReadOnlySpan<Object>)

Calcula uma chave de cache para os valores especificados.

GetService(Type, Object)

Pergunta a IEmbeddingGenerator<TInput,TEmbedding> um objeto do tipo serviceTypeespecificado .

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
ReadCacheAsync(String, CancellationToken)

Devolve um arquivo previamente armazenado Embedding<T>em cache , se disponível.

WriteCacheAsync(String, TEmbedding, CancellationToken)

Armazena a TEmbedding na cache subjacente.

Métodos da Extensão

Name Description
AsBuilder<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>)

Cria um novo EmbeddingGeneratorBuilder<TInput,TEmbedding> uso innerGenerator como gerador interno.

GenerateAndZipAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Gera embeddings para cada um dos fornecidos values e produz uma lista que emparelha cada valor de entrada com o seu embedding resultante.

GenerateAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, TInput, EmbeddingGenerationOptions, CancellationToken)

Gera um embedding a partir do especificado value.

GetRequiredService(IEmbeddingGenerator, Type, Object)

Pede IEmbeddingGenerator<TInput,TEmbedding> um objeto do tipo serviceType especificado e lança uma exceção caso não esteja disponível.

GetRequiredService<TService>(IEmbeddingGenerator, Object)

Pede um IEmbeddingGenerator<TInput,TEmbedding> objeto do tipo TService e lança uma exceção se não estiver disponível.

GetService<TService>(IEmbeddingGenerator, Object)

Pede a IEmbeddingGenerator<TInput,TEmbedding> um objeto do tipo TService.

Aplica-se a