DistributedCachingEmbeddingGenerator<TInput,TEmbedding> Classe

Definição

Representa um gerador de inserção delegando que armazena em cache os resultados da inserção de chamadas de geração, armazenando-as como JSON em um IDistributedCache.

generic <typename TInput, typename TEmbedding>
 where TEmbedding : Embeddingpublic ref class DistributedCachingEmbeddingGenerator : Microsoft::Extensions::AI::CachingEmbeddingGenerator<TInput, TEmbedding>
public class DistributedCachingEmbeddingGenerator<TInput,TEmbedding> : Microsoft.Extensions.AI.CachingEmbeddingGenerator<TInput,TEmbedding> where TEmbedding : Embedding
type DistributedCachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)> = class
    inherit CachingEmbeddingGenerator<'Input, 'Embedding (requires 'Embedding :> Embedding)>
Public Class DistributedCachingEmbeddingGenerator(Of TInput, TEmbedding)
Inherits CachingEmbeddingGenerator(Of TInput, TEmbedding)

Parâmetros de tipo

TInput

O tipo do qual as inserções serão geradas.

TEmbedding

O tipo de inserções a serem geradas.

Herança

Comentários

A implementação IEmbeddingGenerator<TInput,TEmbedding> fornecida é thread-safe para uso simultâneo, desde que o empregado IDistributedCache seja igualmente thread-safe para uso simultâneo.

Construtores

Nome Description
DistributedCachingEmbeddingGenerator<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IDistributedCache)

Inicializa uma nova instância da classe DistributedCachingEmbeddingGenerator<TInput,TEmbedding>.

Propriedades

Nome Description
CacheKeyAdditionalValues

Obtém ou define valores adicionais usados para informar a chave de cache empregada para armazenar o estado.

InnerGenerator

Obtém o interior IEmbeddingGenerator<TInput,TEmbedding>.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
JsonSerializerOptions

Obtém ou define as opções de serialização JSON a serem usadas ao serializar dados de cache.

Métodos

Nome Description
Dispose()

Executa tarefas definidas pelo aplicativo associadas à liberação, liberação ou redefinição de recursos não gerenciados.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
Dispose(Boolean)

Fornece um mecanismo para liberar recursos não gerenciados.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
GenerateAsync(IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Representa um gerador de inserção delegando que armazena em cache os resultados da inserção de chamadas de geração, armazenando-as como JSON em um IDistributedCache.

(Herdado de CachingEmbeddingGenerator<TInput,TEmbedding>)
GetCacheKey(ReadOnlySpan<Object>)

Calcula uma chave de cache para os valores especificados.

GetService(Type, Object)

Solicita um IEmbeddingGenerator<TInput,TEmbedding> objeto do tipo serviceTypeespecificado.

(Herdado de DelegatingEmbeddingGenerator<TInput,TEmbedding>)
ReadCacheAsync(String, CancellationToken)

Retorna um cache Embedding<T>anteriormente, se disponível.

WriteCacheAsync(String, TEmbedding, CancellationToken)

Armazena um TEmbedding no cache subjacente.

Métodos de Extensão

Nome Description
AsBuilder<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>)

Cria um novo EmbeddingGeneratorBuilder<TInput,TEmbedding> uso innerGenerator como seu gerador interno.

GenerateAndZipAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, IEnumerable<TInput>, EmbeddingGenerationOptions, CancellationToken)

Gera inserções para cada um dos fornecidos values e produz uma lista que emparelha cada valor de entrada com sua inserção resultante.

GenerateAsync<TInput,TEmbedding>(IEmbeddingGenerator<TInput,TEmbedding>, TInput, EmbeddingGenerationOptions, CancellationToken)

Gera uma inserção a partir do especificado value.

GetRequiredService(IEmbeddingGenerator, Type, Object)

Solicita um IEmbeddingGenerator<TInput,TEmbedding> objeto do tipo serviceType especificado e gera uma exceção se um não estiver disponível.

GetRequiredService<TService>(IEmbeddingGenerator, Object)

Solicita um IEmbeddingGenerator<TInput,TEmbedding> objeto de tipo TService e gera uma exceção se um não estiver disponível.

GetService<TService>(IEmbeddingGenerator, Object)

Solicita um IEmbeddingGenerator<TInput,TEmbedding> objeto do tipo TService.

Aplica-se a