DistributedCachingChatClient Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Um cliente de chat de delegação que armazena em cache os resultados das chamadas de resposta, armazenando-as como JSON num IDistributedCachearquivo .
public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClientpublic class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClienttype DistributedCachingChatClient = class
inherit CachingChatClientPublic Class DistributedCachingChatClient
Inherits CachingChatClient- Herança
Observações
O DistributedCachingChatClient sistema utiliza serialização JSON como parte do armazenamento de dados em cache. Não é garantido que os modelos de objetos usados por ChatMessage, ChatOptions, ChatResponse, ChatResponseUpdate, ou qualquer outro objeto no pipeline cliente de chat irão fazer uma viagem de ida e volta através da serialização JSON com fidelidade total. Por exemplo, RawRepresentation será ignorado, e Object os valores em AdditionalProperties irão desserializar-se como JsonElement em vez do tipo original. Em geral, o uso DistributedCachingChatClient de código deve basear-se apenas no acesso a dados que possam ser preservados suficientemente bem através da serialização e desserialização JSON.
A implementação fornecida de IChatClient é thread-safe para uso concorrente, desde que a utilizada IDistributedCache seja igualmente thread-safe para uso concorrente.
Construtores
| Name | Description |
|---|---|
| DistributedCachingChatClient(IChatClient, IDistributedCache) |
Inicializa uma nova instância da DistributedCachingChatClient classe. |
Propriedades
| Name | Description |
|---|---|
| CacheKeyAdditionalValues |
Obtém ou define valores adicionais usados para informar a chave de cache empregada para armazenar estado. |
| CoalesceStreamingUpdates |
Recebe ou define um valor que indica se as atualizações em streaming estão coalecidas. (Herdado de CachingChatClient) |
| InnerClient |
Obtém o interior IChatClient. (Herdado de DelegatingChatClient) |
| JsonSerializerOptions |
Obtém ou define opções de serialização JSON para usar ao serializar dados de cache. |
Métodos
| Name | Description |
|---|---|
| Dispose() |
Realiza tarefas definidas pela aplicação associadas à libertação, libertação ou reinício de recursos não geridos. (Herdado de DelegatingChatClient) |
| Dispose(Boolean) |
Fornece um mecanismo para libertar recursos não geridos. (Herdado de DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Determina se o cache deve ser usado com o pedido especificado. (Herdado de CachingChatClient) |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Calcula uma chave de cache para os valores especificados. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Um cliente de chat de delegação que armazena em cache os resultados das chamadas de resposta, armazenando-as como JSON num IDistributedCachearquivo . (Herdado de CachingChatClient) |
| GetService(Type, Object) |
Pergunta a IChatClient um objeto do tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Um cliente de chat de delegação que armazena em cache os resultados das chamadas de resposta, armazenando-as como JSON num IDistributedCachearquivo . (Herdado de CachingChatClient) |
| ReadCacheAsync(String, CancellationToken) |
Devolve um arquivo previamente armazenado ChatResponseem cache , se disponível. Isto é usado quando existe uma chamada para GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Devolve uma lista de ChatResponseUpdate valores previamente armazenada em cache, se disponível. Isto é usado quando existe uma chamada para GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Armazena a ChatResponse na cache subjacente. Isto é usado quando existe uma chamada para GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Armazena uma lista de ChatResponseUpdate valores na cache subjacente. Isto é usado quando existe uma chamada para GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
