DistributedCachingChatClient Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Um cliente de chat de delegação que armazena em cache os resultados de chamadas de resposta, armazenando-os como JSON em um IDistributedCache.
public ref class DistributedCachingChatClient : Microsoft::Extensions::AI::CachingChatClientpublic class DistributedCachingChatClient : Microsoft.Extensions.AI.CachingChatClienttype DistributedCachingChatClient = class
inherit CachingChatClientPublic Class DistributedCachingChatClient
Inherits CachingChatClient- Herança
Comentários
O DistributedCachingChatClient emprega a serialização JSON como parte do armazenamento de dados armazenados em cache. Não é garantido que os modelos de objeto usados porChatMessage, , ChatOptions, ChatResponseChatResponseUpdateou qualquer um dos outros objetos no pipeline do cliente de chat percorrerão a serialização JSON com total fidelidade. Por exemplo, RawRepresentation serão ignorados e Object os valores em AdditionalProperties desserializarão como JsonElement e não como o tipo original. Em geral, o uso DistributedCachingChatClient de código deve depender apenas do acesso a dados que podem ser preservados bem o suficiente por meio da serialização e desserialização JSON.
A implementação IChatClient fornecida é thread-safe para uso simultâneo, desde que o empregado IDistributedCache seja igualmente thread-safe para uso simultâneo.
Construtores
| Nome | Description |
|---|---|
| DistributedCachingChatClient(IChatClient, IDistributedCache) |
Inicializa uma nova instância da classe DistributedCachingChatClient. |
Propriedades
| Nome | Description |
|---|---|
| CacheKeyAdditionalValues |
Obtém ou define valores adicionais usados para informar a chave de cache empregada para armazenar o estado. |
| CoalesceStreamingUpdates |
Obtém ou define um valor que indica se as atualizações de streaming são coalescidas. (Herdado de CachingChatClient) |
| InnerClient |
Obtém o interior IChatClient. (Herdado de DelegatingChatClient) |
| JsonSerializerOptions |
Obtém ou define as opções de serialização JSON a serem usadas ao serializar dados de cache. |
Métodos
| Nome | Description |
|---|---|
| Dispose() |
Executa tarefas definidas pelo aplicativo associadas à liberação, liberação ou redefinição de recursos não gerenciados. (Herdado de DelegatingChatClient) |
| Dispose(Boolean) |
Fornece um mecanismo para liberar recursos não gerenciados. (Herdado de DelegatingChatClient) |
| EnableCaching(IEnumerable<ChatMessage>, ChatOptions) |
Determina se o cache deve ser usado com a solicitação especificada. (Herdado de CachingChatClient) |
| GetCacheKey(IEnumerable<ChatMessage>, ChatOptions, ReadOnlySpan<Object>) |
Calcula uma chave de cache para os valores especificados. |
| GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Um cliente de chat de delegação que armazena em cache os resultados de chamadas de resposta, armazenando-os como JSON em um IDistributedCache. (Herdado de CachingChatClient) |
| GetService(Type, Object) |
Solicita um IChatClient objeto do tipo |
| GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken) |
Um cliente de chat de delegação que armazena em cache os resultados de chamadas de resposta, armazenando-os como JSON em um IDistributedCache. (Herdado de CachingChatClient) |
| ReadCacheAsync(String, CancellationToken) |
Retorna um cache ChatResponseanteriormente, se disponível. Isso é usado quando há uma chamada para GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| ReadCacheStreamingAsync(String, CancellationToken) |
Retorna uma lista de ChatResponseUpdate valores armazenada em cache anteriormente, se disponível. Isso é usado quando há uma chamada para GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheAsync(String, ChatResponse, CancellationToken) |
Armazena um ChatResponse no cache subjacente. Isso é usado quando há uma chamada para GetResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
| WriteCacheStreamingAsync(String, IReadOnlyList<ChatResponseUpdate>, CancellationToken) |
Armazena uma lista de ChatResponseUpdate valores no cache subjacente. Isso é usado quando há uma chamada para GetStreamingResponseAsync(IEnumerable<ChatMessage>, ChatOptions, CancellationToken). |
