ReportingConfiguration.CachingKeys Propriedade
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Obtém a coleção de cadeias de caracteres exclusivas que devem ser hash ao gerar as chaves de cache para respostas de IA armazenadas em cache.
public:
property System::Collections::Generic::IReadOnlyList<System::String ^> ^ CachingKeys { System::Collections::Generic::IReadOnlyList<System::String ^> ^ get(); };public System.Collections.Generic.IReadOnlyList<string> CachingKeys { get; }member this.CachingKeys : System.Collections.Generic.IReadOnlyList<string>Public ReadOnly Property CachingKeys As IReadOnlyList(Of String)Valor da propriedade
Comentários
Se nenhuma chave de cache adicional for fornecida, as chaves de cache para uma resposta armazenada em cache serão geradas com base no conteúdo da solicitação de IA que produziu essa resposta, metadados como nome do modelo e ponto de extremidade presentes no configurado IChatClient e que ChatOptions são fornecidos como parte da geração da resposta.
Além disso, o nome do cenário e a iteração são sempre incluídos na chave de cache. Isso significa que as respostas armazenadas em cache para um cenário específico e iteração não serão reutilizados para um cenário e iteração diferentes, mesmo que o conteúdo da solicitação de IA e os metadados sejam os mesmos.
O fornecimento de chaves de cache adicionais pode ser útil quando alguns fatores externos precisam ser considerados ao decidir se uma resposta de IA armazenada em cache ainda é válida. Por exemplo, considere o caso em que uma das chaves de cache adicionais fornecidas é a versão do modelo de IA que está sendo invocado. Se o produto passar para uma versão mais recente do modelo, a atualização da chave de cache para refletir essa alteração fará com que todas as entradas armazenadas em cache que dependem dessa chave de cache sejam invalidadas, garantindo que as avaliações subsequentes não usem as respostas em cache desatualizadas produzidas pela versão anterior do modelo.
