ReportingConfiguration.CachingKeys Eigenschaft
Definition
Wichtig
Einige Informationen beziehen sich auf Vorabversionen, die vor dem Release ggf. grundlegend überarbeitet werden. Microsoft übernimmt hinsichtlich der hier bereitgestellten Informationen keine Gewährleistungen, seien sie ausdrücklich oder konkludent.
Ruft die Auflistung eindeutiger Zeichenfolgen ab, die beim Generieren der Cacheschlüssel für zwischengespeicherte KI-Antworten hashen sollen.
public:
property System::Collections::Generic::IReadOnlyList<System::String ^> ^ CachingKeys { System::Collections::Generic::IReadOnlyList<System::String ^> ^ get(); };public System.Collections.Generic.IReadOnlyList<string> CachingKeys { get; }member this.CachingKeys : System.Collections.Generic.IReadOnlyList<string>Public ReadOnly Property CachingKeys As IReadOnlyList(Of String)Eigenschaftswert
Hinweise
Wenn keine zusätzlichen Zwischenspeicherungsschlüssel bereitgestellt werden, werden die Cacheschlüssel für eine zwischengespeicherte Antwort basierend auf dem Inhalt der KI-Anforderung generiert, die diese Antwort erzeugt hat, Metadaten wie Modellname und Endpunkt, die in der Konfiguration IChatClient vorhanden sind und die ChatOptions als Teil der Generierung der Antwort bereitgestellt werden.
Darüber hinaus sind der Name des Szenarios und die Iteration immer im Cacheschlüssel enthalten. Dies bedeutet, dass die zwischengespeicherten Antworten für ein bestimmtes Szenario und die Iteration nicht für ein anderes Szenario und eine Iteration wiederverwendet werden, auch wenn der Inhalt und die Metadaten der KI-Anforderung identisch sind.
Die Bereitstellung zusätzlicher Cacheschlüssel kann nützlich sein, wenn einige externe Faktoren berücksichtigt werden müssen, wenn Sie entscheiden, ob eine zwischengespeicherte KI-Antwort noch gültig ist. Betrachten Sie beispielsweise den Fall, in dem einer der bereitgestellten zusätzlichen Cacheschlüssel die Version des KI-Modells ist, das aufgerufen wird. Wenn das Produkt zu einer neueren Version des Modells wechselt, führt das Aktualisieren des Zwischenspeicherschlüssels, um diese Änderung widerzuspiegeln, dazu, dass alle zwischengespeicherten Einträge, die auf diesen Zwischenspeicherschlüssel angewiesen sind, ungültig werden, wodurch sichergestellt wird, dass die nachfolgenden Auswertungen nicht die veralteten zwischengespeicherten Antworten verwenden, die von der vorherigen Modellversion erstellt wurden.
