Dokumenteinbettung in Eingabeaufforderungen (klassisch)

Gilt nur für:klassisches Foundry-Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar. Erfahren Sie mehr über das neue Portal.

Die Guardrails und Steuerelemente von Microsoft Foundry können besser ausgeführt werden, wenn sie zwischen den verschiedenen Elementen Ihrer Eingabeaufforderung unterscheiden können, z. B. Systemeingaben, Benutzereingaben und die Ausgabe des KI-Assistenten. Um die Erkennungsfunktionen zu verbessern, sollten Prompts nach den folgenden empfohlenen Methoden formatiert werden.

Standardverhalten in der API für Chatabschlusse

Die Chat-Vervollständigungs-API ist definitionsstrukturiert. Eingaben bestehen aus einer Liste von Nachrichten, die jeweils eine zugewiesene Rolle haben.

Das Sicherheitssystem analysiert dieses strukturierte Format und wendet das folgende Verhalten an.

• Auf dem neuesten "Benutzer"-Inhalt werden die folgenden Kategorien von RAI-Risiken erkannt:
  • Hate
  • Sexuell
  • Gewalt
  • Selbstverletzung
  • Prompt Shields (optional)

Dies ist ein Beispiel für ein Nachrichtenarray:

{"role": "system", "content": "Provide some context and/or instructions to the model."}, 
{"role": "user", "content": "Example question goes here."}, 
{"role": "assistant", "content": "Example answer goes here."}, 
{"role": "user", "content": "First question/message for the model to actually respond to."} 

Einbetten von Dokumenten in Ihren Prompt

Neben der Erkennung der letzten Benutzerinhalte unterstützt Azure OpenAI auch die Erkennung bestimmter Risiken innerhalb von Kontextdokumenten über Prompt Shields – Indirect Prompt Attack Detection und Groundedness Detection. Sie sollten die Teile der Eingabe identifizieren, die ein Dokument (z. B. abgerufene Website, E-Mail usw.) mit dem folgenden Dokumenttrennzeichen sind.

\"\"\" <documents> *insert your document content here* </documents> \"\"\" 

Wenn Sie dies tun, stehen die folgenden Optionen für die Erkennung für markierte Dokumente zur Verfügung:

• Indirekte Angriffe (optional)
• Groundedness-Erkennung

Nachfolgend sehen Sie ein Beispiel für das Array der Chatvervollständigungsnachrichten:

{"role": "system", "content": "Provide some context and/or instructions to the model.}, 

{"role": "user", "content": "First question/message for the model to actually respond to, including document context.  \"\"\" <documents>\n*insert your document content here*\n</documents> \"\"\"""}

JSON-Escapezeichen

Wenn Sie ungeprüfte Dokumente zur Erkennung markieren, sollte der Dokumentinhalt als JSON-escaped gekennzeichnet werden, um eine erfolgreiche Verarbeitung durch das Azure OpenAI-Sicherheitssystem sicherzustellen.

Sehen Sie sich beispielsweise den folgenden E-Mail-Text an:

Hello Josè, 

I hope this email finds you well today.

Mit JSON-Escapezeichen würde er folgendermaßen lauten:

Hello Jos\u00E9,\nI hope this email finds you well today. 

Der Text mit Escapezeichen in einem Chatvervollständigungskontext würde folgendermaßen lauten:

{"role": "system", "content": "Provide some context and/or instructions to the model, including document context. \"\"\" <documents>\n Hello Jos\\u00E9,\\nI hope this email finds you well today. \n</documents> \"\"\""}, 

{"role": "user", "content": "First question/message for the model to actually respond to."}