Tool zur Inhaltssicherheit (Text)

Warning

Die Entwicklung der Prompt Flow-Funktion endete am 20. April 2026. Das Feature wird am 20. April 2027 vollständig eingestellt. Am Einstellungsdatum wechselt der Eingabeaufforderungsfluss in den schreibgeschützten Modus. Ihre vorhandenen Flüsse werden bis zu diesem Datum weiterhin ausgeführt.

Recommended action: Migrieren Sie Ihre Aufforderungsflussworkloads zu Microsoft Agent Framework vor dem 20. April 2027.

Azure KI Inhaltssicherheit ist ein von Microsoft entwickelter Inhaltsmoderationsdienst, der Ihnen hilft, schädliche Inhalte aus verschiedenen Modalitäten und Sprachen zu erkennen. Das Tool zur Inhaltssicherheit (Text) ist ein Wrapper für die Azure KI Inhaltssicherheit Text-API, mit dem Sie Textinhalte erkennen und Moderationsergebnisse erhalten können. Weitere Informationen finden Sie unter Azure KI Inhaltssicherheit.

Prerequisites

  • Erstellen Sie eine Azure KI InhaltssicherheitRessource.
  • Fügen Sie eine Azure Content Safety-Verbindung im Eingabeaufforderungsfluss hinzu. Füllen Sie das API key Feld aus Primary key dem Keys and Endpoint Abschnitt der erstellten Ressource aus.

Inputs

Sie können die folgenden Parameter als Eingaben für dieses Tool verwenden:

Name Type Description Required
text string Text, der moderiert werden muss. Yes
hate_category string Moderationsempfindlichkeit für die Hate Kategorie. Wählen Sie aus vier Optionen: disable, , low_sensitivity, medium_sensitivityoder high_sensitivity. Die disable Option bedeutet keine Moderation für die Hate Kategorie. Die anderen drei Optionen bedeuten unterschiedliche Strenge bei der Filterung von Hassinhalten. Der Standardwert ist medium_sensitivity. Yes
sexual_category string Moderationsempfindlichkeit für die Sexual Kategorie. Wählen Sie aus vier Optionen: disable, , low_sensitivity, medium_sensitivityoder high_sensitivity. Die disable Option bedeutet keine Moderation für die Sexual Kategorie. Die anderen drei Optionen bedeuten unterschiedliche Strenge bei der Filterung sexueller Inhalte. Der Standardwert ist medium_sensitivity. Yes
self_harm_category string Moderationsempfindlichkeit für die Self-harm Kategorie. Wählen Sie aus vier Optionen: disable, , low_sensitivity, medium_sensitivityoder high_sensitivity. Die disable Option bedeutet keine Moderation für die Self-harm Kategorie. Die anderen drei Optionen bedeuten unterschiedliche Strenge bei der Filterung von Selbstverletzungsinhalten. Der Standardwert ist medium_sensitivity. Yes
violence_category string Moderationsempfindlichkeit für die Violence Kategorie. Wählen Sie aus vier Optionen: disable, , low_sensitivity, medium_sensitivityoder high_sensitivity. Die disable Option bedeutet keine Moderation für die Violence Kategorie. Die anderen drei Optionen bedeuten unterschiedliche Strenge bei der Filterung von Gewaltinhalten. Der Standardwert ist medium_sensitivity. Yes

Weitere Informationen finden Sie unter Azure KI Inhaltssicherheit.

Outputs

Das folgende Beispiel ist eine Beispiel-JSON-Formatantwort, die vom Tool zurückgegeben wird:

{
    "action_by_category": {
      "Hate": "Accept",
      "SelfHarm": "Accept",
      "Sexual": "Accept",
      "Violence": "Accept"
    },
    "suggested_action": "Accept"
  }

Das action_by_category Feld enthält einen binärwert für jede Kategorie: Accept oder Reject. Dieser Wert zeigt, ob der Text die Vertraulichkeitsstufe erfüllt, die Sie in den Anforderungsparametern für diese Kategorie festgelegt haben.

Das suggested_action Feld gibt Ihnen eine allgemeine Empfehlung basierend auf den vier Kategorien. Wenn eine Kategorie einen Reject Wert aufweist, ist dies suggested_action ebenfalls Rejectder Fall.

  • Last updated on