Einführung

  • 2 Minuten

KI führt viele neue und spannende Funktionen ein, bringt aber auch neue Sicherheitsrisiken mit sich. Die Schnittstellen in natürlicher Sprache, nicht deterministisches Verhalten und komplexe Datenpipelinen, die KI-Systeme leistungsfähig machen, erweitern auch die Angriffsfläche so, dass herkömmliche Cybersicherheitssteuerelemente nicht vollständig adressiert werden.

In diesem Modul erfahren Sie, wie sich KI-Sicherheit von herkömmlicher Cybersicherheit unterscheidet, das dreistufige KI-Architekturmodell erkunden und die wichtigsten KI-spezifischen Angriffstechniken untersuchen – einschließlich Jailbreaking, Prompt Injection, Modellmanipulation, Datenexfiltration und Überlastung. Für jeden Angriffstyp lernen Sie auch die Gegenmaßnahmenstrategien kennen, die Organisationen zum Verringern des Risikos verwenden.

Lernziele

Am Ende dieses Moduls können Sie:

  • Beschreiben, wie sich KI-Sicherheit von herkömmlicher Cybersicherheit unterscheidet
  • Identifizieren der drei Ebenen der KI-Architektur und der Sicherheitsbedenken auf jeder Ebene
  • Erklären Sie KI-spezifische Angriffstechniken wie Jailbreaking, Prompt Injection, Modellmanipulation, Datenexfiltration und übermäßige Abhängigkeit.
  • Beschreiben Sie Mitigationsstrategien für jeden Angriffstyp

Voraussetzungen

  • Vertrautheit mit grundlegenden Sicherheitskonzepten (z. B. Authentifizierung, Zugriffssteuerung, Verschlüsselung)
  • Vertrautheit mit grundlegenden Konzepten der künstlichen Intelligenz (z. B. Modelle, Schulung, Rückschluss)