Présentation des tests de la sécurité IA
Débutant
Développeur
Azure
Découvrez le red teaming appliqué à l’IA, les trois catégories de tests de sécurité de l’IA, ainsi que la manière de planifier et d’exécuter des exercices de red teaming pour les LLM et les applications intégrant de l’IA.
Objectifs d’apprentissage
Une fois ce module terminé, vous pouvez :
- Décrire ce qu’est le red teaming appliqué à l’IA et en quoi il diffère des tests de sécurité traditionnels.
- Identifier les trois catégories de red teaming appliqué à l’IA et les compétences requises pour chacune
- Planifier un exercice de red teaming appliqué à l’IA, y compris la composition de l’équipe et la méthodologie de test
- Décrire comment les outils automatisés de red teaming complètent les tests manuels
Prérequis
Pour tirer le maximum d’enseignements de ce module, vous devez posséder des connaissances et de l’expérience dans les domaines suivants :
- Concepts de sécurité fondamentaux (par exemple, authentification, contrôle d’accès, chiffrement)
- Concepts fondamentaux de l’IA (par exemple, modèles, entraînement, inférence)
- Types d’attaques par IA couvertes dans les principes de base du module de sécurité IA
- Contrôles de sécurité couverts dans le module contrôles de sécurité IA
Prise en main d’Azure
Choisissez le compte Azure qui vous convient. Payez à l’utilisation ou essayez Azure gratuitement pendant jusqu’à 30 jours. S’inscrire.