Présentation

  • 2 minutes

Les contrôles de sécurité ia sont les mesures et protocoles implémentés pour protéger les systèmes d’intelligence artificielle contre les menaces, les vulnérabilités et l’accès non autorisé. Bien que les contrôles de sécurité traditionnels (tels que la sécurité réseau, la gestion des accès et le chiffrement) s’appliquent toujours, les systèmes IA nécessitent des contrôles supplémentaires et spécialisés qui répondent aux risques uniques introduits par les interfaces de langage naturel, le comportement du modèle et les fonctionnalités d’agent.

Ce module fournit une vue d’ensemble des contrôles de sécurité que vous pouvez implémenter dans les systèmes IA pour renforcer la posture de sécurité des environnements IA. Vous explorez les contrôles dans plusieurs domaines : sécurité de la chaîne d’approvisionnement pour les bibliothèques IA, filtrage de contenu, sécurité des données, conception d’invite du système, mise au sol, bonnes pratiques de sécurité des applications et surveillance continue.

Diagramme montrant les sept zones de contrôle de sécurité IA couvertes dans ce module.

Objectifs d’apprentissage

À la fin de ce module, vous pouvez :

  • Évaluer les bibliothèques IA open source pour les risques de sécurité
  • Décrire les fonctionnalités de filtrage de contenu et comment les configurer efficacement
  • Expliquer les principes de sécurité des données IA, notamment l’identité de l’agent et le contrôle d’accès
  • Concevoir des métaprompts efficaces (invites système) en tant que contrôle de sécurité
  • Décrire comment l'ancrage réduit les contenus inexactes générés par l’IA et les risques de sécurité.
  • Appliquer les meilleures pratiques de sécurité des applications aux applications compatibles avec l’IA
  • Décrire les stratégies de surveillance pour détecter les menaces spécifiques à l’IA

Prérequis

  • Connaissance des concepts de sécurité de base (par exemple, authentification, contrôle d’accès, chiffrement)
  • Connaissance des concepts d’intelligence artificielle de base (par exemple, modèles, entraînement, inférence)
  • Achèvement des principes fondamentaux du module de sécurité IA ou des connaissances équivalentes