Ce navigateur n’est plus pris en charge.
Effectuez une mise à niveau vers Microsoft Edge pour tirer parti des dernières fonctionnalités, des mises à jour de sécurité et du support technique.
Choisissez la meilleure réponse à chaque question.
Parmi les éléments suivants, lequel est une catégorie de Red Teaming de l’IA ?
Red teaming de bout en bout
Test de couche 7
Test de modèle
Vous testez un système d'IA en formulant des invites destinées à contourner les instructions de sécurité du système. À quelle catégorie de red teaming appliqué à l’IA cela correspond-il ?
Apprentissage automatique adversarial
Injection de requêtes
Parmi les éléments suivants, lequel doit être testé dans le cadre du Red Teaming pour l’IA ?
LLM de base et couche d’application
Uniquement le LLM de base via des points de terminaison d’API
L'application ne peut être utilisée que via son interface utilisateur.
Pourquoi est-il important d’inclure des professionnels non spécialisés en sécurité dans une équipe rouge d'IA ?
Les professionnels de la non-sécurité sont moins coûteux à embaucher
Les utilisateurs réguliers peuvent apporter des perspectives sur les préjudices que les professionnels de la sécurité peuvent ne pas envisager
Les professionnels de la sécurité ne sont pas nécessaires pour le red teaming appliqué à l’IA.
Pourquoi le red teaming de l’IA exige-t-il plusieurs itérations du même test ?
Pour vérifier que l’environnement de test est correctement configuré
Étant donné que les systèmes d’IA génératives sont probabilistes, la même entrée peut produire des sorties différentes à chaque fois
Étant donné que les modèles IA changent entre chaque exécution de test
Vous devez répondre à toutes les questions avant de vérifier votre travail.
Cette page a-t-elle été utile ?
Vous avez besoin d’aide pour cette rubrique ?
Vous souhaitez essayer d’utiliser Ask Learn pour clarifier ou vous guider dans cette rubrique ?