Introducción a las pruebas de seguridad de inteligencia artificial
Principiante
Desarrollador
Azure
Obtenga información sobre los equipos rojos de IA, las tres categorías de pruebas de seguridad de IA y cómo planear y ejecutar ejercicios de red teaming para los LLM y las aplicaciones habilitadas para IA.
Objetivos de aprendizaje
Después de completar este módulo, podrá:
- Describir qué es la formación de equipos rojos de IA y cómo difiere de las pruebas de seguridad tradicionales
- Identificar las tres categorías de formación de equipos rojos de IA y las aptitudes que cada una requiere
- Planificar un ejercicio de equipo rojo de IA, incluida la composición del equipo y la metodología de pruebas
- Describir cómo las herramientas automatizadas de red teaming complementan las pruebas manuales
Requisitos previos
Para obtener la mejor experiencia de aprendizaje en este módulo, debe tener conocimientos y experiencia en relación con lo siguiente:
- Conceptos básicos de seguridad (por ejemplo, autenticación, control de acceso, cifrado)
- Conceptos fundamentales de inteligencia artificial (por ejemplo, modelos, entrenamiento, inferencia)
- Los tipos de ataques de inteligencia artificial descritos en el módulo Aspectos básicos de la seguridad de la inteligencia artificial
- Los controles de seguridad descritos en el módulo de controles de seguridad de IA
Introducción a Azure
Elija la cuenta de Azure adecuada para usted. Pague a medida que habla o pruebe Azure gratis durante 30 días. Regístrese.