Este explorador ya no se admite.
Actualice a Microsoft Edge para aprovechar las características y actualizaciones de seguridad más recientes, y disponer de soporte técnico.
Elija la respuesta más adecuada para cada pregunta.
¿Cuál de las siguientes es una categoría de formación de equipos rojos de IA?
Formación de equipos rojo de pila completa
Pruebas de nivel 7
Pruebas de modelos
Está probando un sistema de inteligencia artificial mediante la elaboración de avisos diseñados para omitir las instrucciones de seguridad del sistema. ¿Qué categoría de formación de equipos rojos de IA es esta?
Aprendizaje automático adversarial
Inyección de instrucciones
¿Cuál de las siguientes pruebas debe probarse como parte de la formación de equipos rojos de IA?
Tanto el LLM base como la capa de aplicación
Solo el LLM base a través de endpoints de API
Solo la aplicación a través de su interfaz de usuario
¿Por qué es importante incluir profesionales ajenos a la seguridad en un equipo rojo de evaluación de inteligencia artificial?
Los profesionales que no son de seguridad son menos costosos de contratar
Los usuarios normales pueden aportar perspectivas sobre daños que los profesionales de seguridad podrían no considerar
Los profesionales de seguridad no son necesarios para la formación de equipos rojos de IA
¿Por qué la formación de equipos rojos de IA requiere varios intentos de la misma prueba?
Para comprobar que el entorno de prueba está configurado correctamente
Dado que los sistemas de IA generativos son probabilísticos, la misma entrada puede producir salidas diferentes cada vez.
Dado que los modelos de IA cambian entre cada ejecución de prueba
Debe responder todas las preguntas antes de comprobar su trabajo.
¿Le ha resultado útil esta página?
¿Necesita ayuda con este tema?
¿Desea intentar usar Ask Learn para aclarar o guiarle a través de este tema?