Introducción
Los controles de seguridad de ia son las medidas y protocolos implementados para proteger los sistemas de inteligencia artificial frente a amenazas, vulnerabilidades y acceso no autorizado. Aunque se siguen aplicando controles de seguridad tradicionales (como la seguridad de red, la administración de acceso y el cifrado), los sistemas de inteligencia artificial requieren controles adicionales y especializados que abordan los riesgos únicos introducidos por las interfaces de lenguaje natural, el comportamiento del modelo y las funcionalidades del agente.
En este módulo se proporciona información general sobre los controles de seguridad que puede implementar en los sistemas de inteligencia artificial para reforzar la posición de seguridad de los entornos de inteligencia artificial. Explorará los controles en varias áreas: seguridad de la cadena de suministro para bibliotecas de INTELIGENCIA ARTIFICIAL, filtrado de contenido, seguridad de datos, diseño de avisos del sistema, puesta en tierra, procedimientos recomendados de seguridad de aplicaciones y supervisión continua.
Objetivos de aprendizaje
Al finalizar este módulo, podrá hacer lo siguiente:
- Evaluación de las bibliotecas de IA de código abierto para los riesgos de seguridad
- Describir las funcionalidades de filtrado de contenido y cómo configurarlas de forma eficaz
- Explicación de los principios de seguridad de datos de inteligencia artificial, incluida la identidad del agente y el control de acceso
- Diseñar metaprompts efectivos (avisos del sistema) como control de seguridad
- Describa cómo la puesta a tierra reduce el contenido inexacto generado por inteligencia artificial y los riesgos de seguridad.
- Aplicar las mejores prácticas de seguridad de aplicaciones a aplicaciones habilitadas para IA
- Describir las estrategias de supervisión para detectar amenazas específicas de la inteligencia artificial
Requisitos previos
- Conocimientos básicos de los conceptos de seguridad (por ejemplo, autenticación, control de acceso, cifrado)
- Familiaridad con conceptos básicos de inteligencia artificial (por ejemplo, modelos, entrenamiento, inferencia)
- Finalización del módulo aspectos básicos de la seguridad de la inteligencia artificial o conocimientos equivalentes