Protección de agentes de inteligencia artificial a escala mediante Microsoft Agent 365

A medida que las organizaciones adoptan agentes de inteligencia artificial a escala, la protección de ellos se ha convertido en una preocupación crítica. Microsoft Agent 365 amplía la infraestructura de seguridad existente (Microsoft Defender, Microsoft Entra y Microsoft Purview) a los agentes, con funcionalidades diseñadas para proteger los agentes.

En este artículo se describe cómo Microsoft Agent 365 protege los agentes de inteligencia artificial.

Un modelo de seguridad distribuido con visibilidad centralizada

Los agentes de inteligencia artificial presentan nuevos desafíos de seguridad, entre los que se incluyen:

• Proliferación de agentes creados por el usuario y agentes SaaS que amplían la superficie de ataque
• Agentes con privilegios excesivos con acceso excesivo a recursos
• Uso indebido de herramientas cuando se manipula a los agentes para abusar de herramientas autorizadas
• Agentes mal configurados o vulnerables sin autenticación o límites adecuados
• Amenazas tradicionales de inteligencia artificial, como la inyección de comandos y la fuga de datos, que ahora se extienden a través de las interacciones de los agentes.

Como parte de Microsoft Agent 365, Microsoft Defender, Microsoft Entra y Microsoft Purview ahora proporcionan controles diseñados específicamente para los agentes. Los profesionales de seguridad continúan trabajando en las herramientas que ya usan, con perspectivas del agente y recomendaciones presentadas directamente en el portal de cada uno de los productos.

La información general del agente 365 en la Centro de administración de Microsoft 365 proporciona visibilidad centralizada de los agentes de inteligencia artificial en toda la organización, incluidas las señales de seguridad y información de uso que ayudan a los administradores a tomar medidas.

Los equipos de seguridad definen los requisitos de gobernanza mediante la creación de plantillas de directiva, como paquetes de acceso en Microsoft Entra. Durante la incorporación, los equipos de TI aplican estas plantillas a los agentes, lo que garantiza que la gobernanza y el cumplimiento se aplican desde el principio.

Control de acceso con Microsoft Entra

Los agentes que se expanden o acumulan permisos excesivos crean riesgos. Microsoft Entra proporciona visibilidad sobre todas las identidades del agente y ayuda a aplicar el acceso con privilegios mínimos:

• Visibilidad de las identidades de los agentes: obtenga la vista completa de todos los agentes de la organización, incluidos los agentes con un Agente de Entra ID, los agentes que usted mismo registra y los agentes fantasma.

  

• Acceso condicional y protección de identidad : amplíe las directivas de acceso condicional y protección de identidad de los usuarios a los agentes. Aplique decisiones de acceso en tiempo real basadas en el contexto del agente, el nivel de riesgo y la confidencialidad de los recursos.

  

• Secure Access Service Edge (SASE): supervise y bloquee el tráfico de red malintencionado y no compatible desde agentes que se ejecutan en dispositivos de usuario, incluidos los agentes de Copilot Studio.

• Gobernanza y ciclos de vida del agente : asegúrese de que los agentes tienen patrocinadores responsables que proporcionan supervisión y administran el acceso para que no persista más tiempo de lo necesario.

Más información sobre el control de acceso:

• Protege las identidades de los agentes con Microsoft Entra
• ¿Qué es la plataforma de identidad del agente de Microsoft?
• Gestión de identidades de agentes (versión preliminar)
• Acceso condicional para el identificador del agente
• Secure Access Service Edge para agentes

Seguridad de datos con Microsoft Purview

Los agentes crean, acceden y comparten datos entre sistemas, lo que aumenta el riesgo de uso compartido excesivo y exposición a datos confidenciales. Microsoft Purview controla a qué agentes de datos pueden acceder y cómo lo usan, y le ayuda a cumplir las obligaciones de cumplimiento en todo el ciclo de vida del agente:

• Administración de la posición de seguridad de datos: obtenga visibilidad profunda de la interacción de los agentes e identifique los riesgos de exposición de datos relacionados con la inteligencia artificial.
• Etiquetas de confidencialidad: los agentes heredan y respetan las etiquetas de confidencialidad de datos, lo que garantiza una protección de datos coherente entre interacciones humanas y de agente.
• Prevención de pérdida de datos : impide que los agentes accedan y compartan contenido confidencial en función de las directivas y etiquetas de seguridad de datos.
• Administración de riesgos internos y cumplimiento de la comunicación — detecte actividades de riesgo y supervise las interacciones para detectar infracciones de las directivas.
• Auditoría : registre y audite todas las interacciones del agente para la revisión de cumplimiento y la investigación forense.
• Administración del ciclo de vida de los datos : aplique directivas de retención y eliminación al contenido generado por el agente, por lo que los datos solo se mantienen siempre y cuando sea necesario.
• eDiscovery – Busque, conserve y exporte las interacciones y resultados del agente para respaldar investigaciones legales, regulatorias e internas.
• Administrador de Cumplimiento; evalúe las instancias de agente frente a las regulaciones de inteligencia artificial mediante evaluaciones incorporadas para realizar un seguimiento y mejorar su postura de cumplimiento.

Obtenga más información sobre la seguridad y el cumplimiento de los datos:

• Seguridad de datos en Microsoft Agent 365
• Protecciones de seguridad y cumplimiento de datos de Microsoft Purview para Microsoft Agent 365

Protección contra amenazas con Microsoft Defender

Los agentes pueden ser manipulados para hacer un uso indebido de herramientas autorizadas, ser mal configurados sin la adecuada autenticación o ser objetivo de ataques de inyección de comandos. Microsoft Defender identifica estos riesgos y permite una respuesta rápida:

• Administración de la posición de seguridad del agente : identifique y corrija los errores de configuración del agente y los riesgos de exposición. Visualizar trayectorias de ataque de agentes a activos críticos.

  

• Detección y bloqueo de amenazas : detecte actividades sospechosas del agente, reciba alertas y bloquee invocaciones de herramientas malintencionadas en tiempo real.

  

• Investigación y búsqueda de amenazas : recopile registros de observabilidad de agentes unificados y busque amenazas en toda la actividad del agente.

  captura de pantalla

Más información sobre la protección contra amenazas:

• inventario de agentes de IA en Microsoft Defender XDR
• Detección y protección de agentes de IA en Microsoft Defender XDR

Pasos siguientes

Más información sobre Microsoft Agent 365:

• documentación de Microsoft Agent 365
• Entrada de blog de Microsoft Agent 365: Plano de control para agentes de IA