Detetar, bloquear e investigar ameaças a agentes de IA com Microsoft Defender (Pré-visualização)

Os agentes de IA implementados operam de forma autónoma, invocando ferramentas, acedendo a dados e tomando medidas em todos os sistemas em resposta à entrada de linguagem natural. Isto torna crítica a deteção contínua, a proteção do runtime e a investigação. Microsoft Defender deteta comportamentos suspeitos e maliciosos de agentes, bloqueia ações perigosas em tempo real, fornece alertas em tempo quase real e permite que as equipas de segurança investiguem incidentes e rastreiem a causa completa e o raio de explosão.

Este artigo explica como Microsoft Defender deteta, bloqueia e permite que as equipas de segurança investiguem ameaças a agentes de IA geridos através de Microsoft Agent 365, incluindo as capacidades de deteção e proteção alargadas disponíveis para plataformas de agentes suportadas.

Bloquear ações não seguras do agente de IA em tempo real

Microsoft Defender fornece proteção em tempo real (RTP) para impedir que os agentes de IA realizem ações não seguras durante o runtime. O Defender integra-se diretamente com o Work IQ MCP para avaliar invocações de ferramentas iniciadas pelo agente suportadas antes de serem executadas. Se o Defender determinar que uma ação é arriscada, bloqueia a ação antes de o agente a executar, impedindo comportamentos prejudiciais.

A proteção em tempo real concentra-se em ameaças de alta confiança, incluindo:

• Tentativas de extrair ou exfiltrar instruções do sistema ou detalhes internos da ferramenta
• Tentativas diretas de fuga de dados confidenciais
• Utilização indevida de ferramentas apenas internas
• Encaminhar informações para destinos não fidedignos ou maliciosos
• Utilização de conteúdo oculto ou oculto para manipular o comportamento do agente
• Fuga de credenciais através de canais legítimos, como e-mail ou APIs externas

Quando Microsoft Defender bloqueia uma ação, gera um alerta detalhado que explica o que foi bloqueado, por que motivo a ação foi considerada arriscada e que agente, utilizador e ferramenta estiveram envolvidos. Isto garante que as equipas de segurança podem investigar ações bloqueadas através de fluxos de trabalho familiares do Defender.

Habilitar proteção em tempo real

Para ativar a proteção em tempo real para os agentes de IA:

1. Abrir o portal do Microsoft Defender

2. SelecioneSegurança das Definições> do Sistema>para agentes de IA. Esta ação abre a página Definições de segurança para agentes de IA.

3. Certifique-se de que a Segurança dos agentes de IA está ativada.

4. Certifique-se de que Agent 365 está ligado ao abrigo da proteção em tempo real de IA & investigação.

   

5. Para ativar as capacidades de proteção em tempo real alargadas para agentes de Microsoft Copilot Studio, certifique-se de que Copilot Studio está ligado ao abrigo da proteção em tempo real de IA & investigação.

   Para obter mais informações, veja Copilot Studio integração no Microsoft Defender para Aplicativos de Nuvem.

Detetar ameaças do agente de IA em tempo quase real

Microsoft Defender monitoriza continuamente a atividade do agente de IA e deteta comportamentos suspeitos e maliciosos em todos os agentes geridos Agent 365. O Defender analisa a telemetria do agente, a utilização de ferramentas e os padrões de execução para identificar ameaças como tentativas de jailbreak persistentes, atividades suspeitas de utilizadores que envolvem uma tentativa de jailbreak e tentativas suspeitas de execução de agentes.

Microsoft Defender deteções de superfície como alertas quase em tempo real no portal do Defender e permite que as equipas de segurança os investiguem através de fluxos de trabalho de operações de segurança familiares, incluindo triagem de alertas, correlação de incidentes e Investigação Avançada.

Para obter mais informações, veja Incidentes e alertas no portal do Microsoft Defender.

As deteções quase em tempo real dependem de dados de observabilidade Agent 365, que também fornecem contexto valioso para investigar incidentes e investigação de ameaças. Microsoft Defender analisa estes dados para identificar o comportamento suspeito do agente e gerar alertas.

Ativar deteções quase em tempo real e investigação avançada de ameaças

Para ativar alertas quase em tempo real e investigação de ameaças:

1. Ative o conector de aplicações do Microsoft 365 para recolher Agent 365 dados de observabilidade para ações do agente de IA. Para obter mais informações, consulte Ligar o Microsoft 365 ao Microsoft Defender para Aplicativos de Nuvem.
2. Certifique-se de que o agente de IA emite dados de observabilidade para o Microsoft 365.
   • Os agentes criados com Microsoft Copilot Studio enviar dados de observabilidade para o Microsoft 365 por predefinição.
   • Para agentes de IA criados noutras plataformas, ative a observabilidade com o SDK Microsoft Agent 365, conforme descrito na documentação do ciclo de vida de desenvolvimento Agent 365.

Ativar deteções alargadas quase em tempo real para agentes Microsoft Copilot Studio e Microsoft Foundry

Quando ativa as funcionalidades relevantes, os agentes criados com o Microsoft Copilot Studio e o Microsoft Foundry têm um conjunto alargado de alertas de deteção quase em tempo real para além da linha de base disponível para todos os agentes geridos Microsoft Agent 365.

Para ativar estas capacidades expandidas:

• Para agentes do Microsoft Foundry, veja Ativar a proteção contra ameaças para cargas de trabalho de IA do Microsoft Foundry.
• Para Microsoft Copilot Studio agentes, veja integração Copilot Studio no Microsoft Defender para Aplicativos de Nuvem.

Investigar ameaças do agente de IA e investigar riscos com a Investigação Avançada

Microsoft Defender correlaciona os alertas do agente de IA em incidentes e apresenta o contexto relacionado para que as equipas de segurança possam avaliar rapidamente o impacto e priorizar a resposta. Em seguida, a Investigação Avançada permite que os analistas consultem Agent 365 dados de observabilidade através da utilização de Linguagem de Consulta Kusto (KQL) para investigar incidentes e investigar riscos em todo o seu ambiente.

Investigar incidentes e alertas

Microsoft Defender correlaciona alertas do agente de IA, incluindo deteções e alertas quase em tempo real gerados quando a proteção em tempo real bloqueia uma ação em incidentes.

Os analistas de segurança podem utilizar o gráfico de incidentes e a experiência de investigação para compreender o contexto completo de um potencial ataque, incluindo relações entre entidades envolvidas e o raio de explosão de ameaças do agente de IA. Para obter mais informações, veja Incidentes e alertas no portal do Microsoft Defender.

Correlacionar alertas e Agent 365 dados de observabilidade e investigar riscos com a Investigação Avançada

A Investigação Avançada no Microsoft Defender permite que as equipas de segurança consultem Agent 365 dados de observabilidade juntamente com outros dados de segurança através de Linguagem de Consulta Kusto (KQL). Isto suporta a investigação proativa de ameaças, a investigação de incidentes e a análise da causa raiz entre agentes, aplicações, identidades e dispositivos.

Por exemplo, utilize a Investigação Avançada para:

• Rastrear invocações de ferramentas de agente específicas e correlacioná-las com alertas relacionados ou bloquear eventos
• Investigar a causa e o âmbito de uma ameaça de agente de IA detetada
• Identificar padrões de execução anómalos ou comportamento de agente de risco em ambientes
• Criar regras de deteção personalizadas com base em sinais de atividade do agente

Tabelas de Investigação Avançada para investigação do agente de IA

As seguintes tabelas de Investigação Avançada fornecem visibilidade sobre a configuração, os alertas e a atividade do agente de IA. Pode consultar estas tabelas individualmente ou correlacioná-las para investigar incidentes e investigar riscos relacionados com o agente.

Próximas etapas

• Detetar agentes de IA e avaliar a postura de segurança com Microsoft Defender
• Proteger os recursos de IA contra ameaças e vulnerabilidades emergentes com Microsoft Defender