Proteggere gli agenti di intelligenza artificiale su larga scala usando Microsoft Agent 365

Man mano che le organizzazioni adottano agenti di intelligenza artificiale su larga scala, la protezione è diventata un problema critico. Microsoft Agent 365 estende l'infrastruttura di sicurezza esistente, Microsoft Defender, Microsoft Entra e Microsoft Purview, agli agenti, con funzionalità predefinite per la protezione degli agenti.

Questo articolo illustra come Microsoft Agent 365 protegge gli agenti di intelligenza artificiale.

Modello di sicurezza distribuito con visibilità centralizzata

Gli agenti di intelligenza artificiale introducono nuove sfide di sicurezza, tra cui:

• Proliferazione degli agenti creati dall'utente e SaaS che amplia la superficie di attacco
• Agenti con privilegi elevati con accesso eccessivo alle risorse
• Uso improprio degli strumenti quando gli agenti vengono manipolati per abusare degli strumenti autorizzati
• Agenti non configurati correttamente o vulnerabili senza autenticazione o limiti appropriati
• Minacce tradizionali per l'intelligenza artificiale, ad esempio l'inserimento dei prompt e la perdita di dati, che ora si estendono tra le interazioni con l'agente

Come parte di Microsoft Agent 365, Microsoft Defender, Microsoft Entra e Microsoft Purview ora forniscono controlli predefiniti per gli agenti. I professionisti della sicurezza continuano a lavorare negli strumenti che già usano, con informazioni dettagliate sugli agenti e consigli visualizzati direttamente nel portale di ogni prodotto.

La panoramica di Agent 365 nel interfaccia di amministrazione di Microsoft 365 offre visibilità centralizzata sugli agenti di intelligenza artificiale nell'organizzazione, inclusi dati analitici sull'utilizzo e segnali di sicurezza che aiutano gli amministratori a intervenire.

I team di sicurezza definiscono i requisiti di governance creando modelli di criteri, ad esempio pacchetti di accesso in Microsoft Entra. Durante l'onboarding, i team IT applicano questi modelli agli agenti, garantendo l'applicazione della governance e della conformità fin dall'inizio.

Controllo di accesso con Microsoft Entra

Gli agenti che si estendono o accumulano autorizzazioni eccessive creano rischi. Microsoft Entra offre visibilità su tutte le identità dell'agente e consente di applicare l'accesso con privilegi minimi:

• Visibilità delle identità degli agenti – Ottieni la visualizzazione completa di tutti gli agenti dell'organizzazione, inclusi gli agenti con un Entra Agent ID, gli agenti che registri tu stesso e gli agenti ombra.

  

• Accesso condizionale e protezione delle identità : estendere i criteri di accesso condizionale e protezione delle identità dagli utenti agli agenti. Applicare decisioni di accesso in tempo reale in base al contesto dell'agente, al livello di rischio e alla riservatezza delle risorse.

  

• Secure Access Service Edge (SASE): monitorare e bloccare il traffico di rete dannoso e non conforme dagli agenti in esecuzione nei dispositivi utente, inclusi gli agenti Copilot Studio.

• Governance e cicli di vita degli agenti: assicurarsi che gli agenti dispongano di sponsor responsabili che forniscono supervisione e gestiscono l'accesso in modo che non persista più a lungo del necessario.

Altre informazioni sul controllo di accesso:

• Proteggere le identità dell'agente con Microsoft Entra
• Che cos'è Microsoft Agent Identity Platform?
• Gestione delle identità degli agenti (anteprima)
• Accesso condizionale all'ID dell'agente
• Secure Access Service Edge per gli agenti

Sicurezza dei dati con Microsoft Purview

Gli agenti creano, accedono e condividono i dati tra i sistemi, aumentando il rischio di condivisione eccessiva e esposizione di dati sensibili. Microsoft Purview controlla quali agenti dati possono accedere e come usarli e consente di soddisfare gli obblighi di conformità nel ciclo di vita dell'agente:

• Gestione del comportamento di sicurezza dei dati : ottenere una visibilità approfondita dell'interazione per gli agenti e identificare i rischi di esposizione dei dati correlati all'intelligenza artificiale.
• Etichette di riservatezza : gli agenti ereditano e rispettano le etichette di riservatezza dei dati, garantendo una protezione coerente dei dati tra le interazioni tra utenti e agenti.
• Prevenzione della perdita dei dati: impedisce agli agenti di accedere e condividere contenuti sensibili in base a etichette e criteri di sicurezza dei dati.
• Gestione dei rischi Insider e conformità delle comunicazioni : rilevare le attività rischiose e monitorare le interazioni per le violazioni dei criteri.
• Controllo: registrare e controllare tutte le interazioni degli agenti per la revisione della conformità e l'analisi forense.
• Gestione del ciclo di vita dei dati : applicare criteri di conservazione ed eliminazione al contenuto generato dall'agente in modo che i dati vengano mantenuti solo se necessario.
• eDiscovery : consente di cercare, conservare ed esportare interazioni e output degli agenti per supportare indagini legali, normative e interne.
• Compliance Manager : valutare le istanze dell'agente rispetto alle normative di intelligenza artificiale usando valutazioni predefinite per tenere traccia e migliorare il comportamento di conformità.

Altre informazioni sulla sicurezza e la conformità dei dati:

• Sicurezza dei dati in Microsoft Agent 365
• Microsoft Purview protezioni di sicurezza dei dati e conformità per Microsoft Agente 365

Protezione dalle minacce con Microsoft Defender

Gli agenti possono essere indotti ad abusare degli strumenti autorizzati, configurati in modo errato senza un'autenticazione adeguata, o essere presi di mira da attacchi di prompt injection. Microsoft Defender identifica questi rischi e consente una risposta rapida:

• Gestione del comportamento di sicurezza dell'agente : identificare e correggere errori di configurazione e rischi di esposizione dell'agente. Visualizzare i percorsi di attacco dagli agenti agli asset critici.

  

• Rilevamento e blocco delle minacce: rilevare le attività degli agenti sospetti, ricevere avvisi e bloccare le chiamate di strumenti dannosi in tempo reale.

  

• Analisi e ricerca delle minacce: raccogliere i log di osservabilità dell'agente unificato e cercare le minacce nell'attività dell'agente.

  

Altre informazioni sulla protezione dalle minacce:

• Inventario degli agenti AI in Microsoft Defender XDR
• Rilevamento e protezione degli agenti IA in Microsoft Defender XDR

Passaggi successivi

Altre informazioni su Microsoft Agent 365:

• documentazione di Microsoft Agent 365
• Post di blog di Microsoft Agent 365: Piano di controllo per gli agenti di intelligenza artificiale