Tunnista, estä ja tutki tekoälyagenteille kohdistuvia uhkia Microsoft Defender (esikatselu) avulla

Käyttöönotetut tekoälyagentit toimivat itsenäisesti, käynnistävät työkaluja, käyttävät tietoja ja ryhtyvät toimiin eri järjestelmissä vastauksena luonnollisen kielen syötteeseen. Tämä tekee jatkuvasta tunnistamisesta, suorituksenaikaisesta suojauksesta ja tutkinnasta ratkaisevan tärkeää. Microsoft Defender havaitsee epäilyttävän ja pahantahtoisen agentin toiminnan, estää vaaralliset toimet reaaliajassa, antaa hälytyksiä lähes reaaliaikaisesti ja antaa tietoturvatiimeille mahdollisuuden tutkia tapauksia ja jäljittää koko pääsyy ja räjähdyksen säde.

Tässä artikkelissa kerrotaan, miten Microsoft Defender havaitsee, estää ja mahdollistaa sen, että suojaustiimit voivat tutkia Microsoft Agent 365 hallinnoiduille tekoälyagenteille kohdistuvia uhkia, mukaan lukien tuetuissa agenttiympäristöissä käytettävissä olevat laajennetut tunnistus- ja suojausominaisuudet.

Estä vaaralliset tekoälyagentin toimet reaaliaikaisesti

Microsoft Defender tarjoaa reaaliaikaisen suojauksen (RTP), jotta tekoälyagentit eivät voi suorittaa vahingottomia toimia suorituksen aikana. Defender integroituu suoraan työ-IQ MCP:hen arvioidakseen tuetut agentin käynnistämät työkalukutsut ennen niiden suorittamista. Jos Defender määrittää, että toiminto on riskialtis, se estää toiminnon ennen kuin agentti suorittaa sen, estäen haitallisen käyttäytymisen.

Reaaliaikaisessa suojauksessa keskitytään erittäin luotettavaan uhkaan, kuten:

• Yrittää poimia tai exfiltrate järjestelmäohjeita tai sisäisiä työkalun tietoja
• Suorat tietovuodot Arkaluonteiset tiedot
• Vain sisäisesti käytettävien työkalujen väärinkäyttö
• Tietojen reititys ei-luotettuihin tai haitallisiin kohteisiin
• Tarpeettoman tai piilotetun sisällön käyttö agentin toiminnan muokkaamiseen
• Tunnistetietojen vuotaminen luotettavien kanavien, kuten sähköpostin tai ulkoisten ohjelmointirajapintojen, kautta

Kun Microsoft Defender estää toiminnon, se luo yksityiskohtaisen ilmoituksen, jossa kerrotaan, mikä estettiin, miksi toimintoa pidettiin riskialttiina ja mikä agentti, käyttäjä ja työkalu olivat mukana. Näin varmistetaan, että suojaustiimit voivat tutkia estettyjä toimintoja tutuilla Defender-työnkuluilla.

Ota reaaliaikainen suojaus käyttöön

Jos haluat ottaa käyttöön reaaliaikaisen suojauksen tekoälyagenteillesi, toimi

1. Avaa Microsoft Defender portaali

2. ValitseAI-agenttienjärjestelmäasetusten>> suojaus. Tämä avaa Suojaus tekoälyagenteille -asetussivun.

3. Varmista, että tekoälyagenttien suojaus on käytössä.

4. Varmista, että Agent 365 on yhdistetty tekoälyn reaaliaikaisen suojauksen & tutkimuksessa.

   

5. Jos haluat ottaa Microsoft Copilot Studio agenteille käyttöön laajennetut reaaliaikaiset suojaustoiminnot, varmista, että Copilot Studio on yhdistetty tekoälyn reaaliaikaisen suojauksen & tutkimuksessa.

   Lisätietoja on Copilot Studio integroinnissa Microsoft Defender for Cloud Apps.

Tekoälyagentin uhkien tunnistaminen lähes reaaliaikaisesti

Microsoft Defender valvoo jatkuvasti tekoälyagentin toimintaa ja havaitsee epäilyttävän ja pahantahtoisen toiminnan kaikissa Agent 365 hallituissa agenteissa. Defender analysoi agentin telemetriatietoja, työkalujen käyttöä ja suoritusmalleja tunnistaakseen uhkia, kuten pysyviä jailbreak-yrityksiä, epäilyttävää käyttäjän toimintaa, johon liittyy vankilamurtoyritys, ja epäilyttäviä agentin teloitusyrityksiä.

Microsoft Defender pintojen tunnistuksia lähes reaaliaikaisiksi hälytyksiksi Defender-portaalissa ja mahdollistaa sen, että suojaustiimit voivat tutkia niitä tuttujen suojaustoimintojen työnkulkujen avulla, mukaan lukien hälytyskommentti, tapausten korrelaatio ja kehittynyt metsästys.

Lisätietoja on Microsoft Defender portaalin kohdassa Tapaukset ja hälytykset.

Lähes reaaliaikaiset tunnistamiset perustuvat Agent 365 havaittavuustietoihin, mikä tarjoaa myös arvokkaan kontekstin tapausten ja uhkien metsästyksen tutkimiseen. Microsoft Defender analysoi nämä tiedot epäilyttävän agentin toiminnan tunnistamiseksi ja hälytysten luomiseksi.

Ota käyttöön lähes reaaliaikaiset tunnistamiset ja edistynyt uhkien metsästys

Lähes reaaliaikaisten hälytysten ja uhkien metsästyksen mahdollistaminen:

1. Salli Microsoft 365 -sovellusliittimen kerätä Agent 365 havaittavuustietoja tekoälyagentin toimintoja varten. Lisätietoja on artikkelissa Microsoft 365:n yhdistäminen Microsoft Defender for Cloud Apps.
2. Varmista, että tekoälyagentisi lähettää todennettavuustietoja Microsoft 365:lle.
   • Microsoft Copilot Studio avulla rakennetut agentit lähettävät oletusarvoisesti havainnoitavuustietoja Microsoft 365:een.
   • Muille alustoille rakennettujen tekoälyagenttien osalta on mahdollista havainnoitavuus Microsoft Agent 365 SDK:n avulla, kuten Agent 365 kehityksen elinkaaridokumentaatiossa on kuvattu.

Ota käyttöön laajennetut lähes reaaliaikaiset tunnistuksia Microsoft Copilot Studio ja Microsoft Foundry -agenteille

Kun otat käyttöön tarvittavat ominaisuudet, Microsoft Copilot Studio ja Microsoft Foundrylla luoduilla agenteilla on laajennettu joukko lähes reaaliaikaisia tunnistusilmoituksia perusaikataulun ulkopuolella kaikkien Microsoft Agent 365 hallinnoimien agenttien käytettävissä.

Jos haluat ottaa käyttöön nämä laajennetut ominaisuudet, toimi seuraavasti:

• Lisätietoja Microsoft Foundry -agenteista on artikkelissa Microsoft Foundry AI -kuormitusten uhkien suojauksen ottaminen käyttöön.
• Jos kyseessä on Microsoft Copilot Studio edustaja, katso Copilot Studio integrointi Microsoft Defender for Cloud Apps.

Tutki tekoälyagentin uhkia ja etsi riskejä kehittyneen metsästyksen avulla

Microsoft Defender korreloi tekoälyagentin hälytykset tapauksiin ja tuo esiin liittyvän kontekstin, jotta tietoturvatiimit voivat nopeasti arvioida vaikutuksia ja priorisoida reagointia. Kehittynyt metsästys antaa analyytikoiden tehdä kyselyjä Agent 365 todennettavuustietoja käyttämällä Kusto Query Languagea (KQL) tutkiakseen tapauksia ja etsiäkseen riskejä koko ympäristössään.

Tapausten ja hälytysten tutkiminen

Microsoft Defender korreloi tekoälyagentin hälytykset, mukaan lukien lähes reaaliaikaiset tunnistuksia ja hälytyksiä, jotka luodaan, kun reaaliaikainen suojaus estää toiminnon, tapauksiin.

Tietoturva-analyytikot voivat käyttää tapauskaaviota ja tutkimuskokemusta ymmärtääkseen mahdollisen hyökkäyksen täyden kontekstin, mukaan lukien toisiinsa liittyvien entiteettien väliset suhteet ja tekoälyagentin uhkien räjähdyssäteen. Lisätietoja on Microsoft Defender portaalin kohdassa Tapaukset ja hälytykset.

Korreloi hälytyksiä ja Agent 365 todennettavuustietoja ja etsi riskejä kehittyneen metsästyksen avulla

Kehittynyt metsästys Microsoft Defender mahdollistaa sen, että suojaustiimit voivat kysellä Agent 365 todennettavuustietoja yhdessä muiden suojaustietojen kanssa käyttämällä Kusto Query Languagea (KQL). Tämä tukee ennakoivaa uhkien metsästystä, tapausten tutkintaa ja pääsyyn analysointia agenttien, sovellusten, käyttäjätietojen ja laitteiden välillä.

Käytä esimerkiksi kehittynyttä metsästystä kohteeseen:

• Jäljitä tietyt agenttityökalun kutsut ja korreloi ne liittyvien hälytysten kanssa tai estä tapahtumat
• Tutki havaitun tekoälyagentin uhan perimmäistä syytä ja laajuutta
• Poikkeamien suoritusmallien tai riskialttiiden agenttien toiminnan tunnistaminen eri ympäristöissä
• Luo mukautettuja tunnistussääntöjä agenttitoimintojen signaalien perusteella

Kehittyneet metsästystaulukot tekoälyagentin tutkimusta varten

Seuraavat Kehittyneet metsästys -taulukot tarjoavat näkyvyyden tekoälyagentin määrityksiin, hälytyksiin ja toimintaan. Voit tehdä näistä taulukoista kyselyjä yksitellen tai korreloida ne tutkiaksesi tapauksia ja etsiäksesi agentteihin liittyviä riskejä.

Seuraavat vaiheet

• Tutustu tekoälyagentteihin ja arvioi suojausasennon Microsoft Defender avulla
• Tekoälyresurssien suojaaminen uusilta uhilta ja haavoittuvuuksilta Microsoft Defender avulla