Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Viktigt!
Den här funktionen är för närvarande i förhandsversion och ingår i Microsoft Defender för AI-tjänster-planen. Under förhandsversionen debiteras ingen extra kostnad för AI-modellgenomsökning. Att aktivera Defender för AI-tjänster-planen kan dock medföra kostnader relaterade till hotskyddsfunktioner. Fortsatt inkludering av AI-modellgenomsökningsfunktionen som en del av Defender för AI-tjänster garanteras inte när den blir allmänt tillgänglig och licenskraven kan ändras. Om detta inträffar skickas ett meddelande innan funktionen inaktiveras med alternativ för att återaktivera den under den tillämpliga licensen.
Eftersom organisationer i allt högre grad använder AI-modeller (artificiell intelligens) för att driva automatisering, insikter och intelligent beslutsfattande behöver säkerhetsteamen synlighet och kontroll för att bedöma säkerheten och efterlevnaden för AI-modeller som kommer in i deras miljöer. Dessa modeller har ofta bred åtkomst till data och infrastruktur. Utan dessa funktioner blir det allt svårare att genomdriva interna standarder.
Microsoft Defender för molnet's Defender för AI-säkerhet stöder AI-modellgenomsökning. AI-modellgenomsökning ger proaktiv identifiering av osäkra eller skadliga artefakter och övervakar kontinuerligt modeller för risk under AI-livscykeln.
AI-modellsäkerhet söker automatiskt igenom AI-modeller efter säkerhetsrisker som inbäddad skadlig kod, osäkra operatorer och exponerade hemligheter innan dessa modeller når produktion. Tjänsten är direkt integrerad med Azure Machine Learning- och CI/CD-pipelines och visar resultat i realtid och åtgärdsvägledning, så att teamen kan stoppa riskfyllda modeller tidigt i utvecklingsprocessen.
Med ai-modellsäkerhet kan säkerhetsteam skanna anpassade AI-modeller som laddats upp till Azure Machine Learning arbetsytor och register för att identifiera hot som inbäddad skadlig kod, osäkra operatörer och exponerade hemligheter. Defender för molnet presenterar resultaten, vilket ger teamen insyn i säkerhetsresultat tillsammans med allvarlighetsgradsklassificeringar, vägledning för reparation och relevanta modellmetadata för att stödja effektiv prioritering och prioritering. Utvecklare kan också utlösa modellgenomsökningar under bygg- eller lanseringsfaser med hjälp av CLI-verktyg som är integrerade med Azure DevOps eller GitHub pipelines, vilket möjliggör statisk genomsökning och tidig riskidentifiering innan modellerna når produktion.
Förutsättningar
- Du måste ha en Azure-prenumeration som innehåller AI-modeller som är registrerade i Azure Machine Learning (Azure Machine Learning) register eller arbetsytor.
Anmärkning
Arbetsytor och register som använder en privat länk stöds inte.
Aktivera planen för Defender för molnsäkerhetshållningshantering.
Du måste aktivera skydd mot hot för AI-tjänster och säkerhetskomponenten för AI-modellen i planen.
Behörigheter som krävs: För att aktivera planen behöver du Owner eller Contributor nivåbehörigheter på Azure Machine Learning resurser.
Modellfilformat som stöds:
Pickle (.pkl),HDF5 (.h5),TorchScript (.pt),ONNX (.onnx),SafeTensors (.safetensors),TensorFlow SavedModel / TFLite (FlatBuffers),NumPy (.npy), ,Arrow, MsgPack, dill, joblib.PMML, JSON, POJO, MOJO, GGUFFilstorleksgräns: 10 GB. Det går inte att skanna modellfiler som är större än 10 GB.
Genomsökningen sker en gång i veckan.
Leta upp alla AI-modeller i din miljö
Logga in på Azure-portalen.
Sök efter och välj Microsoft Defender för molnet.
Välj Cloud Security Explorer.
Välj AI & Mls>AI-modeller.
Välj Färdig.
Välj +.
Välj Metadata>AI-modellmetadata.
Välj Sök.
Cloud Security Explorer visar alla AI-modeller i din miljö. Du kan välja visa information om du vill se mer information om varje vald modell.
Hitta AI-modeller med säkerhetsresultat
Använd Cloud Security Explorer för att hitta AI-modeller som har aktiva säkerhetsresultat.
Följ steg 1–7 i avsnittet Hitta alla AI-modeller i din miljö .
Välj +.
Välj Rekommendationer>Alla rekommendationer.
Välj Sök.
Cloud Security Explorer visar alla AI-modeller i din miljö som har aktiva säkerhetsresultat. Välj visa information om du vill se mer information om varje modell och tillhörande resultat.
Leta upp alla AI-modeller i din miljö
Sidan Defender portalen Assets innehåller en omfattande vy över alla AI-modeller i din miljö.
Logga in på portalen Microsoft Defender.
Gå till Tillgångar>Moln>AI>AI-modeller.
Välj en AI-modell med rekommendationer.
Välj Öppna tillgångssida.
Välj Säkerhetsrekommendationer> den relevanta rekommendationen.
Granska och åtgärda säkerhetsfyndet efter behov.
Du kan också hantera rekommendationen i Azure portalen.