Segurança dos modelos de IA

À medida que as organizações utilizam cada vez mais modelos de inteligência artificial (IA) para impulsionar automação, insights e tomada de decisões inteligentes, as equipas de segurança precisam de visibilidade e controlo para avaliar a segurança e conformidade dos modelos de IA que entram nos seus ambientes. Estes modelos têm frequentemente amplo acesso a dados e infraestruturas. Sem estas capacidades, torna-se cada vez mais difícil aplicar normas internas.

O Defender para IA do Microsoft Defender para a Cloud suporta a análise de modelos de IA. A varredura de modelos por IA proporciona deteção proativa de artefactos inseguros ou maliciosos e monitoriza continuamente os modelos para riscos ao longo de todo o ciclo de vida da IA.

A segurança dos modelos de IA analisa automaticamente os modelos de IA à procura de riscos de segurança, como malware embutido, operadores inseguros e segredos expostos antes de esses modelos entrarem em produção. Integrado diretamente com o Azure Machine Learning e os pipelines de CI/CD, o serviço apresenta descobertas em tempo real e orientações práticas de mitigação, para que as equipes possam travar modelos arriscados nas fases iniciais do processo de desenvolvimento.

Ao utilizar a segurança dos modelos de IA, as equipas de segurança podem analisar modelos de IA personalizados carregados para espaços de trabalho e registos do Azure Machine Learning para identificar ameaças como malware embutido, operadores inseguros e segredos expostos. O Defender para a Cloud apresenta os resultados, dando às equipas visibilidade sobre as conclusões de segurança, juntamente com classificações de gravidade, orientações de remediação e metadados relevantes do modelo para apoiar uma triagem e priorização eficazes. Os programadores também podem desencadear varreduras de modelos durante as fases de construção ou lançamento, utilizando ferramentas de CLI integradas com pipelines do Azure DevOps ou GitHub, permitindo varredura estática e deteção precoce de risco antes dos modelos entrarem em produção.

Pré-requisitos

• Deve ter uma subscrição Azure que contenha modelos de IA registados em registos ou espaços de trabalho Azure Machine Learning (Azure Machine Learning).

• Ativar o plano Defender para a Cloud Security Posture Management.

• Deve ativar a proteção contra ameaças para serviços de IA e o componente de segurança do modelo de IA do plano.

• Permissões necessárias: Para ativar o plano, precisa de permissões ao nível Proprietário ou Contribuidor nos recursos Azure Machine Learning.

• Formatos de ficheiro de modelo suportados: Pickle (.pkl), HDF5 (.h5), TorchScript (.pt)ONNX (.onnx), SafeTensors (.safetensors), TensorFlow SavedModel / TFLite (FlatBuffers), NumPy (.npy), Arrow, MsgPack, dill, joblib, . PMML, JSON, POJO, MOJO, GGUF

• Limite de tamanho do ficheiro: 10 GB. Ficheiros de modelo com mais de 10 GB não podem ser digitalizados.

• A ecografia ocorre uma vez por semana.

Próximo passo