Introdução aos testes de segurança de IA
Iniciante
Programador
Azure
Saiba mais sobre red teaming em IA, as três categorias de testes de segurança em IA e como planear e executar exercícios de red teaming para LLMs e aplicações com IA.
Objetivos de aprendizagem
Depois de concluir este módulo, você é capaz de:
- Descreva o que é o red teaming de IA e como difere dos testes de segurança tradicionais
- Identifique as três categorias de equipas de ataque de IA e as competências que cada uma requer
- Planeie um exercício de red teaming com IA, incluindo composição da equipa e metodologia de testes
- Descreva como as ferramentas automatizadas de red teaming complementam os testes manuais
Pré-requisitos
Para obter a melhor experiência de aprendizagem deste módulo, você deve ter conhecimento e experiência de:
- Conceitos fundamentais de segurança (por exemplo, autenticação, controlo de acessos, encriptação)
- Conceitos fundamentais de IA (por exemplo, modelos, treino, inferência)
- Os tipos de ataques de IA abordados no módulo Fundamentos da Segurança da IA
- Os controlos de segurança abrangidos no módulo de controlos de segurança de IA
Introdução ao Azure
Escolha a conta do Azure correta para si. Pague à medida que avança ou experimente o Azure gratuitamente até 30 dias. Inscrever-se