Introdução

A IA introduz muitas capacidades novas e entusiasmantes, mas também traz novos riscos de segurança. As interfaces de linguagem natural, o comportamento não determinístico e os complexos pipelines de dados que tornam os sistemas de IA poderosos também expandem a superfície de ataque de formas que os controlos tradicionais de cibersegurança não resolvem totalmente.

Neste módulo, aprende como a segurança da IA difere da cibersegurança tradicional, explora o modelo de arquitetura de IA de três camadas e examina as técnicas de ataque específicas de IA mais significativas — incluindo jailbreak, injeção de prompts, manipulação de modelos, exfiltração de dados e dependência excessiva. Para cada tipo de ataque, também aprende sobre as estratégias de mitigação que as organizações utilizam para reduzir o risco.

Objetivos de aprendizagem

Ao final deste módulo, você é capaz de:

• Descreva como a segurança da IA difere da cibersegurança tradicional
• Identifique as três camadas da arquitetura de IA e as preocupações de segurança em cada camada
• Explique técnicas de ataque específicas de IA, incluindo desbloqueio (jailbreaking), injeção de comandos, manipulação de modelos, exfiltração de dados e excessiva dependência.
• Descreva estratégias de mitigação para cada tipo de ataque

Pré-requisitos

• Familiaridade com conceitos básicos de segurança (por exemplo, autenticação, controlo de acessos, encriptação)
• Familiaridade com conceitos básicos de inteligência artificial (por exemplo, modelos, treino, inferência)