Introdução

A IA apresenta muitas funcionalidades novas e interessantes, mas também traz novos riscos de segurança. As interfaces de linguagem natural, o comportamento não determinístico e os pipelines de dados complexos que tornam os sistemas de IA poderosos também expandem a superfície de ataque de maneiras que os controles tradicionais de segurança cibernética não abordam totalmente.

Neste módulo, você aprenderá como a segurança de IA difere da segurança cibernética tradicional, explorará o modelo de arquitetura de IA de três camadas e examinará as técnicas de ataque mais significativas específicas da IA, incluindo jailbreaking, injeção de prompt, manipulação de modelo, exfiltração de dados e sobreconfiança. Para cada tipo de ataque, você também aprende sobre as estratégias de mitigação que as organizações usam para reduzir o risco.

Objetivos do aprendizado

Ao final deste módulo, você será capaz de fazer o seguinte:

• Descrever como a segurança de IA difere da segurança cibernética tradicional
• Identificar as três camadas da arquitetura de IA e as preocupações de segurança em cada camada
• Explicando técnicas de ataque específicas de IA, incluindo desbloqueio, injeção de comandos, manipulação de modelo, exfiltração de dados e dependência excessiva
• Descrever estratégias de mitigação para cada tipo de ataque

Pré-requisitos

• Familiaridade com conceitos básicos de segurança (por exemplo, autenticação, controle de acesso, criptografia)
• Familiaridade com conceitos básicos de inteligência artificial (por exemplo, modelos, treinamento, inferência)