AI セキュリティ テストの概要
初級
開発者
Azure
AI Red Teaming、AI セキュリティ テストの 3 つのカテゴリ、および LLM と AI 対応アプリケーションのレッド チーミング演習を計画および実行する方法について説明します。
学習の目的
このモジュールを完了すると、次のことができるようになります。
- AI レッド チーミングとは何か、および従来のセキュリティ テストとの違いについて説明する
- AI レッド チーミングの 3 つのカテゴリと、それぞれが必要とするスキルを特定する
- チーム構成とテスト手法を含む AI レッド チーミング 演習を計画する
- 自動化されたレッドチーム活動のツールが手動のテストを補完する方法について説明する
前提条件
このモジュールの学習効果を最大限に高めるには、以下の知識と経験が必要です。
- 基本的なセキュリティの概念 (認証、アクセス制御、暗号化など)
- AI の基本的な概念 (モデル、トレーニング、推論など)
- AI セキュリティ モジュールの基礎で説明されている AI 攻撃の 種類
- AI セキュリティ コントロール モジュールで説明されているセキュリティ コントロール
Azure を使ってみる
適切な Azure アカウントを選択します。 Azure は、従量課金制でご利用いただくことも、最大 30 日間無料でお試しいただくこともできます。 サインアップします。