AI セキュリティの基礎

概略

AI セキュリティについて詳しく知りたいですか? このラーニングパスは、AI セキュリティの基本的な概念、AI システムに適用されるセキュリティ制御の種類、AI 環境のセキュリティ態勢を強化するために AI システムに実装できるセキュリティテスト手順を理解するのに役立ちます。

人工知能とセキュリティの基本的な概念に関する知識

適切な Azure アカウントを選択します。 Azure は、従量課金制でご利用いただくことも、最大 30 日間無料でお試しいただくこともできます。サインアップします。

AI セキュリティと従来のサイバーセキュリティの違い、3 層 AI アーキテクチャモデルの探索、脱獄、プロンプトインジェクション、モデル操作、データ流出、過剰依存などの AI 固有の攻撃手法について説明します。

サプライチェーンセキュリティ、コンテンツフィルタリング、データセキュリティ、メタプロンプト、グラウンド、アプリケーションセキュリティ、継続的な監視など、脅威から AI システムを保護するために実装できるセキュリティ制御について説明します。

AI Red Teaming、AI セキュリティテストの 3 つのカテゴリ、および LLM と AI 対応アプリケーションのレッドチーミング演習を計画および実行する方法について説明します。