はじめに

  • 2 分

AI は、多くの新しいエキサイティングな機能を導入しますが、新しいセキュリティ リスクももたらします。 AI システムを強力にする自然言語インターフェイス、非決定的な動作、複雑なデータ パイプラインも、従来のサイバーセキュリティ コントロールが完全には対処できない方法で攻撃対象領域を拡大します。

このモジュールでは、AI セキュリティが従来のサイバーセキュリティとどのように異なるかを学習し、3 層 AI アーキテクチャ モデルを調べ、脱獄、プロンプトインジェクション、モデル操作、データ流出、過剰依存など、最も重要な AI 固有の攻撃手法を調べます。 攻撃の種類ごとに、組織がリスクを軽減するために使用する軽減戦略についても説明します。

学習の目的

このモジュールを終了すると、次のことが可能になります。

  • AI セキュリティと従来のサイバーセキュリティの違いについて説明する
  • AI アーキテクチャの 3 つのレイヤーと各レイヤーのセキュリティ上の懸念事項を特定する
  • 脱獄、プロンプトインジェクション、モデル操作、データ流出、過剰依存など、AI 固有の攻撃手法について説明する
  • 各攻撃の種類の軽減戦略について説明する

前提条件

  • 基本的なセキュリティの概念 (認証、アクセス制御、暗号化など) に関する知識
  • 基本的な人工知能の概念 (モデル、トレーニング、推論など) に関する知識