モジュール評価

生成型 AI システムの非決定的な性質

AI は根本的に安全で、保護できません

AI は新しすぎてセキュリティ フレームワークを持てない

DAN (今すぐ何でも実行)

エンコード攻撃

クレッシェンド

AI 利用レイヤー

AI プラットフォーム レイヤー

AI アプリケーション レイヤー

実行するには、より技術的なスキルが必要です

悪意のある命令は、ユーザーのプロンプトではなく、AI が取得するコンテンツに隠されています

これは、承認されたシステム管理者のみが実行できます

ユーザーは検証なしで AI によって生成された出力を受け入れ、重大な決定でエラーが発生する

過剰な使用により、AI システムが時間の経過と同時に遅くなる

AI モデルで複雑なクエリを処理できない