モジュール評価

AIシステムがそのユーザーの代理として動作する際に、そのユーザーに許可されたデータのみをアクセスすることを保証します。

AI 対応アプリケーションを他の IT 環境から分離したままにする

クラウドではなくオンプレミスで AI 対応アプリケーションを実行する

モデル ポイズニング

脱獄と有害なコンテンツ生成

ネットワーク レベルのサービス拒否攻撃

メタプロンプトのみ

多層防御アプローチの一環としてのコンテンツ の安全性フィルター

アプリケーション セキュリティのベスト プラクティスのみ

すべての種類のプロンプトインジェクション攻撃を防ぎます

検証済みデータ ソースへの応答を制限することで、製造された出力を削減します

モデルのトレーニング データを暗号化します

オープン ソース ライセンスは、常に商用使用と互換性がありません

ライブラリに含まれる事前トレーニング済みのモデルには、バックドアや、コード レビューで検出するのが難しい偏った動作が含まれている場合があります

デプロイ後にオープンソース AI ライブラリを更新できない