次の方法で共有

迅速なインジェクション保護を使用してエンタープライズ生成 AI アプリケーションを保護する

迅速なインジェクション攻撃は、生成型 AI アプリにとって重大なリスクとなります。 不適切なアクターは、悪意のある入力を作成して、大規模な言語モデル (LLM) が命令を無視したり、機密データを公開したり、意図しないアクションを実行したり、有害なコンテンツを生成したりします。

Microsoftの Security Service Edge (SSE) ソリューションの一部である AI Gateway は、生成型 AI アプリケーション、エージェント、言語モデルを保護します。 プロンプトインジェクション保護機能は、悪意のあるプロンプトインジェクション攻撃に対するリアルタイムの保護を提供します。これは、LLM にとって最もリスクの高い攻撃です。 Prompt Injection Protection は、ネットワーク レベルでガードレールを適用することで、コードを変更することなく、すべての生成 AI アプリケーションで一貫したセキュリティを確保します。

プロンプトインジェクション保護:

  • AI モデルに到達する前に、敵対的なプロンプトと脱獄の試行をブロックします。
  • 承認されていないアクションと機密データの流出を防止します。
  • すべてのデバイス、ブラウザー、またはアプリケーション全体で動作し、統一された適用を実現します。

高レベル アーキテクチャ

ネットワーク コンテンツ フィルタリングのアーキテクチャを示すダイアグラム（グローバル セキュア アクセスと Microsoft Purview）

前提条件

このプロセスの手順を完了するには、次の前提条件が満たされている必要があります。

初期構成

組織に対してプロンプトインジェクション保護を構成するには、次の手順を実行します。

  1. インターネット アクセス トラフィック転送プロファイルを有効 にして、適切なユーザー割り当てを構成します。
  2. トランスポート層セキュリティ (TLS) 検査設定と TLS 検査ポリシーを構成します。
  3. グローバル セキュア アクセス クライアントをユーザー デバイスにインストールして構成します。 Microsoft Windowsの手順に従います。

    Important

    続行する前に、クライアントのインターネット トラフィックが Global Secure Access サービス経由でルーティングされていることをテストし、確認します。

プロンプトをスキャンするための新しいプロンプト ポリシーを作成する

プロンプト インジェクション保護の新しいプロンプト ポリシーを作成するには:

  1. Microsoft Entra 管理センターにグローバル セキュリティで保護されたアクセス管理者としてサインインします。
  2. グローバル セキュア アクセス>セキュア>プロンプトポリシーを参照します。
  3. [ポリシーの作成] を選択します。
  4. [ 基本 ] タブで、ポリシーの 名前 と 説明 を入力します。
  5. 次へを選択します。
  6. [ ルール ] タブで、[ ルールの追加] を選択します。
  7. [ プロンプト ルール ] ページで、次の操作を行います。
    1. ルール名、説明、優先度、状態を入力または選択します。
    2. 悪意のあるプロンプトをブロックするには、[ アクション ] を [ブロック ] に設定します。 フォーム フィールドの値の例を含む [プロンプト ルール] 画面のスクリーン ショット。
  8. [ + 会話スキーム ] を選択して、エンタープライズジェネレーティブ AI のターゲット LLM を選択します。
  9. [ 種類 ] メニューから、アプリに一致する言語モデルを選択します。
  10. 言語モデルが一覧にない場合:
    1. カスタムを選択します。
    2. プロンプトが送信されるサービス エンドポイントの URL を 入力します。
    3. 要求本文にプロンプトの場所の JSON パス を入力します。
  11. [ 追加] を選択して会話スキームを追加します。 複数のスキームを追加できます。
  12. 次へを選択します。
  13. プロンプト ポリシーを作成するには、[ 作成] を選択します。

Prompt Injection Protection プロンプト ポリシーを作成したら、新規または既存のセキュリティ プロファイルにリンクします。

  1. [グローバル セキュア アクセス]>[セキュア]>[セキュリティ プロファイル] に移動します。
  2. プロンプト ポリシーをリンクするセキュリティ プロファイルを選択または作成します。
  3. リンクポリシー タブを選択します。
  4. + ポリシーをリンク を選択します>既存のプロンプト ポリシー。
  5. 前に作成したプロンプトインジェクション保護プロンプト ポリシーを選択します。
  6. プロンプト挿入保護プロンプト ポリシーをリンクするには、[追加] を選択 します。

条件付きアクセス ポリシーを作成する

条件付きアクセス ポリシーを作成するには:

  1. 少なくとも条件付きアクセス管理者としてMicrosoft Entra 管理センターにサインインします。
  2. Entra ID>Conditional Access に移動します。
  3. [新しいポリシーの作成] を選択します。
  4. ポリシーの名前を入力します。
  5. [ ユーザー ] を選択して、ポリシーが適用されるユーザーまたはグループを指定します。
  6. グローバル セキュリティで保護されたアクセスを使用して、 ターゲット リソース を すべてのインターネット リソースに設定します。
  7. 必要に応じて、[ ネットワーク]、[ 条件]、[ 許可] の設定を構成します。
  8. [セッション] で、[グローバルなセキュリティで保護されたアクセス セキュリティ プロファイルを使用] を選択し、前に作成したセキュリティ プロファイルを選択します。
  9. [ 作成] を選択して条件付きアクセス ポリシーを作成します。

詳細については、「 グローバル セキュア アクセス インターネット トラフィックを対象とする条件付きアクセス ポリシーを作成する」を参照してください。

生成的AIモデル

次のセクションでは、Prompt Injection Protection で動作する AI モデルの詳細を示します。

サポートされている上位のジェネレーティブ AI モデル

Prompt Injection Protection は、ChatGPT、Claude、Cohere、Deepseek、Gemini、Grok、Meta AI、Mistral、Perplexity、Pi、Qwen の各モデルのカスタム エクストラクターで事前構成されています。

カスタム モデルのサポート

カスタム JSON ベースの LLM または GenAI アプリは、URL と JSON パスを使用してカスタム型モデルを構成することで保護できます。

レート制限

  • システムは、指定された会話スキームの要求をスキャンするときにレート制限を適用します。
  • レート制限に達すると、後続の要求がブロックされます。
  • カスタム LLM のパフォーマンスを最適化するには、各スキームの正確な URL と JSON パスを指定します。

既知の制限

  • Prompt Injection Protection では現在、テキスト プロンプトのみがサポートされています。 ファイルはサポートされていません。
  • Prompt Injection Protection では、JSON ベースの生成 AI アプリのみがサポートされます。
  • Prompt Injection Protection では、最大 10,000 文字のプロンプトがサポートされます。 長いものは切り捨てられます。

関連するコンテンツ

  • Last updated on