ゼロ トラスト で AI を保護する

AI システムは現在、AI アプリケーション、エージェント、モデル、そしてそれらが使用するデータとサービスを含む、企業の中核となるテクノロジ基盤の一部になっています。 組織が AI を採用する場合、これらのシステムでは、エンド ツー エンドのセキュリティ アーキテクチャの一部として管理する必要がある新しいアクセス パス、依存関係、およびリスク条件が導入されます。

Microsoft Security導入フレームワーク (SAF) では、AI の柱は、AI ワークロードと運用にゼロ トラスト原則を適用します。明示的に検証し、最小限の特権を使用し、侵害を想定します。 このガイダンスは、ビジネス成果、運用の信頼性、継続的な改善をサポートしながら、AI 機能を保護するのに役立ちます。

このテクノロジの柱がカバーするもの

この柱は、ワークロードとしての AI システムや、次のようなビジネスクリティカルなリソースの保護に重点を置いています。

  • AI アプリケーションとシステム
  • AI エージェントとエージェント ランタイム
  • AI とエージェント ID
  • モデル、プロンプト、コンテキスト
  • グラウンディング、トレーニング、推論に使用されるデータ
  • ツール、プラグイン、コネクタ、外部依存関係
  • エージェント間通信とエージェント対サービス間通信
  • AI インフラストラクチャとホスティング環境

AI のコア ゼロ トラスト制御領域

この柱を使用して、 AI セキュリティ ワークショップの実装領域に合わせて、これらの領域全体で制御を計画および実装します。

  1. AI リスクのマッピングと評価
    • AI アプリケーション、エージェント、サービスを検出してインベントリを作成します。
    • リスクに優先順位を付け、責任体制、ガバナンス、および許容される利用に関するガイドラインを確立します。
    • 使用の進化に応じて、リスクシグナルを継続的に監視し、優先順位を調整します。
  2. エージェントを登録し、ライフサイクルガバナンスを実施する
    • 一元化されたインベントリにエージェントを登録します。
    • 目的、ビジネス上の重要度、およびリスクによってエージェントを分類します。
    • 所有権、公開、認定、ライフサイクルの制御を定義します。
  3. AI 認証とアクセスをセキュリティで保護する
    • ユーザー、サービス、およびエージェントに対して、強力な認証と認可が必要です。
    • エージェント アクションに対して最小限の特権と委任されたアクセス許可を適用します。
    • アクセスの前および最中に ID、デバイス、リスクシグナルを継続的に評価します。
  4. セキュリティで保護された AI ネットワークとサービス アクセス
    • ネットワーク パスとサービス境界を越える AI サービスへのアクセス経路を制御します。
    • AI とのやり取りにセグメント化、フィルター処理、検査を適用します。
    • プロンプトインジェクションや未承認のアクセス パスへの露出を減らします。
  5. AI データへのアクセスと使用をセキュリティで保護する
    • プロンプト、コンテキスト、グラウンディング、出力で使用されるデータを分類して保護します。
    • データ損失防止と使用制御を適用して、過剰共有と流出のリスクを軽減します。
    • AI データ処理に関するガバナンスとコンプライアンス ポリシーを施行する。
  6. エージェントを安全に構築してデプロイする
    • AI アプリ、API、コネクタ、ツール チェーンの依存関係をセキュリティで保護します。
    • 運用環境で使用する前に、信頼の境界とランタイム コントロールを検証します。
    • AI 対応システムの安全な開発、テスト、リリースコントロールを適用します。
  7. AI 向けの検出と対応
    • AI アクティビティ、プロンプト フロー、アクセス パターン、ツールの使用状況を監視します。
    • 誤用、異常な動作、ポリシー違反を検出します。
    • AI テレメトリをインシデント検出、調査、対応のワークフローに統合します。

この柱が SAF に接続する方法

AI セキュリティは、他の SAF テクノロジとセキュリティ規範に依存しています。

ワークショップと実装のガイダンス