AI は、既存のセキュリティ リスクを増幅し、ID、データ、アプリケーション、インフラストラクチャ、モデル、エージェント、ツール、メモリ、ユーザーの操作にまたがって新しいリスクを導入します。 ゼロ トラスト原則を適用すると、組織はアクセスを明示的に検証し、特権とデータの公開を最小限に抑え、AI システムとその依存関係が悪用または侵害される可能性があることを想定するのに役立ちます。
AI セキュリティ ワークショップの柱は、組織が AI の使用状況の検出と管理、ユーザーとエージェントの ID のセキュリティ保護、プロンプトの保護、データと出力の接地、ネットワークとツールのアクセスの制御、エージェントの安全な構築と運用、AI の品質と安全性の検証、およびセキュリティ運用への AI 固有のシグナルの統合を支援します。 ワークショップでは、これらの機能を優先順位付けされた実装ロードマップに変換します。
AI セキュリティ ワークショップの柱は、Microsoft Security導入フレームワーク (SAF) で定義されている AI テクノロジに対応しています。
AI セキュリティに重点を置く理由
AI システムは、ユーザーに代わって動作し、大量の組織データにアクセスし、ツールと API を呼び出し、メモリを保持し、大規模なコンテンツを生成できます。 弱い所有権、過剰なアクセス許可、データの過剰共有、未承認のアプリケーション、セキュリティで保護されていないエージェントの開発、プロンプトインジェクション、安全でないツールの使用、または十分な監視が行われ、既存の攻撃パスが拡張され、新しいパスが作成される可能性があります。 したがって、AI セキュリティには、アイデンティティ、データ、ネットワーク、インフラストラクチャ、アプリケーション、DevSecOps、コンプライアンス、セキュリティ運用全般にわたる連携した統制が必要です。
予想される出力は、リスク、依存関係、実装作業、ユーザーへの影響、ライセンス、規制要件、準備状況に基づいて、First、Then、Next に優先順位付けされた AI セキュリティ プロジェクトの実用的なバックログです。
AI セキュリティ実装領域
| 領域 | 詳細 |
|---|---|
| AI セキュリティ ガバナンスとアカウンタビリティを確立する | AI セキュリティ原則、許容可能な使用ポリシー、リスク所有権、特権管理者ロール、承認と例外プロセス、規制とコンプライアンスのマッピング、ドキュメント要件、およびビジネス、テクノロジ、セキュリティ、プライバシー、法律、コンプライアンスの利害関係者全体にわたる測定可能な結果を定義します。 |
| AI アプリケーション、エージェント、モデル、ワークロードを把握して評価する | 生成型 AI アプリケーション、エージェント、モデル、エンドポイント、ワークロード ID、ローカルまたはシャドウ AI など、Microsoftおよび外部プラットフォーム全体で統合インベントリを作成します。 重要度とリスクを分類し、所有者を割り当て、結果を確認し、修復を委任し、継続的な監視を維持します。 |
| AI エージェントのライフサイクル全体を通じて登録および管理する | エージェント 365 レジストリまたは適切な代替手段を使用して、エージェントを登録、分類、整理、発行、認定、アクティブ化、更新、中断、および廃止します。 スポンサーと所有者を割り当て、ガバナンス テンプレートとコレクションを確立し、サポートされている場所で外部レジストリを同期し、大規模なレジストリ管理を自動化します。 |
| ユーザー、エージェント ID、特権管理者による管理をセキュリティで保護する | サポートされているユーザー認証を要求し、共有資格情報ではなく専用エージェント ID を使用し、最小特権、条件付きアクセス、リスクベースの制御、カスタム セキュリティ属性、ID ガバナンス、アクセス パッケージ、ライフサイクル ワークフロー、およびPrivileged Identity Managementをユーザー、エージェント、ワークロード ID、および管理者に適用します。 |
| リソース、ツール、およびその他のエージェントへのエージェント アクセスを管理する | 承認されたリソース、コネクタ、プラグイン、アクション、MCP サーバー、接続エージェントのシナリオを定義します。 エージェントの目的とリスク別にアクセス許可をスコープし、影響の大きい機能の承認を必要とし、必要に応じてCopilot Studioデータ ポリシーを適用し、エージェントと依存関係の変更に応じてアクセスを確認します。 |
| セキュリティで保護されたネットワーク パスと AI ゲートウェイ | グローバル セキュア アクセスやセキュリティで保護された AI ゲートウェイや API ゲートウェイなど、ID に対応したネットワーク制御を介して、サポートされている AI とエージェントトラフィックをルーティングします。 カスタム LLM エンドポイントと MCP サーバーにフィルター処理、セグメント化、レート制限、トークン制御、エグレス制限、プロンプト検査、保護を適用します。 |
| プロンプト、グラウンド データ、出力、およびエージェント メモリを保護する | AI 用のデータ セキュリティ体制管理、秘密度ラベル、データ損失防止、監査、収集ポリシー、インサイダー リスクコントロール、保持、通信コンプライアンスなどのMicrosoft Purview機能を使用します。 過剰な共有を減らし、グラウンディング ソースと埋め込みコンテンツを保護し、出力ラベルの継承を管理し、エージェント メモリの分離、来歴、保持、削除、および可観測性の要件を定義します。 |
| AI アプリケーションの検出と承認された使用の管理 | Microsoft Defender for Cloud Apps、エンドポイント制御、組織のポリシーを使用して、生成 AI アプリケーションとローカル エージェントを検出し、承認済みサービスと未承認サービスを分類し、アクセスを管理するとともに、承認済みの業務シナリオを維持しながら高リスクのアプリケーションをブロックまたは制限します。 |
| AI エージェントを安全に構築して公開する | ID、承認、データ処理、コンテンツの安全性、ログ記録、メモリ、依存関係、デプロイ、環境の分離に関するセキュリティで保護された開発要件を確立します。 公開および認証に関する管理策を義務付け、コネクタとツールのリスクをレビューし、エージェント開発を DevSecOps とソフトウェア サプライ チェーンのプラクティスと整合させます。 |
| AI の安全性、セキュリティ、品質を検証する | コンテンツの安全性コントロール、プロンプト シールド、敵対的およびレッド チーム テスト、根拠性評価、実行時の根拠性検出、データ品質ルール、不正使用テスト、および定義されたリリースしきい値を使用します。 材料モデル、プロンプト、ツール、データ、メモリ、または構成の変更後に再テストします。 |
| AI インフラストラクチャ、モデル、ランタイム環境を保護する | クラウド セキュリティ体制機能を使用して AI ワークロードとモデルを検出し、Azure Policy または同等のガバナンスを適用し、機密性の高いインフラストラクチャを分離し、AI サービスとエージェント ランタイムを保護し、API とモデルのエンドポイントを保護し、公開状態、脆弱性、構成、ランタイムの脅威を監視します。 |
| AI アクティビティをログに記録して監視する | サポートされている場合は、AI アプリケーション、エージェント、ID エンティティ、サービス、プロンプト、応答、ツールの使用、メモリ操作、モデル エンドポイント、ガバナンス アクションの監査ログと診断ログの記録を有効にします。 AI テレメトリの保持、プライバシー、データ最小化、正常性の監視、アクセス制御を定義します。 |
| AI特有の脅威を検出して対処する | AI データ ソースをMicrosoft Sentinel、Microsoft Defender XDR、または別の SIEM/XDR プラットフォームに接続します。 プロンプト インジェクション、異常なエージェントの動作、危険な AI の使用、データ露出、ID 侵害、安全でないツール、ランタイム攻撃の検出を実装し、適切なセーフガードを使用してダッシュボード、ハンティング クエリ、プレイブック、自動応答を使用します。 |
| AI セキュリティ体制を継続的に改善する | AI インベントリ、リスク評価の結果、DLP と内部不正リスクのアラート、エージェントのアクセス許可、公開に関する管理策、インシデントの傾向、モデルとエージェントの評価、規制対応のエビデンス、および是正対応の進捗について、定期的なレビューを実施します。 AIの機能、脅威、業務での活用の変化に合わせて、ポリシーと管理策を更新します。 |
これらの領域は、AI セキュリティ ワークショップの柱をまとめたものです。 詳細な AI プロジェクト ガイダンスを使用して、個々のプロジェクト、依存関係、ライセンスに関する考慮事項、実装ガイダンスを確認します。
AI ワークショップの使用方法
AI プラットフォームとアプリケーション チーム、エージェント作成者、ID、データ保護、ネットワーク、インフラストラクチャ、DevSecOps、セキュリティ運用、プライバシー、法律、コンプライアンス、ビジネス利害関係者と共に Web ベースのワークショップを使用します。 関連するプロジェクトごとに:
プロジェクトの目的と環境への適用性を確認します。
現在の状態、メモ、決定事項、所有者、既知の依存関係を記録します。
ライセンス、実装作業、ユーザーへの影響、データと規制の要件、技術的な前提条件、カバレッジ、および領域横断の依存関係を検討します。
プロジェクトを First、Then、または Next に分類して、実装ロードマップに組み込みます。
ゼロ トラスト ワークショップを開く、AI の柱を選択します。
プロジェクト レベルの情報については、AI プロジェクトの詳細なガイダンスを確認 してください。
AI のセキュリティ体制を評価する
Microsoft ゼロ トラスト評価は、サポートされている AI セキュリティ構成とプラクティスをセキュリティのベスト プラクティスに照らして評価することで、ワークショップを補完します。 その調査結果を、現在の状態を検証し、AI セキュリティ プロジェクトに優先順位を付ける際の追加情報として使用してください。 評価結果は、ワークショップで完了した機能間のインベントリ、リスク、アーキテクチャ、開発、データ、運用レビューに代わるものではありません。
誰が参加すべきですか?
AI プラットフォーム所有者、AI アプリケーション チーム、エージェント作成者、データ サイエンティスト、機械学習エンジニア、アプリケーション アーキテクト、およびソフトウェア エンジニアリング チーム。
ID、データ ガバナンス、データ保護、ネットワーキング、インフラストラクチャ、クラウド プラットフォーム、エンドポイント管理、DevSecOps の各チーム。
セキュリティ アーキテクチャ、アプリケーション セキュリティ、クラウド セキュリティ、セキュリティ運用、インシデント対応、露出管理、脅威インテリジェンス チーム。
プライバシー、法務、コンプライアンス、責任ある AI、ガバナンス、リスク、調達、ビジネス部門担当者、データ担当者、アプリケーション担当者。
次のステップ
評価を実行し、 AI ワークショップを開始します。