人工知能 (AI) を採用すると、従来のアプリケーションによってもたらされるリスクを超えて、新しいセキュリティの脅威と脆弱性が導入されます。 AI は、AI エージェントとアプリケーション、使用する AI モデル、これらの資産へのプラグイン、生成的な AI プロンプトと応答に対して、新しい攻撃サーフェスを公開します。
Microsoft では、AI の開発と運用のファブリックにセキュリティを組み込むことで、責任を持って AI を構築し、安心して大規模に AI を採用できます。 MICROSOFT の AI セキュリティに対する包括的なアプローチの一環として、Microsoft Defenderは、AI 資産を検出し、開発、構成、実行時に AI 固有の脅威を検出、ブロック、調査するのに役立ちます。
この記事では、脆弱性や新たな脅威から AI 資産を保護するのに役立つMicrosoft Defender機能の概要について説明します。
AI の脅威の状況
AI セキュリティの脅威は、ビルド時や構成上のリスク (構成ミスや安全でない依存関係など) から、AI エージェントやアプリケーションに影響を与えるランタイムの脅威まで、AI ライフサイクル全体に及びます。
AI 資産に対する主なセキュリティ リスクは次のとおりです。
- モデルとサプライ チェーンのリスク - AI 資産が依存するモデルは、価値の高いターゲットです。 モデルのサプライ チェーンで 1 つの依存関係が侵害されると、それに依存するすべてのエージェントとアプリケーションを、資格情報の流出、バックドアのインストール、インフラストラクチャ全体への脆弱性の分散のための攻撃ベクトルに変えることができます。
- エージェントの構成ミスと過剰な特権 - 過剰なアクセス許可または不適切に構成されたツール認証を持つエージェントは、機密性の高いリソースへの未承認のアクセスを有効にすることができます。
- ランタイムの悪用と誤用 - エージェントまたはアプリケーションは、悪意のある入力、予期しない推論パス、または依存関係の侵害により、実行時に安全でないアクションを実行する可能性があります。
- プロンプトおよびコンテンツ ベースの攻撃 - 悪意のある入力以外にも、メールに埋め込まれた非表示の指示や取得されたコンテンツを使用したゼロクリック攻撃など、より微妙な戦術により、エージェントの動作を操作したり、データ漏洩を引き起こしたり、意図しないアクションをトリガーしたりできます。
これらのリスクに対処するには、検出、ポスチャ管理、検出、ランタイム保護にまたがるセキュリティ制御が必要です。
Microsoft Defenderを使用して AI ライフサイクル全体で AI 資産をセキュリティで保護する
Microsoft Defenderは、AI 資産の可視性を提供し、セキュリティ体制を評価し、AI 固有の脅威を検出してブロックし、脅威を調査するために必要なシグナルとコンテキストを提供することで、AI ライフサイクル全体で AI リスクに対処するのに役立ちます。これには、ビルド時間から AI アプリケーションやエージェントのライフサイクル (ランタイムを含む) が含まれます。
以下のセクションでは、Microsoft Defender がこれらの機能をどのように適用するかについて説明します:
- AI エージェント。構成、アクセス許可、ランタイム動作 (ツールの使用やエージェントの意思決定など) によって、公開が導入されます。
- モデル、プラットフォーム、サービス、統合を含む AI アプリケーションとインフラストラクチャ。サプライ チェーンのリスク、構成、デプロイの脆弱性により、より広範な攻撃パスが作成される可能性があります。
Microsoft Defenderを使用して AI エージェントを保護する
AI エージェントは、接続されたシステムに対して推論、ツールの呼び出し、データへのアクセス、自律的なアクションを実行する能力により、固有のセキュリティ リスクを導入します。 大規模なエージェントをセキュリティで保護するには、攻撃の根本原因を検出するために、一元的な可視性、セキュリティ体制とリスク管理、ランタイム保護、高度な調査機能が必要です。
Microsoft Agent 365 は、組織内の AI エージェントを管理および管理するためのエンタープライズ コントロール プレーンを提供します。 Agent 365ライセンスを有効にすると、Microsoft DefenderはAgent 365と統合され、サポート対象エンドポイントのローカルAIエージェントを含むすべてのマネージドエージェントを保護します。 この統合により、ディスカバリー、態勢管理、リアルタイムの保護、調査が提供されます。 脅威検出は、Microsoft Copilot Studio、Microsoft Foundry、Microsoft 365 Copilot Agent Builder、およびMicrosoft Agent 365 SDKを通じて統合されたエージェントの可観測性データを使用します。
開始するには、「Microsoft Defenderを使用して AI エージェントのセキュリティを有効にする」を参照してください。
| 機能 | 説明 | 詳細情報 |
|---|---|---|
| AI エージェントの検出 | サポートされているエンドポイント上のローカル AI エージェントや、Microsoft Agent 365 SDK を使用して構築された Microsoft 以外のエージェントを含む、Agent 365 にオンボードされたすべてのエージェントを確認できます。 Microsoft Defenderの高度なハンティングのKusto 照会言語 (KQL) クエリ、または Defender ポータルの [AI 資産] ページを使用して、エージェントの詳細を表示します。 | ai エージェントを検出し、Microsoft Defenderを使用してセキュリティ体制を評価する |
| エージェントのセキュリティ体制管理 | Microsoft Defenderで高度な検出を使用します。構成ミス、危険なエージェント設定、過剰なアクセス許可を特定するのに役立つ事前構築済みのクエリを提供します。 | ai エージェントを検出し、Microsoft Defenderを使用してセキュリティ体制を評価する |
| リアルタイム保護: | リアルタイム保護は、エージェント365エージェントがWork IQ MCPおよびAgent 365にオンボーディングされた顧客MCPツールを使用する場合、ツールの呼び出しや応答をセキュリティポリシーに対して評価します。 デフォルトのルールはアクティビティを監査しますが、カスタムルールはマッチングアクションの実行前にブロックできます。 監査およびブロックされた活動は、ハンティングや自動化のための BehaviorInfo テーブルに挙動として記録されます。 |
Microsoft Defenderを使用して AI エージェントをリアルタイムで保護する |
| 脅威の検出、調査、およびハンティング | ほぼリアルタイムの検出は、間接プロンプト注入、回避技術、悪意あるコンテンツ伝播、秘密リーク、大規模言語モデル(LLM)偵察、疑わしいIPアクセスなどの脅威についてAgent 365の観測可能性データを分析します。 Microsoft Defenderはアラートをインシデントと関連付け、高度なハンティングはアナリストがエージェントの活動を他のセキュリティデータと照会できるようにします。 | Microsoft Defenderを使用して AI エージェントに対する脅威を検出して調査する |
Microsoft Defenderを使用して AI インフラストラクチャを保護する
AI アプリケーションとエージェントが依存するジェネレーティブ AI モデル、サービス、インフラストラクチャを保護することが重要です。 侵害されたモデル、安全でない構成、または公開されている依存関係により、複数の AI ワークロードに影響を与えるサプライ チェーン リスクが発生する可能性があります。
AI インフラストラクチャの脅威保護を有効にする方法については、「AI サービスの脅威保護を有効にする」を参照してください。
次の表に、生成型 AI モデルとアプリケーションのセキュリティ保護に役立つMicrosoft Defender機能を示します。
| 機能 | 説明 | 詳細情報 |
|---|---|---|
| AI インフラストラクチャの検出 | デプロイされたモデル、サービス、関連する AI リソースなど、organizationの AI インフラストラクチャの統合ビュー。 | AI セキュリティ体制管理 |
| AI インフラストラクチャのセキュリティ体制管理 | モデル、依存関係、コード リポジトリ、コンテナー イメージなど、AI 成果物全体の脆弱性と構成の誤りを特定します。 組み込みのセキュリティに関する推奨事項と攻撃パス分析を使用して、修復に優先順位を付けます。 マルウェア、安全でないオペレーター、シリアル化の脆弱性、AI ライフサイクル全体を通じて公開されているシークレットなどのセキュリティ リスクについて、AI モデルを継続的に評価します。 |
AI セキュリティ体制管理 |
| 脅威の検出 | Microsoft Foundry を使用して構築された生成型 AI アプリケーションを対象とする脅威 (疑わしいプロンプト アクティビティや異常な実行動作など) を検出し、コンテキスト信号がセキュリティ アラートに表示されます。 | AI サービスのアラート |
| 脅威の調査とハンティング | Microsoft Defender のインシデント相関分析と Advanced Hunting 機能は、AI インフラストラクチャの脅威の全体像と影響範囲を把握するのに役立ちます。 | Microsoft Defender ポータルでインシデントとアラートを調査する |
次の手順
これらの機能の詳細と、それらを使用して AI 資産をセキュリティで保護する方法について説明します。