アプリケーションまたはプラットフォームカードとは何ですか?
Microsoft のアプリケーションおよびプラットフォーム カードは、AI テクノロジのしくみ、アプリケーションのパフォーマンスと動作に影響を与えるアプリケーション所有者が行うことができる選択、テクノロジ、人、環境を含むアプリケーション全体を考慮することの重要性を理解するのに役立つことを目的としています。 アプリケーション カードは AI アプリケーション用に作成され、プラットフォーム カードは AI プラットフォーム サービス用に作成されます。 これらのリソースは、独自のアプリケーションの開発または展開をサポートし、影響を受けるユーザーまたは利害関係者と共有できます。
責任ある AI への取り組みの一環として、Microsoft は 6 つの主要原則 (公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任) を遵守しています。 これらの原則は、チームが AI アプリケーションの設計、構築、テストをガイドする Responsible AI Standard に組み込まれています。 アプリケーション カードとプラットフォーム カードは、機能、使用目的、制限に関する透明性を提供することで、これらの原則を運用する上で重要な役割を果たします。 さらに詳しい情報を得るには、Microsoft の 責任ある AI 透明性レポート と、責任を持って AI に取り組む方法を概説した Microsoft Enterprise AI Services の行動規範を調べることをお勧めします。
概要
Microsoft Security Copilot は、AI を活用した生成セキュリティ ソリューションであり、防御者の効率と能力を向上させて、マシンの速度と規模でセキュリティの成果を改善するのに役立ちます。 Security Copilot は、自然言語の支援コパイロット エクスペリエンスを提供し、セキュリティ専門家と IT 管理者がインシデント対応、脅威の捜索、インテリジェンス収集、ポスチャ管理などの幅広いエンドツーエンドのシナリオを処理するのに役立ちます。
Security Copilot は統合を念頭に置いて設計されており、https://securitycopilot.microsoft.com で没入型のスタンドアロン エクスペリエンスを提供します。 このプラットフォームは、Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune、Microsoft Entra、Microsoft Purview およびサポートされているサードパーティ サービスなど、Microsoft セキュリティ ポートフォリオの製品とシームレスに統合されます。
Security Copilot エージェントは出力を生成し、顧客によって定義された構成済みのロジック、アクセス許可、トリガーに基づいてアクションを実行できます。 お客様は、自律型 Security Copilot エージェントを使用して、完全な制御を維持しながら、セキュリティ ワークフローを自動化し、応答時間を短縮し、リスクに優先順位を付け、手動ワークロードを削減できます。 エージェントの自律性とは、定義された境界内で独立してアクションを実行するエージェントの能力を指します。
管理者 (Security Copilot 所有者) は、Security Copilot ポータルとセキュリティ ストアを通じてエージェントを検出してデプロイします。一部のエージェントは、埋め込まれた Microsoft セキュリティ製品エクスペリエンスにも表示されます。 管理者は、エージェントの ID を設定し、エージェントの役割ベースのアクセス制御 (RBAC) を構成します。
対象となるユーザーには、SOC アナリスト、IT 管理者、データ セキュリティおよび ID 管理者、コンプライアンス アナリスト、最高情報セキュリティ責任者 (CISO) などのセキュリティ リーダーが含まれます。
Security Copilot は ISO 42001 認証を取得しています。これは、Microsoft AI システムの継続的な開発、展開、運用に関連するリスクと機会を効果的に管理するために必要なフレームワークと機能の Microsoft の適用を独立した第三者がレビューしたことを確認します。
詳細については、「Microsoft Security Copilot とは」、「Microsoft Security Copilot エクスペリエンス」、「Security Copilot 用アプリケーション カード」を参照してください。
重要な用語
次の表は、Microsoft Security Copilot エージェントに関連する主要用語の用語集を示しています。
| 用語 | 定義 |
|---|---|
| エージェント | Security Copilot エージェントは、統合されたデータ ソースとプラグインを通じて顧客環境からのシグナルを処理し、データを分析し、推奨事項を生成します。 エージェントは、プロンプトが表示されたら、構成されたアクセス許可の範囲内で範囲を絞ったアクションを実行することもできます。これには、適切なユーザーまたは管理者の承認が必要です。 エージェントは、単純なプロンプトと応答のエクスペリエンスから、人間の監督によるより自動化された半自律的なワークフローまで多岐にわたります。 |
| エージェント アクション | アクセス許可に基づいて、データの取得、出力の生成、構成の変更など、エージェントによって実行される操作。 |
| エージェント マニフェスト | エージェントの機能、ツール、動作を定義する構成ファイル。 これは、エージェントが Security Copilot 内でどのように動作するかを制御し、YAML ファイル形式で表されます。 |
| 埋め込みエクスペリエンス | Microsoft Defender XDR や Microsoft Sentinel など、別の Microsoft セキュリティ製品内から Security Copilot 機能にアクセスする。 Security Copilot サイドカー パネルには、その製品のコンテキストで AI 支援が直接表示されます。 |
| 基礎 | ユーザーのプロンプトに関連する大規模言語モデルにコンテキスト入力ソースを提供するプロセス。 Security Copilot がプラグインや Microsoft セキュリティ製品を通じて組織データにアクセスできるようにすることで、Security Copilot はより正確でコンテキストに即した応答を提供できます。 |
| 大規模言語モデル (LLM) | AI モデルは、大量のテキスト データでトレーニングされ、単語を連続的に予測します。 LLM は、テキストの生成、要約、翻訳、分類などのさまざまなタスクを実行できます。 |
| パートナーが構築したエージェント | 特定のセキュリティ ユース ケースに対処するために、Microsoft パートナーによって発行され、Security Store を通じて使用可能になるエージェント。 |
| プラグイン | API を通じて Microsoft および Microsoft 以外のサービスや一般向け Web サイトのリソースへのアクセスを提供することで、Security Copilot の機能を拡張する関連ツールのコレクション。 プラグインは、Security Copilot が生成する応答と出力により多くのコンテキストを追加します。 |
| 後処理 | LLM 応答をユーザーに返す前に LLM 応答を調整および準備するために Security Copilot が実行する一連のアクション。 この後処理には、プラグインを介した追加のグラウンディング呼び出し、責任ある AI チェック、セキュリティ、コンプライアンス、プライバシー チェックが含まれます。 |
| プロンプト | ユーザーが特定のタスクを実行したり情報を取得したりするために Security Copilot に送信する自然言語テキスト。 たとえば、 このインシデントを要約し、修復手順を提案します。 |
| プロンプトブック | 特定のセキュリティ関連のタスクを実行するために、以前の応答に基づいて順番に実行される一連のプロンプト。 プロンプトブックは、ライブラリから使用することも、構築してユーザーが共有することもできます。 |
| レッド チームのテスト | システムの限界と脆弱性を評価し、計画された軽減策の有効性をテストするために専門家によって使用される手法。 レッド チーム テストは、潜在的なリスクを特定するために使用され、リスクの体系的な測定とは異なります。 |
| 責任ある AI | AI の原則に基づいており、 責任ある AI 標準を通じて運用可能な Microsoft のポリシー、調査、エンジニアリング プラクティス。 詳細については、 Fluent RAI ガイダンスを参照してください。 |
| セキュリティ演算ユニット (SCU) | SCU は、Security Copilot ワークロードを実行し、エクスペリエンス全体で一貫したパフォーマンスを提供するために使用されるコンピューティング容量の単位です。 Security Copilot の容量は SCU で測定され、プロビジョニングされた容量モデルまたは超過容量モデルを通じて使用できます。 詳細については、「 SCU について」を参照してください。 |
| セキュリティ オペレーション センター (SOC) | organization内のサイバーセキュリティインシデントへの継続的な監視、分析、対応に焦点を当てた専任のセキュリティチームまたは施設。 SOC アナリストは、Security Copilot の主な目的ユーザーの 1 つです。 |
| スタンドアロン エクスペリエンス | https://securitycopilot.microsoft.com で直接アクセスできるイマーシブ Security Copilot ポータル エクスペリエンス。 |
| Tenant | Security Copilot の ID、アクセス、データを分離する Microsoft Entra ID の組織の境界。 テナントは、テナント レベルのアクセス許可とセキュリティ制御を通じて、すべてのワークスペース、ユーザー、および相互作用を管理します。 |
| トリガー | ワークフローの実行を開始するようにエージェントに指示するイベントまたは条件。 トリガーは、時間ベース (たとえば、脅威インテリジェンス ブリーフィング エージェントの週単位のスケジュール) または手動 (ユーザーまたは管理者によるオンデマンドでの実行) にすることができます。 トリガーはエージェントのセットアップ中に設定されます。 |
主な特徴
次の表の主な機能は、Microsoft Security Copilot の動作と、サポートされているタスク全体でどのように実行されるかを説明しています。
| 機能 | 説明 |
|---|---|
| インシデントの調査と対応 | Security Copilot は、複雑なセキュリティ アラートの概要を生成し、Microsoft Defender XDR、Microsoft Sentinel、その他の統合製品全体のシグナルを関連付け、段階的な修復ガイダンスを提供することで、セキュリティ専門家がインシデントのトリアージと調査を支援します。 |
| 脅威インテリジェンス | Security Copilot は、Microsoft Defender 脅威インテリジェンスの記事とプロファイル、脅威分析レポート、脆弱性の開示に関する出版物を検索して、プロンプトに合わせた関連インテリジェンスを明らかにできます。 |
| セキュリティ アラートのトリアージ | Security Copilot にはセキュリティ アラート トリアージ エージェントが含まれており、実際の攻撃と誤検知を特定することで、セキュリティ チームが大規模にアラートをトリアージできるようになり、アナリストは透明性のある段階的な推論で実際の脅威の調査に集中し、すべての意思決定をサポートできます。 |
| スクリプト分析と KQL クエリの生成 | Security Copilot は、疑わしいスクリプトやマルウェアを分析し、自然言語を KQL クエリに変換できるため、あらゆるスキル レベルのチーム メンバーが高度な捜索や技術分析タスクを実行できます。 |
| セキュリティ体制管理 | Security Copilot は、ユーザーが環境全体で優先されるリスクを理解し、Microsoft Defender XDR、Microsoft Entra、Microsoft Intune との統合を通じて体制を改善する機会を特定するのに役立ちます。 |
| セキュリティ ポリシーの作成と管理 | ユーザーは、新しいポリシーを定義し、競合に関する既存のポリシーと相互参照し、複雑な組織コンテキストを管理するために、わかりやすい言葉でポリシーを要約できます。 |
| 利害関係者の報告 | Security Copilot は、コンテキスト、未解決の問題、エグゼクティブやセキュリティ チームなどの対象ユーザーに合わせた保護対策を要約したレポートを生成できます。 |
| プロンプトブック | プロンプトブックは、特定のセキュリティ タスクを実行するために実行される一連のプロンプトです。 ユーザーは、共有ライブラリからプロンプトブックを実行したり、独自のライブラリを作成して共有したりできます。 |
| Agents | Security Copilot は、管理者によって付与されたアクセス許可の範囲内で、セキュリティおよび IT 運用タスクを自動化および支援するエージェントをサポートしています。 エージェントは、構成された ID、アクセス制御、トリガーを通じてアクションを実行し、セキュリティ ワークフローの一部として人間の監視の下で動作します。 Microsoft が構築したエージェントは、SOC 運用、脅威捜索、脅威インテリジェンス、ID 管理、エンドポイント管理、データ セキュリティなど、セキュリティ製品ポートフォリオに及びます。 管理者は、セットアップ中に各エージェントの ID、権限、トリガーを構成します。 ユーザーは、エージェントのトリガー、データ アクセス、ID、アクション権限 (読み取りや書き込みなど) を確認して、定義されたスコープ内でエージェントがどのように動作するかを理解できます。 特定のエージェントとそのユースケースの詳細については、「 使用目的」を参照してください。 |
| 多言語サポート | Security Copilot では、複数の言語でのプロンプトと応答がサポートされています。 詳細については、サポートされている言語に関する記事をご覧ください。 |
Security Copilot は、支援と自律エージェント システムの両方として動作する AI 搭載のセキュリティ ソリューションです。 エージェントの自律性を理解するには、次の点を考慮してください。
- アクティブ化トリガー – エージェントが実行される条件またはユーザー操作
- アクセス許可 - エージェントが使用できるデータ、システム、またはリソース
- アクション権限 – エージェントが独自に実行する権限を持つアクション
次のセクションでは、エージェントがどのように推論し、計画し、記憶し、適応し、リーチを拡大するかを支えるコアエージェント機能について説明します。
認識力
Security Copilot エージェントは、基盤となる大規模言語モデルを使用して、利用可能なコンテキストを分析し、シグナルを評価し、最も適切な行動方針を決定します。 たとえば、フィッシング トリアージ エージェントは、メールの内容、送信者の評判、行動シグナルを評価して、自然言語に基づく分類の判断を生成します。 エージェントは、アナリストが結論に基づいて行動する前に結論を確認、検証、または上書きできるように、推論を透過的に明らかにします。
計画
エージェントは、目標に向けた構造化された一連のアクションを開始するようにエージェント システムに指示する定義されたトリガーに対して動作します。 エージェントは、次のように構成できます。
- スケジュールに従って自動的に実行されます (たとえば、脅威インテリジェンス ブリーフィング エージェントは 7 日ごとに実行されます)。
- 必要に応じてオンデマンドで手動で実行します。
この設計により、エージェントは目標指向型実行モデルが提供され、システムはタスクを完了するためにいつ、どのように行動すべきかを分析します。
メモリ
Security Copilot エージェントは、メモリと呼ばれる情報を長期間保持できます。 メモリを使用すると、エージェントの設計方法や構成方法に応じて、エージェントは過去の入力を将来の動作に組み込むことができます。
メモリには、ユーザーから提供されたフィードバックを含めることができます。 エージェントは、このフィードバックを使用して、その後の対話で応答やアクションを調整できます。
適応性
Security Copilot エージェントは、ユーザーのフィードバックと運用コンテキストに基づいて適応しながら、構成された ID、アクセス許可、トリガーによって定義されたスコープ内で動作し続けるように設計されています。
- フィードバック ループ: Security Copilot の所有者と共同作成者は、エージェントの応答に関するフィードバックを提供できます。 このフィードバックはエージェントのメモリに保存され、エージェントの設計と構成によっては将来の出力に影響を与える可能性があります。
- コンテキスト グラウンディング: プロンプト処理中に、Security Copilot はグラウンディングを使用してプロンプトを強化します。 このプロセスには、関連する組織データ、有効なプラグイン、脅威インテリジェンスが組み込まれ、応答に現在のコンテキストが反映されます。
- 構成可能な ID とアクセス許可: エージェントはセットアップ後に更新して、ID、トリガー、パラメーターを変更できます。 これにより、エージェントは進化するワークフローや要件に合わせることができます。
拡張性
- プラグイン: エージェントはプラグインを使用して、評判の検索、脅威インテリジェンス、エンドポイント データなどの API を介して外部サービスにアクセスします。 Microsoft が作成したプラグインとパートナーが作成したプラグインの両方がサポートされています。 詳細については、「プラグインの概要」を参照してください。
- コネクタ: Logic Apps と Copilot Studio コネクタは Security Copilot API をラップし、開発者とユーザーが外部の自動化ワークフローからプラットフォームに呼び出せるようにします。 詳細については、「 コネクタの概要」を参照してください。
- カスタム エージェント: 開発者は、特定のユース ケースに合わせたカスタム エージェントを構築し、開発者プラットフォームを介して Security Copilot エコシステムに追加できます。 詳細については、「 カスタム エージェントの開発」を参照してください。
- セキュリティ ストア: 事前構築済みの Microsoft エージェントとパートナー エージェントを、組み込みのエージェント ライブラリとセキュリティ ストアから検出して展開できます。
- 組み込みエクスペリエンス: エージェントは、Security Copilot スタンドアロン ポータルで動作するだけでなく、Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune、、Microsoft Entra、および Microsoft Purview。
使用目的
Microsoft Security Copilot エージェントは、セキュリティ専門家と IT 管理者がインテリジェンスの収集や関連付けなどのセキュリティ ワークフローをサポートするように設計されています。 エージェントは管理者が定義した権限内で動作でき、人間が制御しながら、そうでなければ多大な手動作業を必要とするタスクの効率化に役立ちます。 意図されたエージェントのユースケースの例としては、次のようなものがあります。
脅威インテリジェンス ブリーフィング: 脅威インテリジェンス ブリーフィング エージェントは、Microsoft Defender 脅威インテリジェンス データ、Defender 外部攻撃面管理 (EASM) シグナル、およびリアルタイムの顧客コンテキストを関連付けることにより、タイムリーで詳細な脅威インテリジェンス レポートを生成します。 セキュリティ アナリストは、このエージェントを使用して、数時間または数日間にわたる手動インテリジェンスの収集と相関を、数分で生成されたレポートに置き換えることができます。
セキュリティ データ分析 (Microsoft Defender XDR):セキュリティ アナリスト エージェントは、セキュリティ アナリストが大量のセキュリティ データにわたるリスクを迅速に特定、評価、および優先順位付けするのに役立ちます。 エージェントは、パターン分析、傾向分析、視覚化などの基本的な分析タスクと、異常検出、クラスタリング、リスク スコアリング、予測モデリングなどの高度なタスクの両方を実行します。 Microsoft Defender XDR、Microsoft Sentinel Log Analytics、Microsoft Sentinel Data Lake、アップロードされた CSV ファイルからのデータが統合され、対話型でコードなしのチャット エクスペリエンスで完全な証拠証跡を使用して優先される分析情報を生成します。
セキュリティ運用とインシデント対応 (Microsoft Defender XDR):
- フィッシング トリアージ エージェントは、ユーザーから報告されたフィッシング メールを送信時に評価し、透明性のある推論で判定を分類し、時間の経過に伴うアナリストのフィードバックを組み込みます。 セキュリティ アラート トリアージ エージェント (プレビュー) は、同じトリアージ アプローチをフィッシングの枠を超えて ID アラートとクラウド コンテナー アラートのサブセットに拡張します。
- 動的脅威検出エージェントはバックグラウンドで継続的に実行され、アラート、イベント、異常、脅威インテリジェンスを関連付けることで、Defender および Microsoft Sentinel 環境全体で隠れた脅威とギャップを明らかにします。
脅威の捜索 (Microsoft Defender XDR):脅威の捜索アシスタントは、自然言語を使用してエンドツーエンドの脅威捜索を可能にします。 KQL クエリを生成し、結果を解釈し、分析情報を明らかにし、完全な捜索セッションを通じてアナリストをガイドして、脅威をより迅速かつ確実に検出します。
ID およびアクセス管理 (Microsoft Entra):
- 条件付きアクセス最適化エージェントは、条件付きアクセス ポリシーを分析し、Microsoft のベスト プラクティスとゼロ トラスト原則に基づいて改善を推奨します。
- ID リスク管理エージェントは、ID 管理者が潜在的なリスクを調査し、重要な資産を保護するための措置を講じるのに役立ちます。
エンドポイント管理 (Microsoft Intune):
- 脆弱性修復エージェントは、Defender データを使用して脆弱性を監視し、AI 主導型のリスク評価により修復の優先順位を付けます。
- ポリシー構成エージェントを使用すると、管理者はドキュメントをインポートしたり、平易な言語の指示を作成したりして、Intune 設定カタログで一致する設定を見つけてポリシーを作成できます。
- 変更レビュー エージェントは、Intune での承認要求の効果を評価し、管理者が実行できるアクションに関する推奨事項を作成します。
データ セキュリティ調査 (Microsoft Purview):
- イン サイダー リスク管理のトリアージ エージェント は、ユーザー、ファイル、アクティビティのリスクに基づいてアラートを評価し、セキュリティ チームが最もリスクの高いケースに集中できるように、優先されるカテゴリに自動的に分類します。
- データ損失防止の Purview トリアージ エージェントは、機密性リスク、流出リスク、ポリシー リスクに基づいて DLP アラートを評価し、データ セキュリティ管理者が最も重要なインシデントに対応できるように支援します。
カスタム エージェント ワークフロー: 開発者は、自然言語処理、エージェント マニフェストのアップロード、またはorganization 固有のセキュリティ ユース ケースに合わせた MCP ツールを使用してカスタム エージェントを構築およびデプロイし、プラグインとコネクタを介してエージェント機能を Microsoft サービスおよび Microsoft 以外のサービスに拡張できます。 詳細については、「 カスタムエージェント」を参照してください。
エージェントとユーザーが何かを解決するためのガイド付きエクスペリエンスのために協力する必要がある場合に、対話型チャット エージェントを構築することもできます。 詳細については、 対話型エージェントを参照してください。
モデルとトレーニング データ
Microsoft Security Copilot は、Azure が販売する Foundry モデルの Azure OpenAI 大規模言語モデル (LLM) を使用して、自然言語エクスペリエンスを強化します。 これらのモデルは、Security Copilot の顧客データでトレーニングされていません。 モデルの機能は、推論、速度、制限事項、サポートされるシナリオによって異なります。
また、Security Copilot には、プラグインとグラウンディングを通じてセキュリティ固有の知識とコンテキストが組み込まれており、モデル トレーニングではなく、推論時に関連する組織データ、脅威インテリジェンス、信頼できるコンテンツを LLM に提供します。
パフォーマンス
Security Copilot は、Microsoft Security 製品や organization によって構成されたその他のデータ ソース全体で大量のリアルタイム セキュリティ シグナルが生成されるエンタープライズ セキュリティ環境で動作するように設計されています。 これらのソースからの信号を統合し、構造化されたログ データのリアルタイム処理と調査的推論を組み合わせます。 これは、複数のデータ ソースにわたるセキュリティ インシデントのソースと影響を検出、分析、および追跡できるように設計されています。
Security Copilot は、Microsoft のハイパースケール インフラストラクチャとセキュリティ固有のオーケストレーション レイヤー上で実行され、繰り返される脅威の検出と調査シナリオ全体にわたってスケーラブルで回復力のあるパフォーマンスをサポートすることを目的としています。
エージェントは、管理者が構成したアクセス許可を通じて定義されたセキュリティ タスクを実行することで、セキュリティ シグナルに基づいて動作する Security Copilot の機能を拡張します。 エージェントは、利用可能なシグナルに基づいて推論し、構造化されたアクションを計画および実行し、リアルタイムの組織および脅威インテリジェンス データに基づいたトリアージの決定、インテリジェンス レポート、修復ガイダンスなどのアウトプットを生成します。 エージェントの実行はステップバイステップのノードマップを通じて透過的であり、アナリストは生成されたステップ(各ノードで実行された特定のアクションの詳細な要約ではありません)を確認し、実行全体の結果を検証できます。
パフォーマンスの信頼性は、Microsoft が構築した事前構成済みエージェントによってさらにサポートされます。これらは代表的なワークフローに対してテストされ、またマニフェスト YAML ファイルが機能、ツール、トリガー、操作境界を指定することで、より一貫した動作を促進するのに役立つカスタム エージェントです。 マニフェスト命令が明確に定義されている場合、エージェントはそのタスクをより適切に解釈し、適切なアクションを選択し、意図した範囲内で操作できるようになります。 詳細については、「 カスタムエージェント」を参照してください。
対話型エージェントの場合、パフォーマンスは主にエージェントとユーザーの間の反復的な交換によって形成されます。 エージェントは最初の応答を生成し、ユーザーはエージェントが表示した内容に基づいてフォローアップ プロンプトを通じてコンテキストを調整します。 この往復の対話により、ユーザーは、1 回の自律実行が生み出すよりも正確でターゲットを絞った結果に向かってエージェントを段階的に導くことができます。 詳しくは、 対話型エージェントを参照してください。
制限事項
Security Copilot の制限を理解することは、安全かつ効果的な境界内で確実に使用されるようにするために重要です。 お客様はセキュリティ ワークフローで Security Copilot を使用することをお勧めしますが、Security Copilot は考えられるすべてのシナリオ用に設計されているわけではないことに注意することが重要です。 ユース ケースを選択するときは、 Microsoft Enterprise AI Services の倫理規定 と次の考慮事項を参照してください。
- パブリック プレビューの状態: 一部のエージェントはパブリック プレビュー段階であり、一般公開前に大幅に変更される可能性があります。 Microsoft は、これらの機能に関して明示または黙示を問わずいかなる保証も行いません。 他の AI 出力と同様に、お客様はその出力に基づいて行動する前に、エージェントの意思決定を確認する必要があります。
- 正確性と完全性: 他の AI を活用したテクノロジと同様に、Security Copilot はすべてを正しく理解できるわけではありません。 特に関連するプラグインが有効になっていない場合、またはユーザー入力や組織のコンテキストでは最新のデータが利用できない場合、回答が不正確、不完全、または古い可能性があります。 ユーザーは、AI が生成した応答だけに頼るのではなく、常に人間の判断を行い、重要な出力を検証する必要があります。
- ドメイン固有のスコープ: Security Copilot は、インシデント調査や脅威インテリジェンスなど、セキュリティ ドメインに関連するプロンプトに応答するように設計されています。 セキュリティの範囲外のプロンプトは、正確さと包括性に欠ける応答になる可能性があります。
- スクリプトとコードの生成: Security Copilot はコードを生成したり、応答にコードを含めたりする場合があります。 応答は有効に思われても、意味的または構文的に正しくないか、要求者の意図を正確に反映していない可能性があります。 生成されたコードは、適切な検証、テスト、レビューの手順なしで運用環境に展開しないでください。 ユーザーは、生成されたコードで使用されるパラメーターが元の要求と一致していることも確認する必要があります。 たとえば、エージェントが特定の時間範囲内のアラートを操作する場合は、生成されたコードの時間範囲が自然言語プロンプトで指定された時間範囲と一致することを確認します。
- プロンプトの長さの制約: システムは、数十万文字を含むような長いプロンプトを処理できない場合があります。 基になる LLM にはトークン制限があり、過度に詳細なクエリや拡張セッションはトークン スペースをオーバーフローする可能性があります。 このシナリオが発生すると、Security Copilot は軽減策を適用して、コンテンツが最適でない場合でも出力が常に利用可能であることを保証しようとします。ただし、これらの軽減策は常に効果的であるとは限らず、別のプロンプトやプラグインを試す必要がある場合があります。
- 使用制限と待機時間: プラットフォームの使用は、使用制限または容量制限の対象となる場合があります。 プラグインを使用した API 呼び出しや、表示する前に応答の確認など、応答の生成には時間がかかり、高い GPU 容量が必要になる場合があります。 組織は、予期しないサービス中断を回避するために、SCU の使用量を監視し、必要に応じてプロビジョニングされた容量を調整する必要があります。
- 偏見、固定観念、根拠のないコンテンツ: ユーザー プロンプトと LLM 出力の両方に責任ある AI 制御が実装されているにもかかわらず、AI サービスは誤りがあり、確率的です。 そのため、不適切なコンテンツをすべて包括的にブロックすることが困難になり、AI によって生成された出力に潜在的な偏見、固定観念、または根拠のないコンテンツが発生する可能性があります。
- 政府機関および Microsoft ソブリン パブリック/プライベート クラウド: 現時点では、Security Copilot はこれらの環境ではサポートされていません。
- タスク固有のエージェント境界: エージェントは、実行するように設計された特定のタスクにのみ適しています。 詳細については、 意図するユース ケース のセクションを参照してください。 これらは他のタスクには適していないため、定義された範囲を超えて再利用しないでください。
- ノード マップの詳細: エージェント ノード マップは、エージェント ワークフロー中に実行されるステップの概要を表示します。 各ノードはプロセスのステップを表し、使用されたスキルのタイトルと、完了状態、期間、タイムスタンプなどの基本的なメタデータを表示します。 ノード マップは、一連のアクションを表示するように設計されていますが、各ステップ内で行われた特定の操作または決定に関する詳細情報は提供されません。 ノード マップは要約された情報のみを表示するため、各アクションのコンテキストや複雑さを完全には捉えられない場合があります。
- エージェントのフィードバックとメモリの透明性: ユーザーがメモリに保存するためにフィードバックをエージェントに送信しても、エージェントはフィードバックの解釈の概要を提供しません。 将来の出力の精度を高めるために、ユーザーは明確、簡潔、そして具体的なフィードバックを提供する必要があります。 エージェントに送信されたフィードバックは保存され、将来の出力に影響を与えるために使用される場合があります。 ただし、この保存されたフィードバックの可視性は、エージェントのエクスペリエンスとユーザー ロールによって異なる場合があります。 詳細については、「 フィードバックの提供」を参照してください。
評価
パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠性、関連性、一貫性などの要素を調べることで、AI アプリケーションが確実かつ安全に動作しているかどうかを評価します。 次の評価は、すでに配置されている安全コンポーネントで実施されました。これは、「 安全コンポーネントと緩和策」にも記載されています。
品質・安全性の評価データ
当社の評価データは、安全性と品質の主要な領域にわたって AI アプリケーションのパフォーマンスを評価し、現実世界のシナリオとリスクをシミュレートするためにカスタム構築されています。 まず、学際的な研究と専門家の意見に基づいて、関連する評価の懸念事項を特定します。 これらの懸念は、対象を絞った評価目標に変換され、評価指標の策定をガイドします。
安全のために、敵対的なプロンプトを作成して望ましくない応答やエッジ ケースの応答を引き出します。その後、Microsoft の安全基準との整合性を評価するようにトレーニングされた AI 支援アノテーターを使用してスコア付けされます。 品質については、検索拡張生成 (RAG) アプリケーションとエージェントの評価など、シナリオに関連するルーブリックベースのプロンプトを作成します。
データセットは、実際のユーザー シナリオをシミュレートするために、合成データセットやパブリック データセットなどの多様なソースからキュレーションされます。 厳選されたデータセットを使用して、両方の評価を反復的に改良し、人間による調整を行い、指標の有効性と信頼性を向上させます。 この手法は、お客様が評価を使用してより優れた安全な AI を構築する方法を反映した、反復可能で厳密な評価の基盤を形成します。
カスタム評価
カスタム評価を実施し、回帰テスト、キュレーションされたプロンプト データセット、実稼働に合わせた例を使用して、グラウンディング、敵対的堅牢性、有害なコンテンツのシナリオ全体でモデルのパフォーマンスを検証しました。 この評価では、内部ツールを使用してグラウンディングを評価し、Azure OpenAI コンテンツ フィルタリングを使用して脱獄、プロンプト インジェクション、知的財産侵害に対する保護を検証し、GPT モデル間の出力を比較しました。 結果は、敵対的なシナリオにわたる強力な保護率や接地精度の向上など、一貫したパフォーマンスまたは改善されたパフォーマンスを示しています。
有害なコンテンツの処理はモデル間で一貫しており、セキュリティに重点を置いたユース ケースをサポートするためにアノテーション モードで動作し、カテゴリ全体で高い保護率が確認された追加の大規模なテストにより行われます。 回帰検定を実施して、有害ではないコンテンツが有害として分類されていないことを確認します。
Security Copilot エージェントは、製品および調査チームによって、顧客からのユースケースと設計インプットを使用して評価されました。 エージェントシステムのセキュリティも、専用のレッドチーム演習を通じて評価されました。 また、Microsoft は、不正アクセスに対する保護を検証するために、Security Copilot サービスの侵入テストも完了しました。
Security Copilot がリリースされた今、ユーザーからのフィードバックは Microsoft のシステムの改善に不可欠です。 ユーザーには、Security Copilot からのエージェントの応答に関するフィードバックを提供するオプションがあります。 このフィードバックは Microsoft に直接送信され、継続的な改良を通じてプラットフォームのパフォーマンスを向上させるために使用されます。 詳細については、「 フィードバックの提供」を参照してください。
安全コンポーネントと軽減策
レッド チーム テストなどのプロセスを通じて潜在的なリスクと誤用を特定して測定した結果、危害の可能性を減らすための軽減策を開発しました。 引き続き Microsoft Security Copilot エクスペリエンスを評価して、製品のパフォーマンスと軽減策を向上させていきます。 次の一覧に、それらの軽減策の一部を示します。
- 有害なコンテンツのフィルター処理とガードレール: Security Copilot は、Azure OpenAI Service foundation の一部として、Microsoft が開発したガードレール (コンテンツ フィルター) と不正使用検出モデルを統合します。 これらのニューラル分類モデルは、憎悪、性的、暴力、自傷行為などのカテゴリにわたって有害なコンテンツを複数の重大度レベルで検出し、フィルター処理します。 オプションの分類モデルでは、脱獄のリスク、既知のテキストまたはコード マテリアル、間接的なプロンプト インジェクション攻撃も検出します。 これらの階層化されたコントロールは、AI が Microsoft の安全基準に違反する応答を生成するのを防ぐのに役立ちます。
- 元に戻せないアクションを最小限に抑えるように設計されています: Microsoft が設計したエージェント シナリオは、元に戻せないアクションを最小限に抑え、ユーザーが重要な意思決定を制御できるようにすることを目的としています。 カスタム エージェントの場合、Microsoft が設計していないエージェントの場合、エージェント開発者はエージェントの動作を変更して、元に戻せないアクションが最小限に抑えられるようにすることができます。
- 安全システム設計: Microsoft は、有害なコンテンツの注釈、運用上の監視、その他の保護手段など、障害を軽減し、悪用を防ぐように設計された Security Copilot 用の安全システムを開発しました。 Azure OpenAI Service の責任ある AI 軽減策要件は、Security Copilot のお客様に直接適用されません。これは、Security Copilot がお客様に代わってこれらの軽減策を実装するためです。
- ユーザー フィードバック ループ: エージェントが応答を返した後、ユーザーはフィードバックを提供できます。 構成によっては、ユーザーは、エクスペリエンスのコンテキストを提供するために、追加の書面によるフィードバックを送信することもできます。 送信されたフィードバックは、Microsoft によって収集および使用され、製品の品質の向上、問題の特定、Security Copilot エクスペリエンスの機能強化の優先順位付けを行います。
- エージェント ID ガバナンスとロールベースのアクセス制御 (RBAC): 各 Security Copilot エージェントはマネージド ID またはユーザー アカウントで実行され、管理者はアクセスできるデータを管理できます。 各エージェントには RBAC コントロールがあり、エージェントは処理するデータに関してさらに制限される場合があります。 各エージェントの権限を制限することで、システムは不正なデータ漏洩のリスクを軽減し、すべての自動化されたアクションが監査可能で追跡可能であることを保証します。
- データ暗号化とアクセス保護: Security Copilot によって処理される顧客データは、Microsoft 製品とサービスのデータ保護の補遺に記載されているように、転送中と保存中の両方で暗号化されます。 既定では、人間のユーザーはデータベースにアクセスできず、ネットワーク アクセスは Security Copilot アプリケーションが展開されているプライベート ネットワークに制限されます。(インシデント対応のために) 人間のアクセスが必要な場合、昇格アクセスとネットワーク アクセスには、承認された Microsoft 従業員による承認が必要です。 「 コンプライアンス」を参照してください。
- 段階的な展開アプローチ: Security Copilot は、招待制の早期アクセス プログラムを通じて機能をリリースし、これにより Microsoft は、より広く利用可能になる前にフィードバックを収集し、機能を改良できます。
リスクのマッピング、測定、管理に対する Microsoft のアプローチは、より多くのことを学び、お客様から受け取ったフィードバックに基づいて改善を行うにつれて進化し続けています。
Microsoft Security Copilot の展開と採用のベスト プラクティス
責任ある AI は、Microsoft とお客様の共通のコミットメントです。 Microsoft は安全性、公平性、透明性を中核として AI システムを構築していますが、これらのテクノロジを自社のコンテキスト内で責任を持って展開および使用する上で重要な役割を果たします。
Security Copilot エージェントは、人間の専門知識を置き換えるものではなく、補強するように設計されています。 お客様は、出力をレビューし、決定を検証し、適用される法律、規制、および組織ポリシーへの準拠を確保する責任を持ちます。
デプロイヤーとエンド ユーザーは、次のことを行う必要があります。
結果的な決定または機密性の高い領域に Security Copilot を使用する場合は、注意を払い、結果を評価してください: 結果的な決定とは、雇用、法的サービス、医療へのアクセスに法的または重大な影響を与える可能性がある、または身体的、心理的、または経済的危害を及ぼす可能性のある決定です。 金融サービス、医療、法務などの機密性の高い領域では、さまざまなグループの人々に不釣り合いな影響を与える可能性があるため、特別な注意が必要です。 これらの分野の意思決定に AI を使用する場合、お客様は、影響を受ける利害関係者が意思決定の仕組みを理解し、意思決定に異議を申し立て、関連する入力データを更新できるようにする必要があります。
法的および規制上の考慮事項を評価する: AI サービスとソリューションを使用する場合、お客様は潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界やシナリオでの使用に適しているとは限りません。 さらに、AI サービスまたはソリューションは、適用されるサービス条件および関連する行動規範で禁止されているように設計されておらず、使用することはできません。
関連するプラグインを有効にして維持する: Security Copilot の応答の品質と精度は、有効になっているプラグインに大きく依存します。 管理者は、ユーザーが根拠のあるコンテキストに即した応答を受信できるように、適切な Microsoft およびサード パーティのプラグインが構成および維持されていることを確認する必要があります。
エンド ユーザーは以下を行う必要があります。
効果的なプロンプトを書く: Security Copilot でより良い結果を得るには、明確で具体的なプロンプトを作成することが重要です。 インシデント ID、資産名、時間範囲など、関連するコンテキストを含めます。 必要に応じてプロンプトを反復して再生成し、AI によって生成された応答を常に確認して検証します。 詳細については、「Security Copilot のプロンプトのヒント」を参照してください。
必要に応じて人間の監視を実施する: 人間の監視は、AI システムを操作する際の重要な安全手段です。 Microsoft は Security Copilot を継続的に改善していますが、AI システムは間違いを犯す可能性があります。 生成される出力は、入力のあいまいさや基になるモデルの制限により、不正確、不完全、偏りがあったり、意図した目標と完全に一致していない可能性があります。 ユーザーは、アクションを実行する前に、Security Copilot によって生成された応答を確認し、期待と要件に一致していることを確認する必要があります。
過度の依存のリスクに注意する: AI への過度の依存は、ユーザーが不正確または不完全な AI 出力を受け入れる場合に発生します。その主な理由は、AI 出力の間違いを検出するのが難しい場合があるためです。 セキュリティ専門家にとって、過度の依存は、脅威の見逃し、誤ったインシデント結論、または欠陥のある推奨事項に基づくポリシーの変更につながる可能性があります。 Security Copilot には AI 開示が含まれており、このリスクを軽減するためにソース資料が引用されますが、ユーザーは応答の正確性を確認する必要があります。 ユーザーは、エージェントのワークフロー中に実行されるステップの概要を示すエージェントノードマップを確認できます。
機密性の高いドメインでエージェント AI をデプロイまたは設計する場合は注意が必要です: ユーザーは、エージェントのアクションが不可逆的または重大なドメインでエージェント AI システムを構成およびデプロイする場合、適切な人間の監視を実装する必要があります。 Microsoft Enterprise AI Services の倫理規定に記載されているように、自律的なエージェント AI を作成する場合は、追加の予防措置を講じる必要があります。
デプロイヤーは以下を行う必要があります。
RBAC とエージェントの権限を慎重に構成する: 管理者は、ユーザーとエージェントの両方に対するロールベースのアクセス制御を構成する責任があります。 アクセス許可は、最小限の特権の原則に従う必要があります。 エージェントには、指定されたタスクに必要なデータとアクションへのアクセスのみを許可する必要があります。
使用状況の監視とアクティビティの確認: 管理者 (所有者) は、Security Copilot 使用状況監視ダッシュボードを使用して、時間の経過に伴う使用状況、セッション イニシエーター、セッション中に使用されたプラグインなどのセッション レベルのデータを確認できます。 この可視性は、組織がプロンプト、プロンプトブック、エージェント全体で Security Copilot がどのように使用されているかを理解するのに役立ちます。 詳細については、「使用状況の管理」 を参照してください。
データ共有設定の管理: 所有者はいつでも顧客データの共有設定を構成でき、organizationのプライバシーとコンプライアンスの要件に従ってこれらの設定を確認し、更新する必要があります。 詳細については、「Microsoft Security Copilot のプライバシーとデータ セキュリティ」をご覧ください。
機能と制限事項についてのユーザーの教育: Security Copilot を効果的かつ責任を持って使用するには、ユーザーがシステムでできることとできないことを理解する必要があります。 デプロイヤーは、アクションを実行する前に AI によって生成された出力を検証することの重要性など、ユーザーが Security Copilot と効果的に対話できるようにトレーニングとガイダンスを提供する必要があります。
Security Copilot エージェントの詳細情報
責任ある Microsoft Security Copilot の使用の詳細については、次のドキュメントを参照してください。