アプリケーションまたはプラットフォームのカードとは
Microsoft のアプリケーションおよびプラットフォーム カードは、AI テクノロジのしくみ、アプリケーション所有者がアプリケーションのパフォーマンスと動作に影響を与える可能性がある選択肢、テクノロジ、ユーザー、環境を含むアプリケーション全体を考慮することの重要性を理解するのに役立つものです。 アプリケーション カードは AI アプリケーション用に作成され、プラットフォーム カードは AI プラットフォーム サービス用に作成されます。 これらのリソースは、独自のアプリケーションの開発またはデプロイをサポートでき、影響を受けるユーザーや利害関係者と共有できます。
責任ある AI へのコミットメントの一環として、Microsoft は、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任という 6 つのコア 原則に準拠しています。 これらの原則は責任ある AI Standardに組み込まれており、AI アプリケーションの設計、構築、テストの各チームをガイドします。 アプリケーション カードとプラットフォーム カードは、機能、目的の用途、制限事項に関する透明性を提供することで、これらの原則を運用する上で重要な役割を果たします。 さらに詳しい分析情報を得るために、Microsoft の 責任ある AI 透明性レポート と、責任を持って AI と関わる方法を説明する Microsoft Enterprise AI サービス行動規範を調べるようお勧めします。
概要
Microsoft Security Copilotは、マシンの速度と規模でセキュリティの成果を向上させるために、防御者の効率と機能を向上させるのに役立つ、生成型の AI を利用したセキュリティ ソリューションです。 Security Copilotは、セキュリティの専門家や IT 管理者がインシデント対応、脅威ハンティング、インテリジェンス収集、態勢管理など、さまざまなエンド ツー エンドのシナリオを処理するのに役立つ自然言語、支援的な副操縦士エクスペリエンスを提供します。
Security Copilotは統合を念頭に置いて設計されており、https://securitycopilot.microsoft.comでイマーシブなスタンドアロン エクスペリエンスを提供します。 このプラットフォームは、Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune、Microsoft Entra、Microsoft Purview などの Microsoft セキュリティ ポートフォリオの製品とシームレスに統合され、サポートされているサード パーティのサービスです。
Security Copilot エージェントは出力を生成し、顧客によって定義された構成済みのロジック、アクセス許可、トリガーに基づいてアクションを実行できます。 お客様は、自律Security Copilot エージェントを使用して、セキュリティ ワークフローの自動化、応答時間の短縮、リスクの優先順位付け、手動ワークロードの削減を行いながら、完全な制御を維持できます。 エージェントの自律性とは、定義された境界内で個別にアクションを実行するエージェントの機能を指します。
管理者 (Security Copilot所有者) は、Security Copilot ポータルと Security Store を介してエージェントを検出して展開します。一部のエージェントは、組み込みの Microsoft セキュリティ製品エクスペリエンスにも表示されます。 管理者はエージェントの ID を設定し、エージェントのロールベースのアクセス制御 (RBAC) を構成します。
目的のユーザーには、SOC アナリスト、IT 管理者、データ セキュリティと ID 管理者、コンプライアンス アナリスト、および最高情報セキュリティ責任者 (CISO) などのセキュリティ リーダーが含まれます。
Security Copilotは ISO 42001 の認定を取得しており、独立したサード パーティが、Microsoft AI システムの継続的な開発、展開、運用に関連するリスクと機会を効果的に管理するために必要なフレームワークと機能の Microsoft の適用をレビューしたことを確認します。
詳細については、「Microsoft Security Copilotとは」、「Microsoft Security Copilotエクスペリエンス」、「アプリケーション カードfor Security Copilot」を参照してください。
重要な用語
次の表に、Microsoft Security Copilot エージェントに関連する主な用語の用語集を示します。
| 用語 | 定義 |
|---|---|
| エージェント | Security Copilot エージェントは、統合されたデータ ソースとプラグインを介して顧客環境からのシグナルを処理し、データを分析し、推奨事項を生成します。 エージェントは、適切なユーザーまたは管理者の承認を必要とする、構成されたアクセス許可内でスコープ付きアクションを実行することもできます。 エージェントは、単純なプロンプトと応答のエクスペリエンスから、人間の見落としによるより自動化された半自律型ワークフローまで多岐に及びます。 |
| エージェント アクション | アクセス許可に基づいて、データの取得、出力の生成、構成の変更など、エージェントによって実行される操作。 |
| エージェント マニフェスト | エージェントの機能、ツール、および動作を定義する構成ファイル。 エージェントがSecurity Copilot内でどのように動作するかを制御し、YAML ファイル形式で表します。 |
| 埋め込みエクスペリエンス | Microsoft Defender XDRやMicrosoft Sentinelなど、別の Microsoft セキュリティ製品内からSecurity Copilot機能にアクセスする。 Security Copilotサイドカー パネルは、その製品のコンテキストで AI アシスタンスを直接表示します。 |
| 基礎 | ユーザーのプロンプトに関連する大規模な言語モデルにコンテキスト入力ソースを提供するプロセス。 Security Copilotがプラグインと Microsoft セキュリティ製品を介して組織データにアクセスできるようにすることで、Security Copilotにより正確でコンテキストに応じた対応を実現できます。 |
| 大規模言語モデル (LLM) | 大量のテキスト データでトレーニングされた AI モデルは、シーケンス内の単語を予測します。 LLM は、テキストの生成、要約、翻訳、分類など、さまざまなタスクを実行できます。 |
| パートナー構築エージェント | Microsoft パートナーによって公開され、セキュリティ ストアを通じて特定のセキュリティ ユース ケースに対処するために利用できるエージェント。 |
| プラグイン | API を介して Microsoft および Microsoft 以外のサービスやパブリック Web サイトからのリソースにアクセスできるようにすることで、Security Copilotの機能を拡張する関連ツールのコレクション。 プラグインは、Security Copilot生成される応答と出力にさらにコンテキストを追加します。 |
| 後処理 | LLM 応答をユーザーに返す前に調整して準備するために実行Security Copilot一連のアクション。 この後処理には、プラグイン、責任ある AI チェック、セキュリティ、コンプライアンス、プライバシーチェックを通じた追加の接地呼び出しが含まれます。 |
| プロンプト | 特定のタスクを実行したり、情報を取得したりするためにユーザーがSecurity Copilotに送信する自然言語テキスト。 たとえば、 このインシデントを要約し、修復手順を提案します。 |
| Promptbook | 特定のセキュリティ関連タスクを実行するために、前の応答を基にして順番に実行される一連のプロンプト。 プロンプトブックは、ライブラリから使用することも、ユーザーがビルドして共有することもできます。 |
| 赤いチーム テスト | 専門家がシステムの制限と脆弱性を評価し、計画された軽減策の有効性をテストするために使用される手法。 赤いチーム テストは、潜在的なリスクを特定するために使用され、リスクの体系的な測定とは異なります。 |
| 責任ある AI | MICROSOFT のポリシー、調査、エンジニアリングプラクティスは、AI の原則に基づいているものであり、 責任ある AI 標準を通じて運用されています。 詳細については、 Fluent RAI ガイダンスを参照してください。 |
| セキュリティ コンピューティング ユニット (SCU) | SCU は、Security Copilotワークロードを実行し、エクスペリエンス全体で一貫したパフォーマンスを実現するために使用されるコンピューティング容量の単位です。 Security Copilot容量は SKU で測定され、プロビジョニングされた容量モデルまたは超過容量モデルを通じて使用できます。 詳細については、「 SCU について」を参照してください。 |
| Security Operations Center (SOC) | organization内のサイバーセキュリティ インシデントに対する継続的な監視、分析、対応に焦点を当てた専用のセキュリティ チームまたは施設。 SOC アナリストは、Security Copilotの主要な対象ユーザーの 1 つです。 |
| スタンドアロン エクスペリエンス | https://securitycopilot.microsoft.comで直接アクセスされるイマーシブ Security Copilot ポータル エクスペリエンス。 |
| Tenant | Security Copilotの ID、アクセス、データを分離するMicrosoft Entra IDの組織の境界。 テナントは、テナント レベルのアクセス許可とセキュリティ制御を通じて、すべてのワークスペース、ユーザー、相互作用を管理します。 |
| トリガー | エージェントにワークフローの実行を開始するように指示するイベントまたは条件。 トリガーには、時間ベース (たとえば、脅威インテリジェンス ブリーフィング エージェントの週単位のスケジュール) や手動 (ユーザーまたは管理者がオンデマンドで実行) を使用できます。 トリガーは、エージェントのセットアップ中に構成されます。 |
主な機能
次の表の主な機能は、Microsoft Security Copilotが実行するように設計されていることと、サポートされているタスク全体でどのように実行されるかを示しています。
| 機能または機能 | 説明 |
|---|---|
| インシデントの調査と対応 | Security Copilotは、複雑なセキュリティ アラートの概要を生成し、Microsoft Defender XDR、Microsoft Sentinel、およびその他の統合製品間でシグナルを関連付け、ステップ バイ ステップの修復ガイダンスを提供することで、セキュリティ プロフェッショナルがインシデントをトリアージして調査するのに役立ちます。 |
| 脅威インテリジェンス | Security Copilotは、Microsoft Defender脅威インテリジェンスの記事とプロファイル、脅威分析レポート、脆弱性開示パブリケーションを検索して、関連するインテリジェンスをプロンプトに合わせて表示できます。 |
| スクリプト分析と KQL クエリ生成 | Security Copilotは、疑わしいスクリプトやマルウェアを分析し、自然言語を KQL クエリに変換できるため、すべてのスキル レベルのチーム メンバーが高度なハンティングとテクニカル分析タスクを実行できます。 |
| セキュリティ体制管理 | Security Copilotは、ユーザーが環境全体で優先順位付けされたリスクを理解し、Microsoft Defender XDR、Microsoft Entra、Microsoft Intuneとの統合を通じて態勢を改善する機会を特定するのに役立ちます。 |
| セキュリティ ポリシーの作成と管理 | ユーザーは、新しいポリシーを定義し、競合に関する既存のポリシーと相互参照し、ポリシーをプレーンな言語で要約して、複雑な組織のコンテキストを管理できます。 |
| 利害関係者レポート | Security Copilotは、コンテキスト、オープンな問題、およびエグゼクティブやセキュリティ チームなど、目的の対象ユーザーに合わせて調整された保護対策をまとめたレポートを生成できます。 |
| プロンプトブック | プロンプトブックは、特定のセキュリティ タスクを実行するために実行される一連のプロンプトです。 ユーザーは、共有ライブラリからプロンプトブックを実行することも、独自のライブラリを作成して共有することもできます。 |
| Agents | Security Copilotは、管理者によって付与されたアクセス許可内のセキュリティおよび IT 運用タスクを自動化および支援するエージェントをサポートします。 エージェントは、構成された ID、アクセス制御、トリガーを介してアクションを実行し、セキュリティ ワークフローの一部として人間の監視で動作します。 Microsoft が構築したエージェントは、SOC 運用、脅威ハンティング、脅威インテリジェンス、ID 管理、エンドポイント管理、およびデータ セキュリティをカバーするセキュリティ製品ポートフォリオにまたがります。 管理者は、セットアップ中に各エージェントの ID、アクセス許可、トリガーを構成します。 ユーザーは、エージェントのトリガー、データ アクセス、ID、アクションのアクセス許可 (読み取りまたは書き込みなど) を確認して、エージェントが定義されたスコープ内でどのように動作するかを理解できます。 特定のエージェントとそのユース ケースの詳細については、「 目的の用途」を参照してください。 |
| 多言語サポート | Security Copilotでは、複数の言語でのプロンプトと応答がサポートされます。 詳細については、サポートされている言語に関する記事をご覧ください。 |
Security Copilotは、支援と自律エージェント システムの両方で動作する AI を利用したセキュリティ ソリューションです。 エージェントの自律性を理解するには、次の点を考慮してください。
- アクティブ化トリガー – エージェントの実行の原因となる条件またはユーザー アクション
- アクセス許可 – エージェントが使用できるデータ、システム、またはリソース
- アクション権限 – エージェントが独自に実行する権限を持つアクション
次のセクションでは、エージェントの理由、計画、記憶、適応、およびリーチの拡張を支える主要なエージェント機能について説明します。
認識力
Security Copilotエージェントは、基になる大きな言語モデルを使用して、使用可能なコンテキストを分析し、シグナルを評価し、最も適切なアクションのコースを決定します。 たとえば、フィッシングトリアージエージェントは、電子メールコンテンツ、送信者の評判、行動シグナルを評価して、自然言語の根拠を持つ分類評決を生成します。 エージェントは、分析者が結論を確認、検証、または上書きしてから対処できるように、推論を透過的に表示します。
計画
エージェントは、目標に向けて構造化された一連のアクションを開始するようにエージェント システムに指示する定義済みのトリガーに対して動作します。 エージェントは、次の構成が可能です。
- スケジュールに従って自動的に実行します (たとえば、脅威インテリジェンス ブリーフィング エージェントは 7 日ごとに実行されます)。
- 必要に応じて手動でオンデマンドで実行します。
この設計により、エージェントは目標指向の実行モデルが提供されます。このモデルでは、タスクを完了するタイミングと動作方法がシステムによって分析されます。
メモリ
Security Copilotエージェントは、メモリと呼ばれる時間の経過と同時に情報を保持できます。 メモリを使用すると、エージェントの設計と構成方法に応じて、エージェントが過去の入力を将来の動作に組み込むことができます。
メモリには、ユーザーが提供するフィードバックを含めることができます。 エージェントは、このフィードバックを使用して、後続の操作での応答またはアクションを調整できます。
適応
Security Copilotエージェントは、ユーザーのフィードバックと運用コンテキストに基づいて適応するように設計され、構成された ID、アクセス許可、トリガーによって定義されたスコープ内で引き続き動作します。
- フィードバック ループ: Security Copilot所有者と共同作成者は、エージェントの応答に関するフィードバックを提供できます。 このフィードバックはエージェントのメモリに格納され、エージェントの設計と構成に応じて将来の出力に影響を与える可能性があります。
- コンテキストの接地: プロンプトの処理中に、Security Copilotは、接地を使用してプロンプトをエンリッチします。 このプロセスには、関連する組織データ、有効なプラグイン、脅威インテリジェンスが組み込まれており、応答に現在のコンテキストが反映されます。
- 構成可能な ID とアクセス許可: エージェントはセットアップ後に更新して、ID、トリガー、パラメーターを変更できます。 これにより、エージェントは進化するワークフローと要件に合わせて調整できます。
拡張性
- プラグイン: エージェントは、評判参照、脅威インテリジェンス、エンドポイント データなど、API を介して外部サービスに到達するためにプラグインを使用します。 Microsoft ビルドとパートナービルドの両方のプラグインがサポートされています。 詳細については、「プラグインの概要」を参照してください。
- コネクタ: Logic Apps と Copilot Studio コネクタは、Security Copilot API をラップし、開発者とユーザーが外部オートメーション ワークフローからプラットフォームを呼び出できるようにします。 詳細については、「 コネクタの概要」を参照してください。
- カスタム エージェント: 開発者は、特定のユース ケースに合わせてカスタマイズされたカスタム エージェントを構築し、開発者プラットフォームを介してSecurity Copilot エコシステムに追加できます。 詳細については、「 カスタム エージェントの開発」を参照してください。
- セキュリティ ストア: 事前構築済みの Microsoft エージェントとパートナー エージェントは、組み込みのエージェント ライブラリと Security Store から検出して展開できます。
- 埋め込みエクスペリエンス: エージェントは、Security Copilot スタンドアロン ポータルだけでなく、Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intuneなど、広範な Microsoft セキュリティ エコシステム全体に埋め込まれています。Microsoft Entraと Microsoft Purview。
目的に合った用途
Microsoft Security Copilotエージェントは、セキュリティの専門家と IT 管理者が、インテリジェンスの収集や相関関係などのセキュリティ ワークフローをサポートするように設計されています。 エージェントは、管理者が定義したアクセス許可内で動作し、人間を制御しながら、それ以外の場合は大幅な手作業を必要とする可能性があるタスクを合理化するのに役立ちます。 目的のエージェントのユース ケースの例を次に示します。
脅威インテリジェンス ブリーフィング: 脅威インテリジェンス ブリーフィング エージェントは、データ、Defender 外部攻撃面管理 (EASM) シグナル、リアルタイムの顧客コンテキストMicrosoft Defender 脅威インテリジェンス関連付けることで、タイムリーで詳細な脅威インテリジェンス レポートを生成します。 セキュリティ アナリストは、このエージェントを使用して、数時間または数日の手動インテリジェンス収集と相関関係を、数分で生成されたレポートに置き換えることができます。
セキュリティ データ分析 (Microsoft Defender XDR): Security Analyst エージェントは、セキュリティ アナリストが大量のセキュリティ データのリスクをすばやく特定、評価、優先順位付けするのに役立ちます。 エージェントは、パターン分析、傾向分析、視覚化などの基本的な分析タスクと、異常検出、クラスタリング、リスク スコアリング、予測モデリングなどの高度なタスクの両方を実行します。 これは、Microsoft Defender XDR、Microsoft Sentinel Log Analytics、Microsoft Sentinel Data Lake、アップロードされた CSV ファイルからのデータを統合し、対話型のコードフリーのチャット エクスペリエンスで、完全な証拠証跡を使用して優先順位付けされた分析情報を生成します。
セキュリティ操作とインシデント対応 (Microsoft Defender XDR):
- フィッシングトリアージエージェントは、送信時にユーザーが報告したフィッシングメールを評価し、透過的な推論で評決を分類し、アナリストのフィードバックを時間の経過と共に取り込みます。
- 動的脅威検出エージェントはバックグラウンドで継続的に実行され、アラート、イベント、異常、脅威インテリジェンスを関連付けることで、Defender 環境とMicrosoft Sentinel環境全体の隠れた脅威とギャップを明らかにします。
脅威ハンティング (Microsoft Defender XDR): 脅威ハンティング エージェントを使用すると、自然言語を使用してエンドツーエンドの脅威ハンティングを実行できます。 KQL クエリを生成し、結果を解釈し、分析情報を表示し、完全なハンティング セッションを通じてアナリストをガイドして、脅威をより迅速かつ確実に見つけます。
ID とアクセスの管理 (Microsoft Entra):
- 条件付きアクセス最適化エージェントは、条件付きアクセス ポリシーを分析し、Microsoft のベスト プラクティスとゼロ トラスト原則に基づいて改善を推奨します。
- ID リスク管理エージェントは、ID 管理者が潜在的なリスクを調査し、重要な資産を保護するためのアクションを実行するのに役立ちます。
エンドポイント管理 (Microsoft Intune):
- 脆弱性修復エージェントは、Defender データを使用して脆弱性を監視し、AI 主導のリスク評価で修復の優先順位を付けます。
- ポリシー構成エージェントを使用すると、管理者はドキュメントをインポートしたり、Intune設定カタログで一致する設定を見つけたり、ポリシーを作成したりするためのプレーン言語の指示を記述できます。
- 変更レビュー エージェントは、Intuneでの承認要求の効果を評価し、管理者が実行できるアクションに関する推奨事項を作成します。
データ セキュリティ調査 (Microsoft Purview):
- Insider Risk Management のトリアージ エージェントは、ユーザー、ファイル、アクティビティのリスクに基づいてアラートを評価し、セキュリティ チームが最もリスクの高いケースに焦点を当てるのに役立つ優先順位付けされたカテゴリに自動的に並べ替えます。
- データ損失防止の Purview Triage エージェントは、秘密度リスク、流出リスク、ポリシー リスクに基づいて DLP アラートを評価し、データ セキュリティ管理者が最も重要なインシデントに対処できるようにします。
カスタム エージェント ワークフロー: 開発者は、自然言語処理、エージェント マニフェストのアップロード、または organization の特定のセキュリティ ユース ケースに合わせた MCP ツールを使用してカスタム エージェントを構築およびデプロイし、プラグインとコネクタを介して Microsoft および Microsoft 以外のサービスにエージェント機能を拡張できます。 詳細については、「 カスタム エージェント」を参照してください。
エージェントとユーザーが何かを解決するためにガイド付きエクスペリエンスのために共同作業を行う必要がある場合は、対話型チャット エージェントを構築することもできます。 詳細については、「 対話型エージェント」を参照してください。
モデルとトレーニング データ
Microsoft Security Copilotでは、Azureによって販売された Foundry Models の OpenAI 大言語モデル (LLM) Azureを使用して、自然言語エクスペリエンスを強化します。 これらのモデルは、顧客データSecurity Copilotトレーニングされていません。 モデル機能は、推論、速度、制限事項、およびサポートされるシナリオによって異なります。
Security Copilotには、プラグインと接地を通じてセキュリティ固有の知識とコンテキストも組み込まれています。これにより、LLM はモデル トレーニングを通じてではなく、推論時に関連する組織データ、脅威インテリジェンス、権限のあるコンテンツを提供します。
パフォーマンス
Security Copilotは、Organizationによって構成された Microsoft Security 製品やその他のデータ ソース全体で大量のリアルタイム セキュリティ信号が生成されるエンタープライズ セキュリティ環境で動作するように設計されています。 これらのソースからの信号を統合し、構造化されたログ データのリアルタイム処理と調査推論を組み合わせています。 これは、複数のデータ ソースにわたるセキュリティ インシデントのソースと影響を検出、分析、追跡するのに役立ちます。
Security Copilotは、Microsoft のハイパースケール インフラストラクチャとセキュリティ固有のオーケストレーション レイヤーで実行されます。これは、脅威の検出と調査を繰り返すシナリオでスケーラブルで回復性の高いパフォーマンスをサポートすることを目的としています。
エージェントはSecurity Copilot管理者が構成したアクセス許可を使用して定義されたセキュリティ タスクを実行することで、セキュリティシグナルに対して動作する機能を拡張します。 エージェントは、使用可能なシグナルに対する理由、構造化されたアクションの計画と実行、トリアージの決定、インテリジェンス レポート、修復ガイダンスなどの出力をリアルタイムの組織および脅威インテリジェンス データに基づいた生成します。 エージェントの実行はステップ バイ ステップのノード マップを通じて透過的であり、アナリストは生成された手順 (各ノードで実行された特定のアクションの詳細な概要ではなく) を確認し、実行全体で結果を検証できます。
パフォーマンスの信頼性は、代表的なワークフローに対してテストされる事前構成済みの Microsoft 構築エージェントとカスタム エージェントによってさらにサポートされます。マニフェスト YAML ファイルは、機能、ツール、トリガー、運用境界を指定することで、より一貫性のある動作を促進できます。 マニフェストの指示が明確に定義されている場合、エージェントはタスクを解釈し、適切なアクションを選択し、目的のスコープ内で操作できる方が適切な場合があります。 詳細については、「 カスタム エージェント」を参照してください。
対話型エージェントの場合、パフォーマンスは主にエージェントとユーザーの間の反復的な交換によって形成されます。 エージェントは最初の応答を生成し、ユーザーはエージェントが表示する内容に基づいてフォローアップ プロンプトを通じてコンテキストを絞り込みます。 この前後の相互作用により、ユーザーは、1 回の自律実行よりも正確でターゲットを絞った結果に向けてエージェントを段階的にガイドできます。 詳細については、「 対話型エージェント」を参照してください。
制限事項
Security Copilotの制限事項を理解することは、安全で効果的な境界内で使用されるようにするために重要です。 お客様はセキュリティ ワークフローでSecurity Copilotを使用することをお勧めしますが、Security Copilotは可能なシナリオごとに設計されていなかったことに注意してください。 ユース ケースを選択する場合 は、Microsoft Enterprise AI Services の行動規範 と次の考慮事項を参照してください。
- パブリック プレビューの状態: 一部のエージェントはパブリック プレビュー段階であり、一般公開前に大幅に変更される可能性があります。 Microsoft は、これらの機能に関して明示的または黙示的な保証を行いません。 AI 出力と同様に、顧客はエージェントの出力に対処する前に、エージェントの意思決定を確認する必要があります。
- 正確性と完全性: AI を利用するテクノロジと同様に、Security Copilotすべてが正しいとは限りません。 特に関連するプラグインが有効になっていない場合や、最新のデータがユーザー入力や組織のコンテキストで利用できない場合は、応答が不正確、不完全、または古くなっている可能性があります。 ユーザーは、AI によって生成された応答のみに依存するのではなく、常に人間の判断を実行し、重要な出力を検証する必要があります。
- ドメイン固有のスコープ: Security Copilotは、インシデント調査や脅威インテリジェンスなど、セキュリティ ドメインに関連するプロンプトに応答するように設計されています。 セキュリティの範囲外のプロンプトは、正確性と包括的さに欠ける応答が発生する可能性があります。
- スクリプトとコード生成: Security Copilotは、コードを生成したり、応答にコードを含めたりすることができます。 応答は有効に見えますが、意味的または構文的に正しくないか、要求元の意図を正確に反映していない可能性があります。 生成されたコードは、適切な検証、テスト、レビューの手順なしでは運用環境にデプロイしないでください。 また、生成されたコードで使用されるパラメーターが元の要求と一致することも確認する必要があります。 たとえば、エージェントが特定の時間範囲内のアラートに対して操作する場合は、生成されたコードの時間範囲が自然言語プロンプトで指定された時間範囲と一致することを確認します。
- プロンプトの長さの制約: 数十万文字を含むプロンプトなど、長いプロンプトを処理できない場合があります。 基になる LLM にはトークン制限があり、過度に詳細なクエリまたは拡張セッションがトークン領域をオーバーフローする可能性があります。 このシナリオが発生した場合、Security Copilotは、コンテンツが最適でない場合でも、出力が常に使用可能になるように軽減策を適用しようとします。ただし、これらの軽減策は常に有効であるとは限らず、別のプロンプトまたはプラグインを試す必要がある場合があります。
- 使用制限と待機時間: プラットフォームの使用には、使用制限または容量調整が適用される場合があります。 プラグインを介して API 呼び出しを行い、表示する前に応答を確認するなど、応答の生成には時間がかかり、GPU 容量が高くなる可能性があります。 組織は、予期しないサービス中断を回避するために、SCU の消費量を監視し、必要に応じてプロビジョニングされた容量を調整する必要があります。
- バイアス、ステレオタイピング、および固定されていないコンテンツ: ユーザー プロンプトと LLM 出力の両方に責任ある AI コントロールを実装しているにもかかわらず、AI サービスはフォール可能で確率的です。 これにより、すべての不適切なコンテンツを包括的にブロックすることが困難になり、AI によって生成された出力で潜在的なバイアス、ステレオタイプ、または固定されていないコンテンツが発生する可能性があります。
- Government と Microsoft ソブリン パブリック/プライベート クラウド: Security Copilotは、現時点ではこれらの環境ではサポートされていません。
- タスク固有のエージェントの境界: エージェントは、実行するように設計された特定のタスクにのみ適しています。 詳細については、 目的のユース ケースに関するセクションを 参照してください。 これらは他のタスクには適していないため、定義されたスコープを超えて再利用しないでください。
- ノード マップの詳細: エージェント ノード マップは、エージェント ワークフロー中に実行された手順の概要を示します。 各ノードは、プロセス内のステップを表し、使用されたスキルのタイトルと、完了状態、期間、タイムスタンプなどの基本的なメタデータを表示します。 ノード マップは一連のアクションを表示するように設計されていますが、各手順で行われた特定の操作や決定に関する詳細情報は提供されません。 ノード マップでは概要情報のみが表示されるため、各アクションのコンテキストや複雑さが完全にキャプチャされない場合があります。
- エージェントのフィードバックとメモリの透明性: ユーザーがメモリ内のストレージのエージェントにフィードバックを送信すると、エージェントはフィードバックの解釈の概要を提供しません。 将来の出力の精度を高めるために、ユーザーは明確で簡潔で具体的なフィードバックを提供する必要があります。 エージェントに送信されたフィードバックは保存され、将来の出力に影響を与えるために使用される場合があります。 ただし、この保存されたフィードバックの可視性は、エージェントのエクスペリエンスとユーザー ロールによって異なる場合があります。 詳細については、「 フィードバックの提供」を参照してください。
評価
パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠、関連性、一貫性などの要因を調べることで、AI アプリケーションが確実かつ安全に動作しているかどうかを評価します。 次の評価は、安全コンポーネントが既に配置されている状態で行われました。これは、「 安全コンポーネントと軽減策」にも記載されています。
品質と安全性に関する評価データ
Microsoft の評価データは、安全性と品質の重要な領域全体で AI アプリケーションのパフォーマンスを評価し、実際のシナリオとリスクをシミュレートするためにカスタム構築されています。 我々は、多分野の研究と専門家の意見に基づいて懸念の関連評価の側面を特定することから始めます。 これらの懸念は、対象となる評価目標に変換され、評価メトリックの策定をガイドします。
安全性を確保するために、望ましくない応答やエッジケースの応答を引き出す敵対的なプロンプトを作成し、その後、Microsoft の安全基準との整合性を評価するためにトレーニングされた AI 支援アノテーターを使用してスコア付けされます。 品質を高めるために、取得拡張生成 (RAG) アプリケーションとエージェントの評価など、シナリオに関連するルーブリックベースのプロンプトを作成します。
データセットは、実際のユーザー シナリオをシミュレートするために、合成データセットやパブリック データセットなど、さまざまなソースからキュレーションされます。 キュレーションされたデータセットを使用して、両方の評価で反復的な絞り込みと人間の調整が行われ、メトリックの有効性と信頼性が向上します。 この手法は、顧客が評価をどのように使用してより良く、より安全な AI を構築するかを反映する反復可能で厳格な評価の基礎を形成します。
カスタム評価
回帰テスト、キュレーションされたプロンプト データセット、運用環境に合わせた例を使用して、根拠、敵対的堅牢性、有害なコンテンツ シナリオ全体でモデルのパフォーマンスを検証するために、カスタム評価が実施されました。 評価では、GPT モデル間の出力を比較し、内部ツールを使用して根拠を評価し、OpenAI コンテンツ フィルターをAzureして脱獄、迅速な挿入、および知的財産違反に対する保護を検証しました。 結果は、敵対的なシナリオにわたる強力な保護率や接地精度の向上など、一貫性のあるパフォーマンスまたは改善されたパフォーマンスを示します。
有害なコンテンツ処理はモデル間で一貫性を保ち、注釈モードで動作し、セキュリティに重点を置いたユース ケースをサポートします。さらに大規模なテストを行うと、カテゴリ間で高い保護率が確認されます。 回帰テストは、有害ではないコンテンツが有害として分類されていないことを確認するために行われます。
Security Copilotエージェントは、製品および研究チームによって評価され、ユース ケースと顧客からの入力を設計しました。 エージェント システムのセキュリティも、専用の赤いチーミング 演習を通じて評価されました。 Microsoft では、承認されていないアクセスに対する保護を検証するために、Security Copilot サービスの侵入テストも完了しました。
Security Copilotがリリースされたので、ユーザーからのフィードバックは、Microsoft によるシステムの改善に不可欠です。 ユーザーは、Security Copilotからのエージェントの応答に関するフィードバックを提供できます。 このフィードバックは Microsoft に直接送信され、継続的な反復的な絞り込みを通じてプラットフォームのパフォーマンスを向上させるために使用されます。 詳細については、「 フィードバックの提供」を参照してください。
安全コンポーネントと軽減策
赤いチームテストなどのプロセスを通じて潜在的なリスクと誤用を特定し、それらを測定するにつれて、損害の可能性を減らすための軽減策を開発しました。 製品のパフォーマンスと軽減策を向上させるために、引き続きMicrosoft Security Copilotエクスペリエンスを評価します。 次の一覧では、これらの軽減策の一部について説明します。
- 有害なコンテンツフィルタリングとガードレール: Security Copilotは、Azure OpenAI Service Foundation の一部として、Microsoft が開発したガードレール (コンテンツ フィルター) と不正使用検出モデルを統合します。 これらのニューラル分類モデルは、複数の重大度レベルで、ヘイト、性的、暴力、自傷行為などのカテゴリ間で有害なコンテンツを検出してフィルター処理します。 オプションの分類モデルでは、脱獄リスク、既知のテキストまたはコード素材、間接プロンプトインジェクション攻撃も検出されます。 これらの階層化されたコントロールは、AI が Microsoft の安全基準に違反する応答を生成するのを防ぐのに役立ちます。
- 元に戻せないアクションを最小限に抑えるように設計: Microsoft が設計したエージェント シナリオは、元に戻せないアクションを最小限に抑え、ユーザーが重要な意思決定を制御できるように設計されています。 カスタム エージェントの場合、Microsoft 以外のエージェントは、エージェント開発者がエージェントの動作を変更して、元に戻せないアクションを最小限に抑えることができます。
- 安全システム設計: Microsoft は、障害を軽減し、有害なコンテンツ注釈、運用監視、その他のセーフガードを含む誤用を防止するように設計された、Security Copilot用の安全システムを開発しました。 Security Copilotは顧客の代わりにこれらの軽減策を実装するため、Azure OpenAI サービス責任ある AI 軽減要件は、Security Copilotのお客様には直接適用されません。
- ユーザー フィードバック ループ: エージェントが応答を返した後、ユーザーはフィードバックを提供できます。 構成によっては、ユーザーがエクスペリエンスに関するコンテキストを提供するために、追加の書面によるフィードバックを送信することもできます。 送信されたフィードバックは、Microsoft によって収集され、製品の品質の向上、問題の特定、Security Copilotエクスペリエンスの強化の優先順位付けに使用されます。
- エージェント ID ガバナンスとロールベースのアクセス制御 (RBAC): 各Security Copilot エージェントはマネージド ID またはユーザー アカウントで実行され、管理者はアクセス権を持つデータを管理できます。 各エージェントには RBAC コントロールがあり、エージェントは処理するデータに関してさらに制限される場合があります。 各エージェントのアクセス許可を制限することで、システムは未承認のデータ漏洩のリスクを軽減し、すべての自動化されたアクションが監査可能で追跡可能であることを保証します。
- データの暗号化とアクセス保護: Security Copilotによって処理される顧客データは、Microsoft 製品およびサービスデータ保護補遺で説明されているように、転送中と保存時の両方で暗号化されます。 既定では、人間のユーザーはデータベースにアクセスできません。ネットワーク アクセスは、Security Copilot アプリケーションが展開されているプライベート ネットワークに制限されます。(インシデント対応のために) 人間のアクセスが必要な場合は、承認された Microsoft 従業員によって昇格されたアクセスとネットワーク アクセスを承認する必要があります。 「コンプライアンス」を参照してください。
- 段階的な展開アプローチ: Security Copilotは、招待専用の早期アクセス プログラムを通じて機能をリリースし、より広範な可用性の前に Microsoft がフィードバックを収集し、機能を改良できるようにします。
リスクのマッピング、測定、管理に対する当社のアプローチは、より多くのことを学ぶにつれて進化し続け、お客様から寄せられたフィードバックに基づいて改善を行います。
Microsoft Security Copilotのデプロイと導入に関するベスト プラクティス
責任ある AI は、Microsoft とその顧客との間で共有されるコミットメントです。 Microsoft は安全性、公平性、透明性を中核とする AI システムを構築していますが、お客様は、これらのテクノロジを独自のコンテキスト内で責任を持ってデプロイおよび使用する上で重要な役割を果たします。
Security Copilotエージェントは、置き換えではなく、人間の専門知識を強化するように設計されています。 お客様は、出力の確認、意思決定の検証、適用される法律、規制、組織ポリシーへの準拠の確保に引き続き責任を負います。
デプロイ担当者とエンド ユーザーは、次の手順を実行する必要があります。
結果的な意思決定や機密性の高い領域でSecurity Copilotを使用する場合は、注意を払い、結果を評価します。結果的な決定は、雇用、法務サービス、医療へのアクセスに法的または重大な影響を与える可能性があるもの、または物理的、心理的、または経済的な損害をもたらす可能性のあるものです。 金融サービス、医療、法律などの機密性の高いドメインでは、さまざまなグループの人々に不均衡な影響を与える可能性があるため、特定のケアが必要です。 これらの分野の意思決定に AI を使用する場合、影響を受けた利害関係者が意思決定の方法を理解し、意思決定をアピールし、関連する入力データを更新できるようにする必要があります。
法的および規制上の考慮事項を評価する: お客様は、AI サービスとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界やシナリオでの使用に適していない可能性があります。 さらに、AI サービスまたはソリューションは、適用されるサービス条件および関連する行動規範で禁止されている方法で設計されておらず、使用されない場合があります。
関連するプラグインを有効にして維持する: Security Copilot応答の品質と精度は、有効になっているプラグインによって大きく異なります。 管理者は、ユーザーが状況に応じて適切な応答を受け取るように、適切な Microsoft およびサード パーティのプラグインが構成および保守されていることを確認する必要があります。
エンド ユーザーは次の手順を実行する必要があります。
効果的なプロンプトを記述する: 明確で具体的なプロンプトを記述することは、Security Copilotを使用してより良い結果を得るための鍵です。 インシデント ID、資産名、時間範囲などの関連コンテキストを含めます。 必要に応じてプロンプトを繰り返して再生成し、AI によって生成された応答を常に確認して確認します。 詳細については、「Security Copilotのヒントを求める」を参照してください。
適切な場合に人間の監視を実行する: 人間の監視は、AI システムと対話するときの重要なセーフガードです。 Security Copilotを継続的に改善する一方で、AI システムが間違いを犯す可能性があります。 生成される出力は、入力のあいまいさや基になるモデルの制限のために、不正確、不完全、バイアス、または目的の目標に完全に合っていない可能性があります。 ユーザーは、アクションを実行する前に、Security Copilotによって生成された応答を確認し、期待と要件に一致していることを確認する必要があります。
過度の依存のリスクに注意する: AI への過度の依存は、AI 出力の間違いが検出しにくい可能性があるため、ユーザーが誤った AI 出力または不完全な AI 出力を受け入れると発生します。 セキュリティプロフェッショナルの場合、過度の依存により、脅威が見逃されたり、インシデントの結論が間違ったり、欠陥のある推奨事項に基づいてポリシーが変更されたりする可能性があります。 Security Copilotには、AI の開示が含まれており、このリスクを軽減するためにソース 資料が引用されていますが、ユーザーは応答の正確性を確認する必要があります。 ユーザーは、エージェントのワークフロー中に実行された手順の概要を示すエージェント ノード マップを確認できます。
機密性の高いドメインにエージェント AI をデプロイまたは設計する場合は注意が必要です。エージェントアクションが元に戻せない、または非常に結果的なドメインでエージェント AI システムを構成および展開する場合、ユーザーは適切な人間の監視を実装する必要があります。 Microsoft Enterprise AI Services の行動規範に記載されているように、自律エージェント AI を作成する場合は、追加の予防措置を講じる必要があります。
デプロイ担当者は次の手順を実行する必要があります。
RBAC とエージェントのアクセス許可を慎重に構成する: 管理者は、ユーザーとエージェントの両方のロールベースのアクセス制御を構成する責任があります。 アクセス許可は、最小特権の原則に従う必要があります。 エージェントには、指定されたタスクに必要なデータとアクションへのアクセスのみを許可する必要があります。
使用状況の監視とアクティビティの確認: 管理者 (所有者) は、Security Copilot使用状況監視ダッシュボードを使用して、時間の経過に伴う使用状況、セッション イニシエーター、セッション中に使用されるプラグインなどのセッション レベルのデータを確認できます。 この可視性は、組織がプロンプト、プロンプトブック、エージェント間でSecurity Copilotがどのように使用されるかを理解するのに役立ちます。 詳細については、「使用状況の管理」 を参照してください。
データ共有設定の管理: 所有者はいつでも顧客データ共有設定を構成でき、organizationのプライバシーとコンプライアンスの要件に従ってこれらの設定を確認して更新する必要があります。 詳細については、「Microsoft Security Copilot のプライバシーとデータ セキュリティ」をご覧ください。
機能と制限事項についてユーザーを教育する: Security Copilotの効果的かつ責任ある使用を行うには、ユーザーがシステムでできることとできないことを理解する必要があります。 デプロイ担当者は、ユーザーがアクションを実行する前に AI によって生成された出力を検証することの重要性など、Security Copilotを効果的に操作できるようにするためのトレーニングとガイダンスを提供する必要があります。
Security Copilot エージェントの詳細
Microsoft Security Copilotの責任ある使用方法の詳細については、次のドキュメントを参照してください。