アプリケーションまたはプラットフォームのカードとは
Microsoft のアプリケーションおよびプラットフォーム カードは、AI テクノロジのしくみ、アプリケーション所有者がアプリケーションのパフォーマンスと動作に影響を与える可能性がある選択肢、テクノロジ、ユーザー、環境を含むアプリケーション全体を考慮することの重要性を理解するのに役立つものです。 アプリケーション カードは AI アプリケーション用に作成され、プラットフォーム カードは AI プラットフォーム サービス用に作成されます。 これらのリソースは、独自のアプリケーションの開発またはデプロイをサポートでき、影響を受けるユーザーや利害関係者と共有できます。
責任ある AI へのコミットメントの一環として、Microsoft は、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任という 6 つのコア 原則に準拠しています。 これらの原則は責任ある AI Standardに組み込まれており、AI アプリケーションの設計、構築、テストの各チームをガイドします。 アプリケーション カードとプラットフォーム カードは、機能、目的の用途、制限事項に関する透明性を提供することで、これらの原則を運用する上で重要な役割を果たします。 さらに詳しい分析情報を得るために、Microsoft の 責任ある AI 透明性レポート と、責任を持って AI と関わる方法を説明する Microsoft Enterprise AI サービス行動規範を調べるようお勧めします。
概要
Microsoft Security Copilotは、マシンの速度と規模でセキュリティの成果を向上させるために、防御者の効率と機能を向上させるのに役立つ、生成型の AI を利用したセキュリティ ソリューションです。 これは、セキュリティの専門家と IT 管理者がインシデント対応、脅威ハンティング、インテリジェンス収集、ポスチャ管理など、さまざまなエンド ツー エンドのシナリオを処理するのに役立つ自然言語、支援的な副操縦士エクスペリエンスを提供します。
Security Copilotは統合を念頭に置いて設計されています。 https://securitycopilot.microsoft.comでイマーシブなスタンドアロン エクスペリエンスを提供し、Microsoft Defender XDR、Microsoft Sentinel、Microsoft Intune、Microsoft Entra、Microsoft Purview などの Microsoft セキュリティ製品、およびサポートされているサード パーティサービスと統合します。
目的のユーザーには、SOC アナリスト、IT 管理者、データ セキュリティと ID 管理者、コンプライアンス アナリスト、および最高情報セキュリティ責任者 (CISO) などのセキュリティ リーダーが含まれます。
Security Copilotは、独立した第三者が、Microsoft AIシステムの継続的な開発、展開、運用に関連するリスクと機会を効果的に管理するために必要なフレームワークと機能の Microsoft のアプリケーションをレビューしたことを確認する ISO 42001 認定を取得しています。
詳細については、「Microsoft Security Copilotとは」、「Microsoft Security Copilotエクスペリエンス」、「Security Copilotエージェントのアプリケーション カード」を参照してください。
重要な用語
次の表に、Microsoft Security Copilotに関連する主な用語の用語集を示します。
| 用語 | 定義 |
|---|---|
| エージェント | Security Copilot エージェントは、統合されたデータ ソースとプラグインを介して顧客環境からのシグナルを処理し、データを分析し、推奨事項を生成します。 エージェントは、適切なユーザーまたは管理者の承認を必要とする、構成されたアクセス許可内でスコープ付きアクションを実行することもできます。 エージェントは、単純なプロンプトと応答のエクスペリエンスから、人間の見落としによるより自動化された半自律型ワークフローまで多岐に及びます。 たとえば、フィッシングトリアージ エージェントと脆弱性修復エージェントなどです。 |
| エージェント ID | エージェントが Microsoft サービスで認証し、そのタスクを実行するために必要なデータにアクセスするためにエージェントが使用する資格情報。 セットアップ中、管理者は専用 ID を作成するか (Microsoft Entra エージェント IDを使用)、またはエージェントが構成ユーザーの資格情報を継承することを選択します。 ID の選択によって、エージェントがアクセスできるデータが制御されます。 |
| データ ソース | プラグインまたは統合を介して地上応答にアクセスする構造化データまたは非構造化データ。 |
| 埋め込みエクスペリエンス | Microsoft Defender XDRやMicrosoft Sentinelなど、別の Microsoft セキュリティ製品内からSecurity Copilot機能にアクセスする。 Security Copilotサイドカー パネルは、その製品のコンテキストで AI アシスタンスを直接表示します。 |
| 基礎 | ユーザーのプロンプトに関連する大規模な言語モデルにコンテキスト入力ソースを提供するプロセス。 Security Copilotがプラグインと Microsoft セキュリティ製品を介して組織データにアクセスできるようにすることで、Security Copilotにより正確でコンテキストに応じた対応を実現できます。 |
| 大規模言語モデル (LLM) | 大量のテキスト データでトレーニングされた AI モデルは、シーケンス内の単語を予測します。 LLM は、テキストの生成、要約、翻訳、分類など、さまざまなタスクを実行できます。 |
| プラグイン | API を介して Microsoft および Microsoft 以外のサービスやパブリック Web サイトからのリソースにアクセスできるようにすることで、Security Copilotの機能を拡張する関連ツールのコレクション。 プラグインは、Security Copilot生成される応答と出力にさらにコンテキストを追加します。 |
| 後処理 | LLM 応答をユーザーに返す前に調整して準備するために実行Security Copilot一連のアクション。 この後処理には、プラグイン、責任ある AI チェック、セキュリティ、コンプライアンス、プライバシーチェックを通じた追加の接地呼び出しが含まれます。 |
| プロンプト | 特定のタスクを実行したり、情報を取得したりするためにユーザーがSecurity Copilotに送信する自然言語テキスト。 たとえば、 このインシデントを要約し、修復手順を提案します。 |
| Promptbook | 特定のセキュリティ関連タスクを実行するために、前の応答を基にして順番に実行される一連のプロンプト。 プロンプトブックは、ライブラリから使用することも、ユーザーがビルドして共有することもできます。 |
| 赤いチーム テスト | 専門家がシステムの制限と脆弱性を評価し、計画された軽減策の有効性をテストするために使用される手法。 赤いチーム テストは、潜在的なリスクを特定するために使用され、リスクの体系的な測定とは異なります。 |
| 責任ある AI | MICROSOFT のポリシー、調査、エンジニアリングプラクティスは、AI の原則に基づいているものであり、 責任ある AI 標準を通じて運用されています。 詳細については、 Fluent RAI ガイダンスを参照してください。 |
| セキュリティ コンピューティング ユニット (SCU) | SCU は、Security Copilotワークロードを実行し、エクスペリエンス全体で一貫したパフォーマンスを実現するために使用されるコンピューティング容量の単位です。 Security Copilot容量は SKU で測定され、プロビジョニングされた容量モデルまたは超過容量モデルを通じて使用できます。 詳細については、「 SCU について」を参照してください。 |
| Security Copilot応答 | AI によって生成された出力は、概要、推奨事項、またはコードとビジュアルを含む可能性のあるアクションなど、ユーザー プロンプトに返されます。 |
| Security Operations Center (SOC) | organization内のサイバーセキュリティ インシデントに対する継続的な監視、分析、対応に焦点を当てた専用のセキュリティ チームまたは施設。 SOC アナリストは、Security Copilotの主要な対象ユーザーの 1 つです。 |
| セキュリティ ストア | ユーザーがパートナー構築のエージェントと拡張機能を検出して有効にできる、マーケットプレースに似たエクスペリエンスSecurity Copilot。 |
| セッション | プロンプト、応答、および出力の生成に使用される関連データを含む境界付き対話コンテキスト。 セッション コンテキストは分離され、セッション間で共有されません。 セッション データへのアクセスは、ユーザーのアクセス許可とワークスペース ロールによって管理され、プロンプトと応答は、基本モデルのトレーニングに使用されない顧客データとして扱われます。 |
| スタンドアロン エクスペリエンス | https://securitycopilot.microsoft.comで直接アクセスされるイマーシブ Security Copilot ポータル エクスペリエンス。 |
| Tenant | Security Copilotの ID、アクセス、データを分離するMicrosoft Entra IDの組織の境界。 すべてのワークスペース、ユーザー、操作はこの境界内で動作し、テナント レベルのアクセス許可とセキュリティ制御によって管理されます。 |
主な機能
次の表の主な機能は、Microsoft Security Copilotが実行するように設計されていることと、サポートされているタスク全体でどのように実行されるかを示しています。
| 機能または機能 | 説明 |
|---|---|
| インシデントの調査と対応 | Security Copilotは、複雑なセキュリティ アラートの概要を生成し、Microsoft Defender XDR、Microsoft Sentinel、およびその他の統合製品間でシグナルを関連付け、ステップ バイ ステップの修復ガイダンスを提供することで、セキュリティ プロフェッショナルがインシデントをトリアージして調査するのに役立ちます。 |
| 脅威インテリジェンス | Security Copilotは、Microsoft Defender脅威インテリジェンスの記事とプロファイル、脅威分析レポート、脆弱性開示パブリケーションを検索して、関連するインテリジェンスをプロンプトに合わせて表示できます。 |
| スクリプト分析と KQL クエリ生成 | Security Copilotは、疑わしいスクリプトやマルウェアを分析し、自然言語を KQL クエリに変換できるため、すべてのスキル レベルのチーム メンバーが高度なハンティングとテクニカル分析タスクを実行できます。 |
| セキュリティ体制管理 | Security Copilotは、ユーザーが環境全体で優先順位付けされたリスクを理解し、Microsoft Defender XDR、Microsoft Entra、Microsoft Intuneとの統合を通じて態勢を改善する機会を特定するのに役立ちます。 |
| セキュリティ ポリシーの作成と管理 | ユーザーは、新しいポリシーを定義し、競合に関する既存のポリシーと相互参照し、ポリシーをプレーンな言語で要約して、複雑な組織のコンテキストを管理できます。 |
| プロンプトブック | プロンプトブックは、特定のセキュリティ タスクを実行するために実行される一連のプロンプトです。 ユーザーは、共有ライブラリからプロンプトブックを実行することも、独自のライブラリを作成して共有することもできます。 |
| Agents | Security Copilotは、管理者によって付与されたアクセス許可内のセキュリティおよび IT 運用タスクを自動化および支援できるエージェントをサポートします。 エージェントのアクションは、構成された ID、アクセス制御、トリガーによって管理され、セキュリティ ワークフローの一部として人間の監視で動作するように設計されています。 Microsoft が構築したエージェントは、SOC 運用、脅威ハンティング、脅威インテリジェンス、ID 管理、エンドポイント管理、およびデータ セキュリティをカバーするセキュリティ製品ポートフォリオにまたがります。 管理者は、各エージェントの ID、アクセス許可、トリガーを構成します。 特定のエージェントとそのユース ケースの詳細については、「 目的の用途」を参照してください。 |
| ファイルのアップロード | ユーザーはSecurity Copilotセッションにファイルを直接アップロードできるため、Copilot は応答を生成するときにアップロードされたコンテンツを分析、集計、または相互参照できます。 |
| 多言語サポート | Security Copilotでは、複数の言語でのプロンプトと応答がサポートされます。 詳細については、サポートされている言語に関する記事をご覧ください。 |
目的に合った用途
Microsoft Security Copilotは、広範なセキュリティおよび IT 運用タスクにわたって AI 支援のサポートを必要とするセキュリティの専門家や IT 管理者が使用するように設計されています。 補助的な副操縦士エクスペリエンスは、関連するコンテキストを表示し、実用的なガイダンスを生成し、手動分析に費やす時間を短縮することで、ユーザーがより効率的に作業するのに役立ちます。 目的のユース ケースの例を次に示します。
インシデントの調査と対応: 複雑なアラートの概要を生成し、Microsoft Defender XDRやMicrosoft Sentinelなどの統合セキュリティ製品全体でシグナルを関連付け、手順を追った修復ガイダンスを提供します。 アナリストはフォローアップの質問をして、調査を段階的に改善することができます。
脅威インテリジェンスの収集: 自然言語プロンプトに基づいて脅威アクター、マルウェア、脆弱性に関する関連インテリジェンスを表示し、情報をカスタマイズされた概要に統合します。
スクリプト分析とリバース エンジニアリング: 疑わしいスクリプトまたはコマンドライン アクティビティをプレーンな言語で説明し、悪意のある動作を識別し、侵害のインジケーターを強調表示します。
KQL クエリ生成: 高度なハンティングとログ分析のために、自然言語プロンプトをすぐに実行できる KQL クエリに変換します。
セキュリティ体制管理: 優先順位付けされたリスクを特定し、組織のセキュリティ体制を改善するためのアクションを推奨します。
セキュリティ ポリシーの作成と管理: ポリシーの作成、レビュー、要約、ギャップまたは競合の特定を支援します。
利害関係者レポート: 技術的な概要やエグゼクティブ ブリーフィングなど、さまざまな対象ユーザーに合わせて調整されたレポートを生成します。
繰り返し可能なセキュリティ ワークフローのプロンプトブック: ユーザーは、定期的なセキュリティ タスクを標準化するためのマルチステップ ワークフローを実行または作成できます。
モデルとトレーニング データ
Microsoft Security Copilotでは、Azureによって販売された Foundry Models の OpenAI 大言語モデル (LLM) Azureを使用して、自然言語エクスペリエンスを強化します。 これらのモデルは、顧客データSecurity Copilotトレーニングされていません。 モデル機能は、推論、速度、制限事項、およびサポートされるシナリオによって異なります。
Security Copilotには、プラグインと接地を通じてセキュリティ固有の知識とコンテキストも組み込まれています。これにより、LLM はモデル トレーニングを通じてではなく、推論時に関連する組織データ、脅威インテリジェンス、権限のあるコンテンツを提供します。
パフォーマンス
Security Copilotは、Organizationによって構成された Microsoft Security 製品やその他のデータ ソース全体で大量のリアルタイム セキュリティ信号が生成されるエンタープライズ セキュリティ環境で動作するように設計されています。
汎用 LLM とは異なり、Security Copilotには次のものが用意されています。
- 構造化されたセキュリティ データ全体のリアルタイム信号処理
- 複数のデータ ソースを関連付ける調査推論
- 顧客データに基づく証拠に基づく出力
- 継続的な可視性のための継続的なデータ収集
ユーザーは、自然言語プロンプトを使用してSecurity Copilotと対話します。 システムは、アクティブなプラグイン、データ ソース、LLM を介してこれらの入力を処理して応答を生成します。
出力は主に、概要の説明、推奨されるアクション、ステップ バイ ステップ ガイダンス、コード スニペット (KQL クエリなど)、関係者に合わせて調整された書式設定されたレポートなど、テキスト形式です。 システムは応答を生成すると、プロセス ログに中間ステップを表示し、プロセスとソースを二重チェックする機会を提供します。 ユーザーはいつでもプロンプトを取り消し、編集、再実行、または削除でき、応答をピン留め、共有、エクスポートしてコラボレーションを容易にすることができます。
制限事項
Microsoft Security Copilotの制限事項を理解することは、それが効果的かつ責任を持って使用されるようにするために重要です。 Security Copilotはセキュリティ ワークフローを強化しますが、すべてのシナリオ向けに設計されているわけではありません。 ユース ケースを選択する場合 は、Microsoft Enterprise AI Services の行動規範 と次の考慮事項を参照してください。
- 正確性と完全性: Security Copilotは、不正確、不完全、または古い応答を生成する可能性があります。 出力品質は、使用可能なデータ ソース、有効な統合、およびユーザーが提供するコンテキストによって異なります。 ユーザーは人間の判断を適用し、重要な出力を検証する必要があります。
- バイアス、ステレオタイピング、および固定されていないコンテンツ: セーフガードにもかかわらず、出力には、大きな言語モデルの確率的性質のためにバイアス、ステレオタイプ、またはサポートされていない結論が含まれている可能性があります。 特に機密性の高いシナリオや影響の大きいシナリオでは、ユーザーは応答を批判的に評価する必要があります。
- ドメイン固有のスコープ: Security Copilotは、インシデント調査や脅威分析などのセキュリティ関連のタスク用に最適化されています。 このドメイン外のプロンプトは、より正確でない、または関連性の低い応答につながる可能性があります。
- 使用制限と待機時間: Security Copilotの使用には、容量の制約とパフォーマンスに関する考慮事項が適用される場合があります。 統合の実行や安全性チェックの適用など、応答を生成すると、待機時間が発生する可能性があります。 組織は、一貫性のあるパフォーマンスを維持するために、使用状況 (SKU) を監視する必要があります。
- プレビューの状態: 一部のSecurity Copilot機能はプレビュー段階にある可能性があります。 プレビュー機能はプレリリース機能として扱う必要があり、アクションを実行する前に出力を確認する必要があります。
- プロンプト制約とコンテキスト制約: Security Copilotは、大きな言語モデルに固有のトークンとコンテキストの制限内で動作します。 長いプロンプトまたは拡張操作がこれらの制限を超えると、最適な応答が切り捨てられるか、または少なくなる可能性があります。 プロンプトをリフレーミングまたは簡略化すると、結果が向上する可能性があります。
- データ ソースと構成への依存: 応答は、接続された Microsoft サービス、サード パーティの統合、ユーザー入力など、使用可能なデータに基づいて行われます。 関連するデータ ソースが使用できない、有効になっている、または現在の場合、結果の完全性や精度が不足している可能性があります。
- スクリプトとコード生成: Security Copilotは、コードを生成したり、応答にコードを含めたりすることができます。 応答は有効に見えますが、意味的または構文的に正しくないか、要求元の意図を正確に反映していない可能性があります。 生成されたコードは、適切な検証、テスト、レビューの手順なしでは運用環境にデプロイしないでください。 また、生成されたコードで使用されるパラメーターが元の要求と一致することも確認する必要があります。 たとえば、エージェントが特定の時間範囲内のアラートに対して操作する場合は、生成されたコードの時間範囲が自然言語プロンプトで指定された時間範囲と一致することを確認します。
- データ アクセスとアクセス許可の境界: Security Copilotは、既存の組織のアクセス許可とデータ アクセス制御内で動作します。 応答は、ユーザーがアクセスを許可されているデータに制限されます。 基になるシステムでアクセス許可が正しく構成されていないと、結果の関連性や完全性に影響する可能性があります。
- Government クラウド環境: Security Copilotは、現在、特定の政府機関向けクラウド環境で使用するように設計されていません。
評価
パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠、関連性、一貫性などの要因を調べることで、AI アプリケーションが確実かつ安全に動作しているかどうかを評価します。 次の評価は、安全コンポーネントが既に配置されている状態で行われました。これは、「 安全コンポーネントと軽減策」にも記載されています。
品質と安全性に関する評価データ
Microsoft の評価データは、安全性と品質の重要な領域全体で AI アプリケーションのパフォーマンスを評価し、実際のシナリオとリスクをシミュレートするためにカスタム構築されています。 我々は、多分野の研究と専門家の意見に基づいて懸念の関連評価の側面を特定することから始めます。 これらの懸念は、対象となる評価目標に変換され、評価メトリックの策定をガイドします。
安全性を確保するために、望ましくない応答やエッジケースの応答を引き出す敵対的なプロンプトを作成し、その後、Microsoft の安全基準との整合性を評価するためにトレーニングされた AI 支援アノテーターを使用してスコア付けされます。 品質を高めるために、取得拡張生成 (RAG) アプリケーションとエージェントの評価など、シナリオに関連するルーブリックベースのプロンプトを作成します。
データセットは、実際のユーザー シナリオをシミュレートするために、合成データセットやパブリック データセットなど、さまざまなソースからキュレーションされます。 キュレーションされたデータセットを使用して、両方の評価で反復的な絞り込みと人間の調整が行われ、メトリックの有効性と信頼性が向上します。 この手法は、顧客が評価をどのように使用してより良く、より安全な AI を構築するかを反映する反復可能で厳格な評価の基礎を形成します。
カスタム評価
回帰テスト、キュレーションされたプロンプト データセット、運用環境に合わせた例を使用して、根拠、敵対的堅牢性、有害なコンテンツ シナリオ全体でモデルのパフォーマンスを検証するために、カスタム評価が実施されました。 評価では、GPT モデル間の出力を比較し、内部ツールを使用して根拠を評価し、OpenAI コンテンツ フィルターをAzureして脱獄、迅速な挿入、および知的財産違反に対する保護を検証しました。 結果は、敵対的なシナリオにわたる強力な保護率や接地精度の向上など、一貫性のあるパフォーマンスまたは改善されたパフォーマンスを示します。
有害なコンテンツ処理はモデル間で一貫性を保ち、注釈モードで動作し、セキュリティに重点を置いたユース ケースをサポートします。さらに大規模なテストを行うと、カテゴリ間で高い保護率が確認されます。 回帰テストは、有害ではないコンテンツが有害として分類されていないことを確認するために行われます。
ユーザーフィードバックは、Security Copilotの改善に不可欠です。 ユーザーは、[ 改善が必要]、[ 不適切] または [ 見た目が正しい ] オプションを使用してフィードバックを提供できます。 このフィードバックは Microsoft に直接送信され、継続的な反復的な絞り込みを通じてプラットフォームのパフォーマンスを向上させるために使用されます。
安全コンポーネントと軽減策
赤いチームテストなどのプロセスを通じて潜在的なリスクと誤用を特定し、それらを測定するにつれて、損害の可能性を減らすための軽減策を開発しました。 次の一覧では、これらの軽減策の一部について説明します。 製品のパフォーマンスと軽減策を向上させるために、引き続きMicrosoft Security Copilotエクスペリエンスを評価します。
有害なコンテンツフィルタリングとガードレール: Security Copilotは、Azure OpenAI Service Foundation の一部として、Microsoft が開発したガードレール (コンテンツ フィルター) と不正使用検出モデルを統合します。 これらのニューラル分類モデルは、複数の重大度レベルで、ヘイト、性的、暴力、自傷行為などのカテゴリ間で有害なコンテンツを検出してフィルター処理します。 オプションの分類モデルでは、脱獄リスク、既知のテキストまたはコード素材、間接プロンプトインジェクション攻撃も検出されます。 これらの階層化されたコントロールは、AI が Microsoft の安全基準に違反する応答を生成するのを防ぐのに役立ちます。
安全システム設計: Microsoft は、障害を軽減し、有害なコンテンツ注釈、運用監視、その他のセーフガードを含む誤用を防止するように設計された、Security Copilot用の安全システムを開発しました。 Security Copilotは顧客の代わりにこれらの軽減策を実装するため、Azure OpenAI サービス責任ある AI 軽減要件は、Security Copilotのお客様には直接適用されません。
ユーザー フィードバック ループ: プラットフォームには、組み込みのフィードバック メカニズムが用意されています。ユーザーが問題のある有用な出力を Microsoft に直接報告できるようにする 、改善が必要、 不適切、および 見た目が適切 なオプションです。 このフィードバックにより、継続的な改善サイクルが促進され、エラーやアライメントの誤りが検出されたときに迅速な修正とモデル調整が可能になります。
データの暗号化とアクセス保護: Security Copilotによって処理される顧客データは、Microsoft 製品およびサービスデータ保護補遺で説明されているように、転送中と保存時の両方で暗号化されます。 既定では、人間のユーザーはデータベースにアクセスできません。ネットワーク アクセスは、Security Copilot アプリケーションが展開されているプライベート ネットワークに制限されます。(インシデント対応のために) 人間のアクセスが必要な場合は、承認された Microsoft 従業員によって昇格されたアクセスとネットワーク アクセスを承認する必要があります。 「コンプライアンス」を参照してください。
段階的な展開アプローチ: Security Copilotは、招待専用の早期アクセス プログラムを通じて機能をリリースし、より広範な可用性の前に Microsoft がフィードバックを収集し、機能を改良できるようにします。
リスクのマッピング、測定、管理に対するアプローチは、さらに学習するにつれて進化し続け、お客様から寄せられたフィードバックに基づいて既に改善を行っています。
Microsoft Security Copilotのデプロイと導入に関するベスト プラクティス
責任ある AI は、Microsoft とその顧客との間で共有されるコミットメントです。 Microsoft は安全性、公平性、透明性を中核とする AI システムを構築していますが、お客様は、これらのテクノロジを独自のコンテキスト内で責任を持ってデプロイおよび使用する上で重要な役割を果たします。
Security Copilotエージェントは、置き換えではなく、人間の専門知識を強化するように設計されています。 お客様は、出力の確認、意思決定の検証、適用される法律、規制、組織ポリシーへの準拠の確保に引き続き責任を負います。
デプロイ担当者とエンド ユーザーは、次の手順を実行する必要があります。
結果的な意思決定や機密性の高い領域でSecurity Copilotを使用する場合は、注意を払い、結果を評価します。結果的な決定は、雇用、法務サービス、医療へのアクセスに法的または重大な影響を与える可能性があるもの、または物理的、心理的、または経済的な損害をもたらす可能性のあるものです。 金融サービス、医療、法律などの機密性の高いドメインでは、さまざまなグループの人々に不均衡な影響を与える可能性があるため、特定のケアが必要です。 これらの分野の意思決定に AI を使用する場合、影響を受けた利害関係者が意思決定の方法を理解し、意思決定をアピールし、関連する入力データを更新できるようにする必要があります。
法的および規制上の考慮事項を評価する: お客様は、AI サービスとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界やシナリオでの使用に適していない可能性があります。 さらに、AI サービスまたはソリューションは、適用されるサービス条件および関連する行動規範で禁止されている方法で設計されておらず、使用されない場合があります。
関連するプラグインを有効にして維持する: Security Copilot応答の品質と精度は、有効になっているプラグインによって大きく異なります。 管理者は、ユーザーが状況に応じて適切な応答を受け取るように、適切な Microsoft およびサード パーティのプラグインが構成および保守されていることを確認する必要があります。
エンド ユーザーは次の手順を実行する必要があります。
効果的なプロンプトを記述する: 明確で具体的なプロンプトを記述することは、Security Copilotを使用してより良い結果を得るための鍵です。 インシデント ID、資産名、時間範囲などの関連コンテキストを含めます。 必要に応じてプロンプトを繰り返して再生成し、AI によって生成された応答を常に確認して確認します。 詳細については、「Security Copilotのヒントを求める」を参照してください。
適切な場合に人間の監視を実行する: 人間の監視は、AI システムと対話するときの重要なセーフガードです。 Security Copilotを継続的に改善する一方で、AI システムが間違いを犯す可能性があります。 生成される出力は、入力のあいまいさや基になるモデルの制限のために、不正確、不完全、バイアス、または目的の目標に完全に合っていない可能性があります。 ユーザーは、アクションを実行する前に、Security Copilotによって生成された応答を確認し、期待と要件に一致していることを確認する必要があります。
過度の依存のリスクに注意する: AI への過度の依存は、AI 出力の間違いが検出しにくい可能性があるため、ユーザーが誤った AI 出力または不完全な AI 出力を受け入れると発生します。 セキュリティプロフェッショナルの場合、過度の依存により、脅威が見逃されたり、インシデントの結論が間違ったり、欠陥のある推奨事項に基づいてポリシーが変更されたりする可能性があります。 Security Copilotには、AI の開示が含まれており、このリスクを軽減するためにソース 資料が引用されていますが、ユーザーは応答の正確性を確認する必要があります。 ユーザーは、エージェントのワークフロー中に実行された手順の概要を示すエージェント ノード マップを確認できます。
機密性の高いドメインにエージェント AI をデプロイまたは設計する場合は注意が必要です。エージェントアクションが元に戻せない、または非常に結果的なドメインでエージェント AI システムを構成および展開する場合、ユーザーは適切な人間の監視を実装する必要があります。 Microsoft Enterprise AI Services の行動規範に記載されているように、自律エージェント AI を作成する場合は、追加の予防措置を講じる必要があります。
デプロイ担当者は次の手順を実行する必要があります。
RBAC とエージェントのアクセス許可を慎重に構成する: 管理者は、ユーザーとエージェントの両方のロールベースのアクセス制御を構成する責任があります。 アクセス許可は、最小特権の原則に従う必要があります。 エージェントには、指定されたタスクに必要なデータとアクションへのアクセスのみを許可する必要があります。
使用状況の監視とアクティビティの確認: 管理者 (所有者) は、Security Copilot使用状況監視ダッシュボードを使用して、時間の経過に伴う使用状況、セッション イニシエーター、セッション中に使用されるプラグインなどのセッション レベルのデータを確認できます。 この可視性は、組織がプロンプト、プロンプトブック、エージェント間でSecurity Copilotがどのように使用されるかを理解するのに役立ちます。 詳細については、「使用状況の管理」 を参照してください。
データ共有設定の管理: 所有者はいつでも顧客データ共有設定を構成でき、organizationのプライバシーとコンプライアンスの要件に従ってこれらの設定を確認して更新する必要があります。 詳細については、「Microsoft Security Copilot のプライバシーとデータ セキュリティ」をご覧ください。
機能と制限事項についてユーザーを教育する: Security Copilotの効果的かつ責任ある使用を行うには、ユーザーがシステムでできることとできないことを理解する必要があります。 デプロイ担当者は、ユーザーがアクションを実行する前に AI によって生成された出力を検証することの重要性など、Security Copilotを効果的に操作できるようにするためのトレーニングとガイダンスを提供する必要があります。
Security Copilotの詳細
Microsoft Security Copilotの責任ある使用に関するその他のガイダンスについては、次のドキュメントを参照してください。