Project Perception のアプリケーションカード

適用対象: Project Perception

Important

この記事の一部の情報は、市販される前に大幅に変更される可能性があるプレリリース製品に関するものです。 Microsoft は、ここに記載されている情報に関して、明示または黙示を問わず、一切の保証を行いません。 Project Perception は現在、限定パブリックプレビュー段階です。制限付きパブリックプレビュープログラムは、より広範な一般提供の前に、定義されたプレビュー期間に対して招待のみの小規模な顧客が Perception を利用できることを意味します。

アプリケーションまたはプラットフォームのカードとは

Microsoft のアプリケーションおよびプラットフォームカードは、AI テクノロジのしくみ、アプリケーション所有者がアプリケーションのパフォーマンスと動作に影響を与える可能性がある選択肢、テクノロジ、ユーザー、環境を含むアプリケーション全体を考慮することの重要性を理解するのに役立つものです。アプリケーションカードは AI アプリケーション用に作成され、プラットフォームカードは AI プラットフォームサービス用に作成されます。これらのリソースは、独自のアプリケーションの開発またはデプロイをサポートでき、影響を受けるユーザーや利害関係者と共有できます。

責任ある AI へのコミットメントの一環として、Microsoft は、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任という 6 つのコア原則に準拠しています。これらの原則は責任ある AI Standardに組み込まれており、AI アプリケーションの設計、構築、テストの各チームをガイドします。アプリケーションカードとプラットフォームカードは、機能、目的の用途、制限事項に関する透明性を提供することで、これらの原則を運用する上で重要な役割を果たします。さらに詳しい分析情報を得るために、Microsoft の責任ある AI 透明性レポートと、責任を持って AI と関わる方法を説明する Microsoft Enterprise AI サービス行動規範を調べるようお勧めします。

Overview

Project Perception は、AI の現実のために設計された新しいマルチエージェントセキュリティシステムです。 Perception は、シグナル、コンテキスト、モデル、特殊なエージェントを継続的に学習する防御システムにまとめます。人間をしっかりと制御し、強力な新しいワークフローで強化しながら、機械の速度で推論、優先順位付け、行動することができます。

目的のユーザーには、SOC アナリスト、検出エンジニア、セキュリティアーキテクト、IT 管理者、および最高情報セキュリティ責任者 (CISO) などのセキュリティリーダーが含まれます。従来の SOC チームと、複数のセキュリティドメイン間で大規模に運用するフロンティアセキュリティエンジニアの両方が、Perception を使用できます。

キーワード

次の表に、Perception に関連する主要な用語の用語集を示します。

任期	Definition
エージェント	推論、ツールの使用、タスクの実行が可能な自律的または半自律的なソフトウェアエンティティ。 Perception のエージェントは、セキュリティ目標を達成するために、データ、システム、およびユーザーと対話します。エージェントは自律的に作業し、一時停止して人間の承認を要求し、応答時に再開できます。
エージェント識別子	エージェントがMicrosoft サービスで認証し、そのタスクを実行するために必要なデータにアクセスするために使用するMicrosoft Entra エージェント ID。セットアップ中に、Microsoft Entraはエージェントの専用エージェント ID を作成します。エージェント ID に割り当てられたアクセス許可によって、エージェントがアクセスできるデータが制御されます。
プレイブック	自律エージェント実行で共有セッションを開始するための再利用可能な一連の命令。プレイブックでは、実行する必要がある作業、実行するエージェント、必要な入力、プレイブックを実行するタイミングを定義します。
認識	Microsoftのセキュリティオペレーションセンター用のマルチエージェントシステム。 Perception は、専用のセキュリティエージェントの連携を調整し、それらのエージェントとやり取りするために使用するプレイブック、セッション、オーケストレーションコントロール、および人による監視エクスペリエンスを提供します。
典拠	エージェントのタスクに関連する大規模な言語モデルにコンテキスト入力ソースを提供するプロセス。エージェントは、Microsoft Defender統合を通じて組織データにアクセスできるようにすることで、より正確でコンテキストに応じた対応を提供できます。
大規模言語モデル (LLM)	大量のテキストデータでトレーニングされた AI モデルは、シーケンス内の単語を予測します。 LLM は、テキストの生成、要約、翻訳、分類など、さまざまなタスクを実行できます。
プランインスタンス	特定のセッションに対するプレイブックテンプレートの特定の実行。プランインスタンスには、実行時に提供される実際の入力値が含まれており、そのセッションに固有です。
責任ある AI	Microsoftのポリシー、研究、エンジニアリングのプラクティスは、AI の原則に基づき、責任ある AI 標準を通じて運用化されています。
Session	エージェントによって実行されるすべての作業のコンテナー。セッションは、入力、会話、生成された成果物、達成された結果など、エージェントアクティビティの完全なコンテキストをキャプチャします。セッションは、エージェント作業の監査証跡として機能する不変レコードです。

主な機能

次の表では、Perception の主な機能と、サポートされているタスクでのパフォーマンスについて説明します。

機能または能力	Description
エージェントプレイブック	知覚は、構造化シーケンス内の複数の特殊なエージェントを調整します。 1 つのエージェントからの出力が次のエージェントの入力になり、検出の作成、露出分析、インシデント調査を通じて、脅威インテリジェンスからエンドツーエンドのセキュリティワークフローを実現できます。
脅威インテリジェンスの抽出	脅威インテリジェンスエージェントは、脅威インテリジェンスの記事を分析し、脅威アクタープロファイル、MITRE ATT&CK 手法マッピング、IOC、CVE、KQL ハンティングクエリなど、構造化されたインテリジェンスオブジェクトを抽出します。
アラートの優先順位付け	トリアージエージェントは、サポートされているアラートを分類して解決し、悪意のあるアクティビティと誤ったアラームのどちらを表すかを判断し、透過的なサポート推論を使用して判定を記録し、アナリストのフィードバックから学習できます。エージェントは、サポートされている新しいアラートが作成されると自動的にトリガーされ、Triage アラートプレイブックを使用して手動で開始することもできます。
インシデントの調査	攻撃調査エージェントは、Defender インシデントの階層 2 の調査を実行し、アラートとシグナルを関連付けて、判定、タイムライン、攻撃グラフ、影響を受けるエンティティ、修復アクションを使用して完全な攻撃ストーリーを再構築します。
攻撃パス分析	Recon Agent は、Azure環境の読み取り専用の攻撃者スタイルの分析を実行して、敵対者が環境内を移動する方法をマップし、特権パス、チョークポイント、露出リスクを特定します。
ID リスク評価	Recon Agent は、Azure環境での特権関係、機密性の高い ID、および横移動の機会を分析することによって、ID の露出を評価します。
検出の作成	検出作成エージェントは、一般的な ATT&CK カバレッジではなく、特定の脅威アクター手法に合わせて調整された実装対応の KQL 検出ルールに脅威インテリジェンスを変換します。
体制の優先付け	Posture Prioritization Agent は、セキュリティ体制の結果を実際のリスク別にランク付けし、重大度、悪用可能性、アクティブな悪用状態、インターネットの到達可能性、資産の重要度、攻撃パスコンテキストを評価します。
エージェントのガバナンスと管理	管理者は、有効なすべてのエージェントを表示し、エージェント ID とアクセス許可を構成できます。
人間の監視と監督	ユーザーは、進行中のセッションを監視したり、承認ゲートでエージェントアクションを承認または拒否したり、セッションを停止したり、代替ガイダンスを使用してエージェントをリダイレクトしたりできます。セッションは、アナリストが結論を確認、検証、またはオーバーライドできるように、その推論を透過的に示します。
パフォーマンス評価	管理者とセキュリティエンジニアは、アクティビティを追跡し、セキュリティの結果を理解し、どのエージェントとプレイブックがさらなる自動化に適しているかを評価できます。
コンテキスト内プレイブックのトリガー起動	プレイブックは、プレイブックページに直接移動することなく、インシデント詳細ページや脅威インテリジェンス記事ページなど、他のMicrosoft Defenderサーフェスから開始できます。

知覚はエージェントシステムとして動作します。エージェントの自律性を理解するには、次の点を考慮してください。

起動トリガー: どのような条件またはユーザーの操作によってエージェントが実行されるか
アクセス許可: エージェントが使用できるデータ、システム、またはリソース
アクション権限: エージェントが独自に実行する権限を持つアクション

次のセクションでは、Perception エージェントの理由、計画、適応、および範囲の拡大を支える主要なエージェント機能について説明します。

推論

知覚エージェントは、基になる大きな言語モデルを使用して、使用可能なコンテキストの分析、シグナルの評価、および最も適切なアクションのコースの決定を行います。たとえば、攻撃調査エージェントは、アラート、インシデント、エンティティ、シグナルを関連付けて、自然言語の根拠を持つ判定と攻撃の分類を生成します。エージェントは推論過程を透明性高く提示するため、アナリストはその結論に基づいて行動する前に、結論を確認し、妥当性を検証し、必要に応じて覆すことができます。

計画

エージェントは、セキュリティ目標に向けて構造化された一連のアクションを開始するようにエージェントシステムに指示する定義済みのプレイブックに対して動作します。プレイブックは、ユーザーがトリガーしたときにオンデマンドで実行されます。

この設計により、エージェントは目標に基づいて実行モデルが提供され、タスクを完了するためのアクションのタイミングと方法がシステムによって決定されます。マルチエージェントプレイブックでは、各エージェントの出力が順番に次のエージェントの構造化された入力となり、完全な結果に向けて徐々に構築されます。

Adaptability

Perception エージェントは、構成された ID、アクセス許可、トリガーによって定義されたスコープ内で動作し続けながら、運用コンテキストに基づいて適応するように設計されています。

コンテキストの基礎: 実行中に、エージェントは組織データを使用して推論を強化し、Microsoft Defender統合と脅威インテリジェンスを有効にして、出力に現在の顧客コンテキストが反映されるようにします。
エージェントコラボレーション: エージェントは、同じプレイブック内の他のエージェントからの結果に基づいて分析を調整します。たとえば、ポスチャ優先順位付けエージェントは、脅威インテリジェンスエージェントからの脅威コンテキストを組み込んで、一般的ではなく特定の脅威のコンテキストで結果をランク付けします。
構成可能な ID とアクセス許可: エージェントは、セットアップ後に更新して ID、トリガー、パラメーターを変更し、進化するワークフローと要件に合わせて調整できます。

拡張性

プレイブック: プレイブックは、1 つ以上のエージェントを調整する再利用可能なパラメーター化されたワークフローを提供します。 1 つのエージェントが複数のプレイブックに参加でき、新しいプレイブックでエージェントを新しいシーケンスで調整できます。
Defender エクスペリエンスでの統合: エージェントワークフローは、インシデントページや脅威インテリジェンス記事ページなど、Microsoft Defender ポータルの複数のサーフェスから開始でき、Perception に直接移動することなくコンテキストエントリポイントを有効にすることができます。

意図された用途

Perception は、セキュリティ運用ワークフローの AI 支援と自律的なサポートを必要とするセキュリティプロフェッショナルと IT 管理者向けに設計されています。次の表では、目的のユースケース、それらをサポートするプレイブック、および関連するエージェントについて説明します。

利用シーン	プレイブック	エージェント
アラートトリアージ: 実際の脅威がさらに注目されるように、誤検知のアラートを検証します。	トリアージアラート	トリアージエージェント
エンドツーエンドの脅威防御: 脅威インテリジェンスソースを取得し、攻撃パスマッピング、優先順位付けされた体制の推奨事項、検出範囲など、包括的な防御対応を生成します。	脅威から保護する	Threat Intelligence Agent、Recon Agent、Posture Prioritization Agent、Detection Authoring Agent
自律的なインシデント調査: Defender インシデントの階層 2 の調査を実行し、判定、タイムライン、攻撃グラフ、影響を受けたエンティティ、修復アクションを含む完全な攻撃ストーリーを生成します。	攻撃を調査する	攻撃調査エージェント
脅威インテリジェンスの抽出: 脅威インテリジェンスに関する記事を分析して、セキュリティ操作で使用する構造化されたインテリジェンスオブジェクトを抽出します。	脅威インテリジェンスを抽出する	Threat Intelligence Agent
攻撃パスの検出: Azure環境で読み取り専用の攻撃者スタイルの偵察を実行して、敵対者が侵入して貴重な資産に到達する方法を検出します。	攻撃パスを特定する	Recon エージェント
体制修復の優先順位付け: クラウド、デバイス、AI 全体で優先順位付けされた修復計画を構築します。このプレイブックは、リスクが最も高い姿勢のギャップをターゲットにするため、露出、悪用可能性、資産コンテキストを重視しています。	態勢改善の計画	姿勢の優先順位付けエージェント
ID リスク評価: Azure環境での特権関係、機密性の高い ID、横移動の機会を分析して、ID の露出を評価します。	ID リスクを評価する	Recon エージェント

モデルとトレーニングデータ

Perception では、Azure によって販売された Foundry Models の OpenAI 大規模言語モデル (LLM) Azureを使用して、エージェントの推論と自然言語エクスペリエンスを実現します。これらのモデルは、Perception セッションからの顧客データに対してトレーニングされません。モデル機能は、推論、速度、制限事項、およびサポートされるシナリオによって異なります。

Perception には、基礎を通じてセキュリティ固有の知識とコンテキストが組み込まれています。これにより、モデルトレーニングではなく、推論時に関連する組織データ、脅威インテリジェンス、Defender製品データが LLM に提供されます。エージェント出力の品質と関連性は、実行時にエージェントが使用できるデータソースによって異なります。このデータソースは、エージェントの構成済みの ID と管理者が付与するアクセス許可によって管理されます。

Performance

Perception は、Microsoft Defenderおよび統合データソース全体で大量のリアルタイムセキュリティ信号が生成されるエンタープライズセキュリティ環境で動作するように設計されています。

エージェントは、構造化された入力 (インシデント ID、脅威インテリジェンス記事、サブスクリプションコンテキストAzureなど) を受け取り、定義されたタスクを実行し、構造化された出力を生成します。マルチエージェントプレイブックでは、各エージェントの出力が次のエージェントに入力として渡され、シーケンス全体で段階的な絞り込みを有効にすることができます。

出力には次のものが含まれます。

役員の概要、調査結果、およびランク付けされた推奨事項を含む構造化されたレポート
攻撃グラフの視覚化とタイムライン
KQL 検出ルールとハンティングクエリ
理由と信頼度レベルを伴う、証拠に基づく判定
影響を受けるエンティティ、IOC、修復アクションの一覧

セッションでは、プロセスログに中間ステップとエージェントの推論が表示され、ユーザーはエージェントの進行状況とソースを確認できます。ユーザーはいつでもセッションを停止できます。承認ゲートを含むセッションの場合、エージェントはユーザー入力を一時停止して待機してから、影響の大きいアクションに進みます。

制限事項

Perception が効果的かつ責任を持って使用されるようにするには、Perception の制限事項を理解することが重要です。 Perception はセキュリティワークフローを強化しますが、すべてのシナリオ向けに設計されているわけではありません。ユースケースを選択する場合は、Microsoft Enterprise AI Services の行動規範と次の考慮事項を参照してください。

正確性と完全性: エージェントは、不正確、不完全、または古い応答を生成できます。出力品質は、実行時に使用可能なデータソース、管理者がエージェントに付与するアクセス許可、および提供される入力の品質によって異なります。人間の判断を適用し、それらに対処する前に重要な出力を検証します。
ドメイン固有のスコープ: Perception は、脅威インテリジェンス分析、インシデント調査、攻撃パスマッピング、検出作成などのセキュリティ関連のタスク用に最適化されています。このドメイン外の入力により、出力の精度が低下したり、関連性が低下したりする可能性があります。
データソースの依存関係: エージェントの出力は、接続されたMicrosoft Defender サービスやエージェントの構成されたアクセス許可など、使用可能なデータに基づいている。関連するデータソースが利用できない、有効になっていない、または最新の状態ではない場合、結果が不完全または不正確になる可能性があります。
エージェントのセットアップが必要: エージェントを使用するには、適切な ID とアクセス許可を使用して構成する必要があります。未構成のエージェントを含むプレイブックは、必要なすべてのエージェントが設定されるまで使用できません。
Azure環境スコープ: Recon エージェントは、Azure環境を分析します。対象範囲は、エージェントの構成済み ID に表示されるAzureサブスクリプションとリソースに限定されます。エージェントのアクセス許可スコープ外のリソースは分析されません。
読み取り専用偵察: 偵察エージェントは読み取り専用モードで動作します。分析するリソースの変更、悪用、操作は行われません。その出力は、自動修復ではなく、評価と推奨事項です。
承認ゲートと人間による監視: 一部のエージェントアクションでは、エージェントが続行する前に管理者またはユーザーの承認が必要です。この設計は意図的なものです。影響の大きいアクションは、実行前に人間が確認する必要があります。
タスク固有のエージェント境界: 各エージェントは、特定のタスク用に設計されています。エージェントは、定義されたスコープ外のタスクには適していません。また、意図したユースケースを超えて再利用しないでください。
プレビューの状態: Perception の一部の機能はプレビュー段階にある可能性があります。プレビュー機能はプレリリース機能として扱う必要があり、アクションを実行する前に出力を確認する必要があります。
バイアス、ステレオタイピング、および固定されていないコンテンツ: 責任ある AI 制御の実装にもかかわらず、AI サービスは確率論的です。これにより、不適切なすべてのコンテンツを包括的にブロックすることが困難になり、AI によって生成された出力で潜在的な偏り、ステレオタイプ、または固定されていないコンテンツにつながる可能性があります。

Evaluations

パフォーマンスと安全性の評価では、有害なコンテンツを生成するリスクを特定しながら、根拠、関連性、一貫性などの要因を調べることで、AI アプリケーションが確実かつ安全に動作しているかどうかを評価します。次の評価は、安全コンポーネントが既に配置されている状態で行われました。また、「安全コンポーネントと軽減策」セクションにも記載されています。

品質と安全性に関する評価データ

評価データは、安全性と品質の重要な領域で AI アプリケーションのパフォーマンスを評価し、実際のシナリオとリスクをシミュレートするためにカスタム構築されています。 Microsoftは、多分野にわたる研究と専門家の意見に基づいて、関連する評価の側面を識別します。これらの側面は、対象となる評価目標に変換され、評価メトリックの策定をガイドします。

安全のために、Microsoftは望ましくない応答またはエッジケース応答を引き出す敵対的なプロンプトを作成し、その後、Microsoftの安全基準との整合性を評価するためにトレーニングされた AI 支援アノテーターを使用してスコア付けされます。品質向上のために、Microsoft は、取得拡張生成 (RAG) アプリケーションやエージェントの評価を含むシナリオに関連するルーブリックベースのプロンプトを作成しています。

データセットは、実際のユーザーシナリオをシミュレートするために、合成データセットやパブリックデータセットなど、さまざまなソースからキュレーションされます。どちらの評価も、メトリックの有効性と信頼性を向上させるために、反復的な改良と人間のアラインメントを受けています。

カスタム評価

カスタム評価では、回帰テスト、精選されたプロンプトデータセット、運用に合わせた例を使用して、接地、敵対的堅牢性、有害なコンテンツシナリオにおけるモデルのパフォーマンスを検証します。評価では、根拠を評価し、脱獄、迅速な注入、知的財産違反に対する保護を検証します。

認識エージェントは、顧客から得たユースケースと設計に関するインプットを用いて、製品チームおよび研究チームによって評価されました。エージェントシステムのセキュリティは、専用のレッドチーム演習を通じて評価されました。 .

ユーザーフィードバックは、Microsoft によるシステムの改善に不可欠です。ユーザーは、セッションビュー内からエージェントの応答に関するフィードバックを提供できます。このフィードバックはMicrosoftに直接送信され、継続的な反復的な改良によってプラットフォームのパフォーマンスを向上させるために使用されます。

安全コンポーネントと軽減策

Microsoft、赤いチームテストなどのプロセスを通じて潜在的なリスクと誤用のシナリオを特定し、損害の可能性を減らすための軽減策を開発しました。 Microsoftは、製品のパフォーマンスと軽減策を向上させるために、引き続き Perception を評価します。次の一覧では、これらの軽減策の一部について説明します。

有害なコンテンツフィルタリング: Perception は、Azure OpenAI Service基盤の一部として、Microsoft開発されたガードレールと不正使用検出モデルを統合します。これらのモデルは、複数の重大度レベルで、ヘイト、性的コンテンツ、暴力、自傷行為などのカテゴリの有害なコンテンツを検出してフィルター処理します。
責任ある AI チェック: すべてのエージェント出力は、返される前に、責任ある AI フィルターを含む後処理チェックを通過します。これらのチェックでは、安全性、精度、および適切性について出力が評価されます。
承認ゲート: 影響の大きいエージェントアクションでは、エージェントが続行する前に、ユーザーまたは管理者からの明示的な承認が必要です。これにより、人間は結果的な決定を制御し続けられます。
最小特権 ID: エージェントは、タスクに必要な最小限のアクセス許可をスコープとする構成済みの ID で動作します。管理者はセットアップ時にエージェント ID を選択し、ID によってエージェントがアクセスできるデータとシステムが決まります。
読み取り専用偵察: 偵察エージェントは、動作せずに分析するように設計されています。調査するリソースの変更、悪用、操作は行わないため、意図しない影響の可能性が制限されます。
セッションの不変性: セッションレコードは不変です。エージェントの作業をさかのぼって変更することはできません。すべてのエージェント操作に信頼性の高い監査証跡が提供されます。
ユーザーコントロール: ユーザーはいつでも進行中のセッションを停止できます。マルチエージェントプレイブックの場合、ユーザーは承認ゲートでエージェントアクションを拒否し、別のガイダンスを提供できます。これらのコントロールにより、エージェントが意図しない方向に向かっているときに、人間が介入できるようになります。

人間による監視

Perception は、エージェントが大量の時間を要するタスクを自動化できるようにしながら、人間が派生的な決定を制御できるように設計されています。人間の監視は、複数のレベルでシステムに組み込まれています。

承認ゲート: 影響の大きいアクションを実行する前に、承認を一時停止して要求するようにエージェントを構成できます。ユーザーまたは管理者は提案されたアクションを確認し、エージェントを承認、拒否、またはリダイレクトできます。
セッションの監督: ユーザーは、Perception Sessions ビューを使用して進行中のセッションを監視できます。このビューには、各エージェントの実行内容、生成された内容、入力を待機しているかどうかが表示されます。
コントロールの停止: ユーザーは進行中のセッションを停止できます。セッションを停止すると、セッション内のすべてのアクティブなエージェントタスクが終了します。
透過的な推論: エージェントは、セッションビュー内のプロセスログに推論を表示します。ユーザーは、エージェントが実行した手順、アクセスしたデータ、およびそれに達した結論を確認できます。
ロールベースのアクセス制御: 管理者は、エージェントごとにロールベースのアクセス制御を構成し、エージェントを実行できるユーザー、セッションの結果を表示できるユーザー、エージェント設定を構成できるユーザーを制御します。これにより、エージェント機能へのアクセスが組織のセキュリティポリシーと一致することが保証されます。

データのプライバシーとセキュリティ

Perception は、Microsoftのデータプライバシーとセキュリティ標準に従ってデータを処理します。

テナントの分離: すべてのエージェントセッションは、組織のテナント境界内で動作します。セッションデータはテナント間で共有されません。
顧客データ: プロンプト、セッションコンテンツ、エージェントの出力は顧客データとして扱われ、基盤モデルのトレーニングには使用されません。
エージェント ID とアクセス許可: エージェントは、管理者が構成する ID とアクセス許可を介してのみデータにアクセスします。エージェントは、構成されたスコープ外のリソースにアクセスできません。
監査証跡: セッションは、すべてのエージェントアクティビティ、入力、出力をログに記録する不変のレコードです。これらのレコードは、セキュリティ監査とコンプライアンスレビューをサポートします。

評価場所の即時確認

プロンプト評価の場所は、GPU リソースを使用してプロンプトを処理する場所を決定します。ユーザーがプロンプトを送信すると、Perception は、Azure データセンター内の GPU クラスターで評価します。この設定は、自動プロビジョニング中に事前に選択されます。

テナントの Customer Data Storage の場所が EU 内にある場合、プロンプトは EU で処理されます。
テナントの Customer Data Storage の場所が EU にない場合、プロンプトは、地域と GPU の可用性に応じて、米国、英国、EU、オーストラリア、ニュージーランドでグローバルに処理されます。

Microsoftのデータ処理プラクティスの詳細については、「Microsoftプライバシーに関する声明」および「Microsoft セキュリティセンター」を参照してください。

Project Perception のデプロイと導入に関するベストプラクティス

責任ある AI は、Microsoft とその顧客との間で共有されるコミットメントです。 Microsoft は、安全性、公平性、透明性を中心に AI アプリケーションとプラットフォームサービスを構築していますが、お客様は、これらのテクノロジを独自のコンテキスト内で責任を持ってデプロイおよび使用する上で重要な役割を果たします。このパートナーシップをサポートするために、デプロイ者とエンドユーザーが責任ある AI を効果的に実装できるように、次のベストプラクティスを提供します。

デプロイ担当者とエンドユーザーは、次の手順を実行する必要があります。

派生的な決定や機密性の高い分野で Perception を使用する場合は、注意を払い、結果を評価します。結果的な決定とは、教育、雇用、金融プラットフォーム、政府のベネフィット、医療、住宅、保険、法的プラットフォームへのアクセスに法的または重大な影響を与える可能性のあるもの、または物理的、精神的、または財政的損害を生じる可能性のあるものです。金融プラットフォーム、医療、住宅などの機密性の高いドメインでは、さまざまなグループに不釣り合いな影響を与える可能性があるため、特に注意が必要です。これらの分野の意思決定に AI を使用する場合は、影響を受けた利害関係者が意思決定の方法を理解し、意思決定をアピールし、関連する入力データを更新できることを確認します。
法的および規制に関する考慮事項を評価する: お客様は、AI プラットフォームとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界またはシナリオでの使用に適していない可能性があります。さらに、AI プラットフォームまたはソリューションは、該当するサービス条件および関連する行動規範で禁止されている方法で設計されておらず、使用されない場合があります。
サポートされているセキュリティシナリオでのみ Perception を使用し、明確な入力を提供します。Perception エージェントは、目的の用途に関するセクションで説明されているセキュリティタスク用に設計されています。定義されたスコープ外の決定やアクションのためにエージェントを再利用しないでください。インシデント、脅威インテリジェンスに関する記事、Azure サブスクリプション、時間範囲などの関連コンテキストを提供し、セキュリティの目標とエージェントが従う必要がある制限を示します。
必要に応じて人間の監視を実行する: 人間の監視は、AI アプリケーションと対話するときの重要なセーフガードです。 AI アプリケーションを継続的に改善する一方で、AI は間違いを引き続き犯す可能性があります。生成される出力は、不正確、不完全、バイアス、ずれ、または目的の目標とは無関係である可能性があります。これは、入力のあいまいさや基になるモデルの制限など、さまざまな理由が原因で発生する可能性があります。そのため、ユーザーは Perception によって生成された応答を確認し、期待と要件に一致することを確認する必要があります。
過剰な依存のリスクに注意してください。AI への過剰な依存は、ユーザーが誤った AI 出力または不完全な AI 出力を受け入れた場合に発生します。これは、主に、AI 出力の間違いを検出するのが難しい可能性があるためです。エンドユーザーの場合、過度の依存により、生産性の低下、信頼の喪失、アプリケーションの破棄、財務上の損失、心理的損害、身体的危害などが生じる可能性があります。 (たとえば、医師が不適切な AI 出力を受け入れる)。 Perception では、過度の依存により、脅威の見落とされ、誤ったインシデントの結論、無効な検出ルール、または間違ったリソースの修復が発生する可能性があります。
機密性の高いドメインでエージェント AI を設計する場合は注意が必要です。ユーザーは、エージェントアクションが元に戻せない、または結果が大きい機密ドメインにエージェント AI アプリケーションを設計またはデプロイするときは注意する必要があります。詳細については、「Microsoftエンタープライズ AI サービスの行動基準 (組織向け)」または「Microsoft サービス規約 (個人向け)」の「行動規範」セクションで説明されているように、自律エージェント AI を作成する際にも追加の予防措置を講じる必要があります。 Perception で、承認ゲートで提案されたアクションを確認し、エージェントの推論または出力が意図した目標と一致しない場合にセッションを停止またはリダイレクトします。
Perception を慎重に構成、テスト、監視する: 各エージェントに、定義されたタスクに必要なデータとアクションにのみアクセス権を付与します。広範な展開の前に、代表的なシナリオでプレイブックをテストし、承認ゲートとユーザーコントロールが期待どおりに動作することを確認します。自律性を段階的に導入し、エージェントの制限についてユーザーをトレーニングし、セッションレコード、フィードバック、およびセキュリティの結果の品質や動作の変化を定期的に確認します。
問題が発生したときにフィードバックを提供する: Microsoftは、顧客のフィードバックと運用データに基づいて継続的に Perception を向上させます。エージェントのパフォーマンスに関するフィードバックを提供したり、予期しない動作を報告したりするには、エージェントの作業が完了した後にセッションビューで使用できるフィードバックコントロールを使用します。

Project Perception の詳細

追加のガイダンスや、Project Perception の責任ある使用の詳細については、次のドキュメントを確認することをお勧めします。

責任ある AI の詳細を確認する

フィードバック

このページはお役に立ちましたか?

最終更新: 2026-08-19