注:
この記事で紹介する機能は 標準ハーネス を基盤としており、標準ハーネスを利用するエージェントのライセンス で説明されている請求オプションを使用します。 Access標準エージェントおよびエージェントフローで標準機能にアクセスする方法を学びましょう。
アイデンティティ設定と、複数のエンティティのうちの 1 つという構成が強調表示された質問ノードのスクリーンショット。
注:
コンピューターを使用するエージェントは、スクリーンショット、Webページ、またはその他の入力の非表示の指示が意図しない方法でアクションに影響を与えようとする、プロンプトインジェクション攻撃に遭遇する可能性があります。 このリスクを最小限に抑えるには、信頼された分離された環境内でこれらのエージェントを操作し、手順を実行する前に堅牢な検証チェックを適用します。
モデルごとの機能サポート
以下の表は、人間の監督機能をサポートするモデルを示しています。
| モデルプロバイダー | バージョン | 地位 | 人間の監督を支援 |
|---|---|---|---|
| Azure OpenAI | エージェントV1を使用するOpenAIコンピュータ | 退役 | はい |
| Azure OpenAI | コンピュータ使用エージェント (CUA) | Active | はい |
| Anthropic | クロード・ソネット 4.5 | Active | はい |
エージェントの操作とコンピューター使用のアクティビティを確認する
実行中に、コンピュータを使用するエージェントが確認や追加情報が必要な場合、Outlookメールを通じて設定済みの人間レビュアーにレビューリクエストを送信できます。 また、 高度なコンピュータ使用アクティビティパネルにインラインのレビューカードを表示することもできます。
確率的なAIモデルの挙動が人間のレビューリクエストをトリガーします。 この動作により、モデルがすべての人が一時停止を望む状況でこれらのリクエストをトリガーしないか、また一時停止が不要な場合でもこれらのリクエストをトリガーする可能性があることを意味する。 人間のレビューや説明の依頼をフェイルセーフや、システムが必ず人間の意見を求めてから進める保証として頼らないでください。
注:
- コンピュータ利用ツールの開発者のみが人間のレビュー依頼を受け取り、 高度なコンピュータ利用アクティビティパネルを通じて詳細なログにアクセスできます。 マシン設定で エンドユーザー認証 情報を選択すると、接続を設定した人がこれらのリクエストを受け取りますが、指定された人間のレビュアーの一人として含まれている場合に限ります。
- エージェントのアクティビティマップ内のコンピュータ使用エージェント活動サイドパネルで人間のレビューリクエストをオンラインで確認するには、環境で 高度なコンピュータ使用ログ を有効にする必要があります。 高度なコンピューター操作アクティビティ エクスペリエンスがアクティビティ マップに表示されない場合は、管理者が環境に対してこの機能をオフにしている可能性があります。
次の表は、ヒューマン レビュー メール要求に含まれる主な情報を示しています。
| フィールド | Description |
|---|---|
| ツールを使用するエージェント | Copilot Studio エージェントの名前。 |
| コンピューター操作ツール | 要求をトリガーしたコンピューター操作ツールの名前。 |
| 会話 | コンピューターの使用ツールが現在実行されているエージェント活動へのディープリンク。 |
| 要求タイムアウト | リクエストのタイムアウト日時 |
| 要求者 | コンピューター操作ツールの作成者 (接続所有者)。 |
| 不足している情報を指定する | コンピューター使用ツールに送信する応答のテキスト ボックス。 |
| 送信 | 入力したテキスト応答を送信するボタン。 確認リクエストの場合は「 Yes 」と入力して確認 し、No と入力して拒否してください。 |
人間のレビュー要求に対応する
人間によるレビュー要求に応答するには、エージェントのアクティビティ マップのコンピューター使用アクティビティ パネルを使用して 、電子メール または インライン で応答できます。 インライン応答には、環境で高度なコンピューター使用のログ記録が有効になっている必要があります。 どちらの場合も、応答を提供しない場合、ワークフローは一時停止したままになり、電子メールで指定されたタイムアウトに達すると自動的に停止します。
Important
人間の監督システムは、確率論的 AI モデルの動作に基づいています。 システムにはシステム プロンプトやその他の制約が含まれていますが、不要な明確化要求が生成されることがあります。 予期された場合にトリガーできない場合や、特定のコンテキストで提供すべきでない情報 (潜在的な機密情報など) を要求する場合があります。
したがって、審査員は人間の監督依頼に対応する際には判断を下し、ユーザー名、パスワード、PINコード、クレジットカード情報、社会保障番号などの機密情報を提出すべきではありません。 組織の設定によっては、人間のレビュー要求への応答がDataverse環境やPurview監査ログに残り、組織内の認可ユーザーに見られる場合があります。
電子メールで応答する
ヒューマン レビュー要求メールには、エージェント、ツール、会話に関する詳細と、要求されている特定の情報または明確化が含まれます。 要求を慎重に確認して、応答するのに十分な情報があるかどうかを判断します。 必要に応じて、指定されたテキスト フィールドに応答を入力し、[ 送信] を選択します。
インラインで応答する
- ヒューマン レビュー要求メールの [会話 ] リンクを選択して、エージェントのアクティビティ マップを開きます。
- 構成されているコンピューター使用ツールに一致するコンピューター使用アクションを見つけて、そのサイド パネルを開きます。
- サイド パネルの活動セクションで、アクティビティの一覧を確認します。 人間のレビューを待っているアクティビティは、モデルの応答の横に待機インジケーターでマークされます。
- 要求を慎重に確認し、応答するのに十分な情報があるかどうかを判断します。 必要に応じて、指定されたテキスト フィールドに応答を入力し、[ 送信] を選択します。
人間の監督をオフにしてください
Important
人間の監督をオフにしても、コンピュータを使うエージェントが完全に自律的になるわけではありません。 担当者は確認や説明が必要なときに一時停止します。 レビュアーが設定されていなければ、これらのリクエストはルーティング先がなく、エージェントが一時停止するとセッションは失敗します。 少なくとも1人のレビュアーを設定しましょう。
人間の監督を停止するには、コンピュータ使用ツールの「人間の監督」セクションにアクセスし、「 割り当てリクエストリスト 」からすべてのレビュアーを削除してください。