次の方法で共有


生成型 AI の相互作用を検出する通信コンプライアンス ポリシーを構成する

重要

Microsoft Purview コミュニケーション コンプライアンスは、組織が規制コンプライアンス (SEC や FINRA など) や機密情報、嫌がらせや脅迫的な言語、成人向けコンテンツの共有などのビジネス行為違反を検出するのに役立つツールを提供します。 コミュニケーション コンプライアンスは、設計上プライバシーを使用して構築されています。 ユーザー名は既定で仮名化され、ロールベースのアクセス制御が組み込まれており、調査担当者は管理者によってオプトインされ、監査ログはユーザーレベルのプライバシーを確保するために用意されています。

コミュニケーション コンプライアンスを使用すると、対話 (プロンプトと応答) を分析して、多数の生成的な AI アプリケーションに入力された不適切または危険な相互作用や機密情報の共有を検出できます。

これには、Microsoft 365 CopilotMicrosoft Copilot Studioを使用して構築された Copilots、Microsoft Entra または Microsoft Purview データ マップ コネクタによって接続された AI アプリケーションなどが含まれます

ヒント

Microsoft Security Copilot の使用を開始して、AI の力を使用して、よりスマートかつ迅速に作業するための新しい方法を発見しましょう。 Microsoft Purview の Microsoft Security Copilot に関する詳細情報をご覧ください。

Microsoft Copilotエクスペリエンス

重要

Microsoft 365 以外の AI データに対して不適切または危険な操作を検出するには、organizationで従量課金制課金を有効にする必要があります。 Microsoft 365 以外の AI データには、Microsoft や他の接続された外部 AI アプリケーションからの他の生成 AI アプリケーションからの情報が含まれます。 このデータ型には、Microsoft Fabric の CopilotMicrosoft Security CopilotMicrosoft Copilot Studio、接続済みまたはクラウド AI アプリケーションが含まれます。 Microsoft 365 で、Microsoft 365 Copilotデータに対して不適切または危険な操作が検出された場合、従量課金制の課金要件や料金はありません。

通信コンプライアンスは、IPM を使用した任意のメッセージ内の相互作用を検出できます。SkypeTeams.Message.Copilot。アプリケーション 項目クラス。 これには、Teams、Outlook などの Microsoft ソリューションの Copilot アプリケーションなどがあります。

たとえば、通信コンプライアンスは、IPM を使用して Copilot メッセージ内の相互作用を検出します。SkypeTeams.Message.Copilot.Teams、IPM。SkypeTeams.Message.Copilot.Outlook アイテム クラスなど

接続されたジェネレーティブ AI アプリケーション

重要

接続されたジェネレーティブ AI アプリケーションに対して不適切または危険な相互作用を検出するには、organizationで従量課金制課金を有効にする必要があります。

コミュニケーション コンプライアンスは、Copilot 以外の AI アプリケーションとのプロンプトと応答の相互作用を検出できます。 これらは、Microsoft EntraコネクタとMicrosoft Purview データ マップコネクタを使用して接続された生成型 AI アプリケーションです。

その他の AI アプリケーション

重要

その他の AI アプリケーションに対して不適切または危険な相互作用を検出するには、organizationで従量課金制課金を有効にする必要があります。

通信コンプライアンスでは、ブラウザーから AI アプリケーションとの対話や、organization内のユーザーによるネットワーク アクティビティを検出することもできます。 これにより、不適切または危険なやり取りを検出したり、organizationの外部で AI アプリケーションに入力された機密情報を共有したりできます。

前提条件

コミュニケーション コンプライアンスで Copilot の相互作用を調査するには、次のいずれかのロールが割り当てられている必要があります。

  • コミュニケーション コンプライアンス
  • コミュニケーション コンプライアンス調査員
  • コミュニケーション コンプライアンス アナリスト

また、ポリシーの作成時に [ レビュー担当者 ] フィールドでポリシーの レビュー担当者 として割り当てる必要があります。

メカニズム

重要

Microsoft は、人工知能 (AI) システムが責任を持って開発され、人々の信頼を保証する方法で開発されることを保証することに取り組んでいます。 このコミットメントの一環として、Microsoft Purview エンジニアリング チームは、AI ソリューションを設計、構築、管理するための Microsoft の責任ある AI 戦略の 6 つのコア 原則を運用しています。 責任を持って AI をデプロイする取り組みの一環として、組織が責任を持って AI システムを使用できるように、ドキュメント、ロールベースのアクセス、シナリオ構成証明などを提供します。

Microsoft 365 CopilotとMicrosoft 365 Copilot Chatの相互作用を検出するコミュニケーション コンプライアンス ポリシーを作成するときに、すべてのコミュニケーション コンプライアンス機能を利用できます。

通信コンプライアンス ポリシーに一致するサポートされている生成 AI アプリに入力されたプロンプトまたは応答は、[保留中] タブの [ポリシー] ページにポリシー一致として表示され、プロンプトと応答に対して個別のエントリが表示されます。 プロンプトのみ、または応答のみがポリシーと一致する場合は、そのポリシーの一致に対してのみ [ 保留中 ] タブに項目が作成されます。 他のポリシーの一致を修復するのと同じ方法で、生成型 AI アプリのポリシーの一致を修復できます。

AI ポリシーの一致の [ 保留中 ] タブの各項目に対して、次の情報が表示されます。

  • アイコン: Copilot アイコンは、ポリシーの一致を、Microsoft ベースの Copilot との生成的な AI 相互作用として識別します。他のすべての生成的な AI 操作の場合、これは電子メール アイコンです。
  • 件名列: この列の [Copilot] の値は、ポリシーの一致を、Microsoft ベースの Copilots との生成的 AI 相互作用として識別します。 この列の [AI アプリ] の値は、他のすべての生成 AI 相互作用に対するポリシーの一致を識別します。
  • [送信者] 列: メッセージの送信者。 ソース AI アプリケーションに応じて、送信者は次のように一覧表示されます。
    • ポリシーの一致が Copilot アプリケーションからの応答である場合、値は Copilot です。
    • ポリシーの一致が接続済み AI アプリケーションからの応答である場合、値は [接続済み AI アプリ] です。
    • ポリシーの一致がクラウド AI アプリケーションからの応答である場合、値は Cloud AI アプリです。
  • 受信者列: メッセージに含まれる受信者。 この値は、AI アプリケーションと対話しているユーザーです。
  • メッセージ テキスト: ユーザーが入力したメッセージ テキスト (ポリシーの一致の原因となったテキスト) は、画面の右側に完全に表示されます。

Microsoft Copilot操作を検出するポリシーを作成する

  1. Microsoft 365 organizationの管理者アカウントの資格情報を使用して、Microsoft Purview ポータルにサインインします。
  2. コミュニケーション コンプライアンス ソリューションに移動します。
  3. 左側のナビゲーションで [ ポリシー] を選択します。
  4. [ポリシーの作成] を選択し、[Microsoft Copilot操作の検出] テンプレートを選択します。
  5. ポリシー名を入力し、ポリシーを適用するユーザーとグループを選択し、ポリシーのレビュー担当者を選択します。 テンプレートからポリシーを作成するときのこれらのオプションの詳細
  6. テンプレートに基づいて選択した設定の一覧を確認し、[ポリシーの 作成 ] を選択してポリシーを作成するか、ポリシーを作成する前に変更を加える場合は [ ポリシーのカスタマイズ ] を選択します。

既存のポリシーの場所として生成 AI アプリを追加する

  1. Microsoft 365 organizationの管理者アカウントの資格情報を使用して、Microsoft Purview ポータルにサインインします。

  2. コミュニケーション コンプライアンス ソリューションに移動します。

  3. 左側のナビゲーションで [ ポリシー] を選択します。

  4. 変更するポリシーの行で [ その他のアクション ] (省略記号) を選択し、[編集] を選択 します

  5. ポリシー作成ワークフローで [ 次へ ] を 2 回選択し 、[通信を検出する場所の選択] ページに 移動します。

  6. 次の 1 つ以上のチェック ボックスをオンにして、生成型 AI アプリケーションを場所として追加します。

    • Microsoft Copilotエクスペリエンス
    • エンタープライズ AI アプリ
    • その他の AI アプリ
  7. ポリシーに他の変更を加え、[ 確認と完了 ] ページで [保存] を選択 します

生成的 AI のすべての相互作用を確認するポリシーを作成する

生成的な AI 操作を初めて使用する場合は、すべての AI 操作を確認して、organizationのユーザーがこれらのアプリケーションをどのように使用しているかを確認できます。 生成的 AI のすべての相互作用を確認するポリシーを作成するには、ポリシーを作成または編集するときに次のようにします。

  • 場所が、すべての生成 AI アプリケーションを含むように設定されていることを確認します。

    • Microsoft Copilotエクスペリエンス
    • エンタープライズ AI アプリ
    • その他の AI アプリ
  • [条件とレビュー率の選択] ページの [レビュー率] オプションが 100% に設定されていることを確認します。

  • ポリシーの条件を設定しないでください。

注:

organizationのサイズによっては、すべての生成 AI 操作を検出するポリシーによって大量のメッセージが検出され、organizationがストレージ制限に達する可能性があります。 その場合は、検出の数を減らすためにポリシーを調整する必要がある場合があります。

生成的 AI の相互作用を含むポリシーの一致とアラートを修復する

通信コンプライアンスでポリシーの一致またはアラートを修復するのと同じ方法で、生成的な AI 操作を含むポリシーの一致とアラートを修復できます。 たとえば、ポリシーの一致にタグを付けたり、エスカレートしたり、解決したり、ダウンロードしたり、エクスポートしたりできます。 通信コンプライアンスでのポリシーの一致とアラートの解決について詳しくは、こちらをご覧ください

レポート

コミュニケーション コンプライアンス ポリシーのスコープに取り込まれた AI 対話は、コミュニケーション コンプライアンス レポートと監査データに表示されます。 コミュニケーション コンプライアンス レポートと監査の詳細については、こちらをご覧ください

関連項目