AI によって生成され、AI で処理されたデータを保護する
Contoso が AI を利用するサービスを導入すると、AI の相互作用によって機密情報がどのように使用、生成、公開されるかに関する新しいリスクが生じます。 セキュリティ チームは、AI ツールがデータを安全に処理し、保護を一貫して適用し、機密性の高いコンテンツが悪用されないようにする必要があります。
AI サービスによって導入されるリスク
AI ツールは効率を向上させるだけでなく、新しい露出リスクも生み出します。
- 機密情報は、AI によって生成された応答に表示される場合があります。
- AI モデルに送信されたプロンプトには、機密データや機密データが含まれる場合があります。
- AI によって生成されたコンテンツは、適切な制御なしで共有、保存、または使用される場合があります。
セキュリティ ポリシーでは、意図しない漏えいを防ぐために、AI サービスが入力データと出力データの両方を処理する方法に対処する必要があります。
AI 対話のための Microsoft Purview 保護
Microsoft Purview には、AI サービスに拡張される保護制御が含まれています。
- AI サービスのデータ損失防止 (DLP): DLP ポリシーは、サポートされている AI サービスに送信されたプロンプトと応答を評価し、機密情報の漏洩を防ぐために保護を適用できます。
- 秘密度ラベルと暗号化: Microsoft 365 サービスに格納されている AI によって生成されたコンテンツは、機密ラベルを継承して暗号化を適用できるため、処理後もデータが保護されたままになります。
- インサイダー リスク管理: ポリシーは、機密データをパブリックまたはアンマネージド AI ツールに送信するなど、AI サービスを含む危険なアクティビティを監視できます。
これらの保護を AI の相互作用に拡張することで、Contoso は、AI ツールが日常的なワークフローの一部になっても機密情報を保護し続けます。