Использование Microsoft Purview для управления безопасностью данных & соответствие требованиям для других приложений ИИ

Описание службы Microsoft Purview

Используйте следующие разделы, чтобы определить возможности Microsoft Purview, поддерживаемые для взаимодействия с ИИ , которые используют браузер для сторонних сайтов ИИ, и некоторые рекомендации по началу работы для управления этими взаимодействиями СИ для обеспечения безопасности и соответствия требованиям.

Управление взаимодействием с ИИ с Microsoft Purview требует включения выставления счетов с оплатой по мере использования в вашей организации.

Поддерживаемые возможности

Используйте следующую таблицу, чтобы ознакомиться с возможностями Microsoft Purview, поддерживаемыми для сторонних сайтов ИИ, таких как ChatGPT, Google Gemini и DeepSeek.

Если не указано для конкретных решений, список поддерживаемых сайтов ИИ совпадает с теми, которые поддерживаются для DSPM для ИИ: список сайтов ИИ, поддерживаемых Управление состоянием безопасности данных для ИИ Microsoft Purview.

Возможности или решение в Microsoft Purview	Поддерживается взаимодействие с ИИ
DSPM для ИИ (классическая версия) и DSPM (предварительная версия)	✓
Аудит	✓
Классификация данных	✓
Метки конфиденциальности	✕
Шифрование без меток конфиденциальности	✕
Защита от потери данных	✓
Управление внутренними рисками	✓
Соответствие требованиям к обмену данными	✓
Обнаружение электронных данных	✓
Управление жизненным циклом данных	✓
Диспетчер соответствия требованиям	✓

Для большинства поддерживаемых возможностей и решений требуется расширение браузера Microsoft Purview и устройства, подключенные к Microsoft Purview. Ниже приведены исключения с собственными предварительными условиями:

• Безопасность сетевых данных для обнаружения типов конфиденциальной информации на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.
• Безопасность данных браузера для обнаружения типов конфиденциальной информации на уровне браузера Edge с помощью прямой интеграции из Purview с браузером Edge.

DSPM для ИИ (классическая версия) и DSPM (предварительная версия)

Используйте Управление состоянием безопасности данных для ИИ (классическую версию) или Управление состоянием безопасности данных (предварительная версия) в качестве входной двери для обнаружения, защиты и применения элементов управления соответствием требованиям для использования ИИ в организации. Обе версии DSPM используют существующие элементы управления из Microsoft Purview для защиты информации и управления соответствием требованиям с помощью простых в использовании графических инструментов и отчетов, чтобы быстро получить аналитические сведения об использовании ИИ в организации. Персонализированные рекомендации и политики одним щелчком помогут защитить данные и обеспечить соответствие нормативным требованиям.

Сведения, относящиеся к приложению ИИ:

• Раздел Приступая к работе на странице Обзор содержит необходимые шаги и сведения для установки расширения браузера Microsoft Purview и процесса подключения устройств.

• Рекомендация . Получите интерактивную помощь по нормативным требованиям ИИ, в котором используются нормативные шаблоны для сопоставления элементов управления из диспетчера соответствия требованиям.

• Доступные политики одним щелчком :

  • DSPM для ИИ: обнаружение конфиденциальных сведений, добавленных на сайты ИИ, из действия рекомендации или исправления Расширение аналитических сведений для обнаружения данных
  • DSPM для ИИ. Обнаружение посещений пользователями сайтов ИИ с помощью рекомендации или действия по исправлению Расширение аналитических сведений для обнаружения данных
  • DSPM для ИИ. Обнаружение конфиденциальной информации, к которой предоставлен доступ в запросах ИИ в Edge, из действия рекомендации или исправления Расширение аналитических сведений для обнаружения данных
  • DSPM для ИИ. Обнаружение конфиденциальной информации, совместно используемой ИИ через сеть, из действия рекомендации или исправления Расширьте аналитические сведения о конфиденциальных данных во взаимодействии с приложениями ИИ.

Аудит и взаимодействие СИ

решения Аудит Microsoft Purview предоставляют комплексные средства для поиска и управления записями аудита действий, выполняемых пользователями и администраторами в различных службах Майкрософт, а также помогают организациям эффективно реагировать на события безопасности, судебно-медицинские расследования, внутренние расследования и обязательства по обеспечению соответствия требованиям.

Как и другие действия, запросы и ответы записываются в единый журнал аудита. События включают, как и когда пользователи взаимодействуют с приложением ИИ, а также могут включать в себя, в какой службе Microsoft 365 произошло действие, а также ссылки на файлы, хранящиеся в Microsoft 365, которые были доступны во время взаимодействия. Если к этим файлам применена метка конфиденциальности, она также записывается.

Эти события передаются в обозреватель действий в DSPM для ИИ и вкладку действия ИИ в обозревателе действий из предварительной версии DSPM, где можно отображать данные из запросов и ответов. Вы также можете использовать решение аудит на портале Microsoft Purview для поиска и поиска этих событий аудита.

Дополнительные сведения см. в разделе Журналы аудита для действий Copilot и ИИ.

Сведения, относящиеся к приложению ИИ:

• Используйте безопасность сетевых данных для аудита запросов и ответов на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.

Классификация данных и взаимодействие СИ

Классификация данных Microsoft Purview предоставляет комплексную платформу для идентификации и маркировки конфиденциальных данных в различных службах Майкрософт, включая Office 365, Dynamics 365 и Azure. Классификация данных часто является первым шагом для обеспечения соблюдения правил защиты данных и защиты от несанкционированного доступа, изменения или уничтожения. Вы можете использовать встроенные системные классификации или создать собственные.

Типы конфиденциальной информации и обучаемые классификаторы можно использовать для поиска конфиденциальных данных в запросах и ответах пользователей при использовании приложений ИИ. Затем полученные сведения отображаются в обзоре отчетов Microsoft Purview и обозревателе действий в DSPM для ИИ и на вкладке действия ИИ в обозревателе действий из предварительной версии DSPM.

Сведения, относящиеся к приложению ИИ:

• Используйте защиту сетевых данных для обнаружения типов конфиденциальной информации на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.
• Используйте защиту данных браузера для обнаружения типов конфиденциальной информации на уровне браузера Edge, используя прямую интеграцию из Purview в браузер Edge.

Защита от потери данных и взаимодействие СИ

Защита от потери данных Microsoft Purview (DLP) помогает выявлять конфиденциальные элементы в службах и конечных точках Microsoft 365, отслеживать их и защищать от утечки этих элементов. Он использует глубокую проверку содержимого и контекстный анализ для выявления конфиденциальных элементов и применяет политики для защиты конфиденциальных данных, таких как финансовые записи, медицинская информация или интеллектуальная собственность.

Компьютеры Windows, подключенные к Microsoft Purview , можно настроить для политик защиты от потери данных конечных точек (DLP), которые предупреждают или блокируют предоставление пользователям общего доступа к конфиденциальной информации сторонним сайтам искусственного интеллекта, доступ к которым осуществляется через браузер. Например, пользователю запрещено вставлять в ChatGPT номера карта кредиты или отображается предупреждение о том, что он может переопределить. Дополнительные сведения о поддерживаемых действиях защиты от потери данных и о том, какие платформы поддерживают их, см. в первых двух строках таблицы из раздела Действия конечных точек, которые можно отслеживать и выполнять.

Сведения, относящиеся к приложению ИИ:

• Конечная точка защиты от потери данных поддерживает возможность блокировки отправки файлов на основе указанной метки конфиденциальности.

Управление внутренними рисками и взаимодействие с ИИ

Управление внутренними рисками Microsoft Purview помогает обнаруживать, исследовать и устранять внутренние риски, такие как кража IP-адресов, утечка данных и нарушения безопасности. В нем используются модели машинного обучения и различные сигналы от Microsoft 365 и сторонних индикаторов для выявления потенциальных вредоносных или непреднамеренных инсайдерских действий. Решение включает в себя элементы управления конфиденциальностью, такие как псевдонимизация и доступ на основе ролей, обеспечивая конфиденциальность на уровне пользователя и позволяя аналитикам рисков принимать соответствующие меры.

Используйте шаблон политики рискованного использования ИИ для обнаружения рискованного использования, которое включает в себя атаки с применением запросов на внедрение и доступ к защищенным материалам. Аналитические сведения об этих сигналах интегрированы в Microsoft Defender XDR, чтобы получить полное представление о рисках, связанных с ИИ.

Сведения, относящиеся к приложению ИИ:

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

Соответствие требованиям к обмену данными и взаимодействие с ИИ

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие обнаруживать и контролировать нарушения соответствия нормативным требованиям и бизнес-поведения в различных каналах коммуникации, включая запросы и ответы пользователей для приложений ИИ. Он по умолчанию разработан с конфиденциальностью, псевдонимизируя имена пользователей и включая элементы управления доступом на основе ролей. Решение помогает выявлять и устранять недопустимые сообщения, такие как обмен конфиденциальной информацией, домогательства, угрозы и содержимое для взрослых.

Дополнительные сведения об использовании политик соответствия требованиям к обмену данными для приложений ИИ см. в статье Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействий с генеративным ИИ.

Сведения, относящиеся к приложению ИИ:

• Поддержка ограничена браузером Edge для ChatGPT, Microsoft Chat (версия потребителя), Google Gemini и DeepSeek.

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

• Используйте безопасность сетевых данных для анализа запросов и ответов на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.

Обнаружение электронных данных и взаимодействие СИ

Microsoft Purview eDiscovery позволяет идентифицировать и доставить электронную информацию, которую можно использовать в качестве доказательства в судебных делах. Средства обнаружения электронных данных в Microsoft Purview поддерживают поиск содержимого в командах Exchange Online, OneDrive для бизнеса, SharePoint Online, Microsoft Teams, Группы Microsoft 365 и Viva Engage. Затем вы можете запретить удаление и экспорт информации.

Так как запросы и ответы пользователей для приложений ИИ хранятся в почтовом ящике пользователя, можно создать вариант и использовать поиск , когда почтовый ящик пользователя выбран в качестве источника для поискового запроса. Например, выберите и получите эти данные из исходного почтового ящика, выбрав из построителя запросовТип>содержит>любое действие>Edit>Copilot. Это условие запроса включает все действия Copilot и других приложений ИИ.

После уточнения поиска результаты можно экспортировать или добавить в набор для проверки. Вы можете просматривать и экспортировать сведения непосредственно из набора для проверки.

Дополнительные сведения о идентификации и удалении данных взаимодействия с пользователем ИИ см. в статье Поиск и удаление данных Copilot в eDiscovery.

Сведения, относящиеся к приложению ИИ:

• Поддержка ограничена браузером Edge для ChatGPT, Microsoft Chat (версия потребителя), Google Gemini и DeepSeek.

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

• Используйте защиту сетевых данных для анализа запросов и ответов на сетевом уровне.

Управление жизненным циклом данных и взаимодействие СИ

Управление жизненным циклом данных Microsoft Purview предоставляет инструменты и возможности для управления жизненным циклом организационных данных, сохраняя необходимое содержимое и удаляя ненужное содержимое. Эти средства обеспечивают соответствие бизнес-, юридическим и нормативным требованиям.

Используйте политики хранения для автоматического хранения или удаления запросов и ответов пользователей для приложений ИИ. Подробные сведения об этом способе хранения см. в статье Сведения о хранении для приложений Copilot & ИИ.

Как и во всех политиках хранения и удержаниях, если к пользователю применяется несколько политик для одного расположения, принципы хранения разрешают любые конфликты. Например, данные хранятся в течение самого длительного срока из всех применяемых политик хранения или удержаний eDiscovery.

Сведения, относящиеся к приложению ИИ:

• Поддержка ограничена браузером Edge для ChatGPT, Microsoft Chat (версия потребителя), Google Gemini и DeepSeek.

• Для политик хранения выберите параметр Другие приложения ИИ.

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

• Используйте защиту сетевых данных для хранения запросов и ответов на сетевом уровне.

• Используйте защиту данных браузера для хранения запросов и ответов на уровне браузера Edge.

Взаимодействие с диспетчером соответствия требованиям и ИИ

Microsoft Purview Compliance Manager — это решение, которое помогает автоматически оценивать соответствие требованиям и управлять ими в многооблачной среде. Диспетчер соответствия требованиям поможет вам на протяжении всего пути к соответствию требованиям, от составления списка рисков защиты данных до управления сложными моментами реализации элементов управления, получения сведений о нормативных требованиях и сертификатах, а также отправки отчетов аудиторам.

Чтобы обеспечить соответствие нормативным требованиям ИИ, диспетчер соответствия требованиям предоставляет шаблоны нормативных требований, которые помогут вам оценить, внедрить и укрепить требования к соответствию для всех приложений искусственного интеллекта. Например, мониторинг взаимодействия ИИ и предотвращение потери данных в приложениях ИИ. Дополнительные сведения см. в разделе Оценки правил ИИ.

Рекомендации по началу работы

Выполните следующие действия, чтобы приступить к управлению безопасностью данных & соответствие требованиям взаимодействия СИ, использующее браузер со сторонними сайтами ИИ.

Примечание.

В этих шагах основное внимание уделяется управлению конкретным приложением или агентом ИИ. Для более широкого охвата, использующего цели безопасности с помощью интерактивных рабочих процессов, используйте новый Управление состоянием безопасности данных, который сейчас находится в предварительной версии.

Так как Управление состоянием безопасности данных для ИИ является вашей первой дверью для защиты взаимодействия СИ и управления ими, следующие инструкции используют это решение:

• Вход на портал> Microsoft PurviewРешения>DSPM для ИИ (классический) с учетной записью с соответствующими разрешениями. Например, учетная запись, которая является членом Microsoft Entra роли группы "Администратор соответствия требованиям".

  

Обнаружение потенциальных рисков безопасности при взаимодействии с другими приложениями ИИ

1. В DSPM для ИИ (классический)>Обзор в разделе Приступая к работе найдите и выполните действия для следующих необходимых действий:

   • Установка расширения браузера Microsoft Purview
   • Подключение устройств к Microsoft Purview
   • Расширение аналитических сведений для обнаружения данных

   Дополнительные сведения о расширении браузера или других требованиях к подключению см. в разделе Предварительные требования для Управление состоянием безопасности данных для ИИ.

   Дополнительные сведения о политиках одним щелчком, которые автоматически создаются с возможностью расширения аналитических сведений для обнаружения данных, см. в статье Политики по умолчанию для обнаружения данных с помощью Управление состоянием безопасности данных для ИИ и политики, у которых есть источник расширения аналитических сведений для обнаружения данных.

2. Подождите по крайней мере день для получения данных, а затем перейдите на страницу Отчеты , чтобы просмотреть результаты политики. Выберите Другие приложения ИИ и просмотрите такие сведения, как:

   • Общее количество взаимодействий с течением времени (другие приложения ИИ)
   • Общее число посещений (другие приложения ИИ)
   • Конфиденциальные взаимодействия для каждого приложения ИИ
   • Степень серьезности внутренних рисков
   • Степень серьезности внутренних рисков для приложений ИИ

3. Выберите Просмотреть сведения для каждой диаграммы отчета, чтобы просмотреть подробные действия в обозревателе действий.

   Выберите доступные фильтры, чтобы просмотреть результаты из возможностей Copilot & агентов на основе разных типов действий, категории приложений ИИ, приложения и области для административных единиц и т. д. Затем выполните детализацию для каждого действия, чтобы просмотреть сведения, включая отображение запросов и ответов, когда вы являетесь членом группы ролей Microsoft Purview Content Обозреватель Content Viewer. Дополнительные сведения об этом требовании см. в разделе Разрешения для Управление состоянием безопасности данных для ИИ.

Защита конфиденциальных данных при взаимодействии с другими приложениями ИИ

1. На странице DSPM для ИИ (классические)>Рекомендации в разделе Не запускается выберите Укрепить безопасность данных, чтобы создать следующие политики одним щелчком:

   • Запретить пользователям с повышенным уровнем риска вставлять или отправлять конфиденциальные сведения на сайты ИИ. Эта рекомендация создает политику, которая использует адаптивную защиту для предоставления блокировки с переопределением пользователям с повышенным уровнем риска, пытающимся вставлять или передавать конфиденциальную информацию в другие приложения ИИ в Edge, Chrome и Firefox. Эта политика распространяется на всех пользователей и группы в организации в тестовом режиме.

   • Запретить пользователям с повышенным риском отправлять запросы в приложения ИИ в Microsoft Edge. Эта рекомендация поможет вам создать политику защиты от потери данных (DLP) Purview , чтобы заблокировать пользователей с повышенными, средними и незначительными рисками, пытающихся разместить информацию в приложениях ИИ при использовании Microsoft Edge.

   • Блокировать общий доступ к конфиденциальной информации в приложениях ИИ в Edge. Эта рекомендация поможет вам создать политику защиты от потери данных (DLP) Purview , чтобы обнаружить встроенные для выбора распространенных типов конфиденциальной информации и запретить отправку запросов в приложениях ИИ при использовании Microsoft Edge.

Применение элементов управления соответствием требованиям к взаимодействию с другими приложениями ИИ

Если необходимо убедиться, что взаимодействия с поддерживаемыми другими приложениями ИИ сохраняются по соображениям соответствия требованиям, выполните следующие действия.

• На портале Microsoft Purview перейдите в раздел Политикихраненияполитик>управления жизненным> циклом данных и создайте политику хранения для сохранения взаимодействий с другими приложениями ИИ, выбрав расположение Другие приложения ИИ и указав требуемый период хранения. Дополнительные сведения см. в статье Создание и настройка политик хранения.

  Примечание.

  Хранение поддерживается только в браузере Edge, а также для ChatGPT, Microsoft Chat (потребительская версия), Google Gemini и DeepSeek.

• На портале Microsoft Purview перейдите к разделу Случаи> обнаруженияэлектронных> данныхСоздание дела. В этом случае создайте поиск и используйте свойство ItemClass и IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<AppName> значение для действий локального компьютера или IPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID> значение для действий на основе браузера для поиска этих взаимодействий в организации.

Регулярно просматривайте отчеты в DSPM для ИИ, чтобы определить, нужно ли вносить изменения, и использовать обозреватель действий и события для более глубокого анализа взаимодействия пользователей с другими приложениями ИИ при использовании браузера для сторонних сайтов ИИ.