Использование Microsoft Purview для управления безопасностью данных & соответствие требованиям для других приложений ИИ

Руководство по лицензированию Microsoft 365 для обеспечения соответствия требованиям безопасности &

Используйте следующие разделы, чтобы определить возможности Microsoft Purview, поддерживаемые для взаимодействия с ИИ , которые используют браузер для сторонних сайтов ИИ, и некоторые рекомендации по началу работы для управления этими взаимодействиями СИ для обеспечения безопасности и соответствия требованиям.

Управление взаимодействием с ИИ с Microsoft Purview требует включения выставления счетов с оплатой по мере использования в вашей организации.

Поддерживаемые возможности

Используйте следующую таблицу, чтобы ознакомиться с возможностями Microsoft Purview, поддерживаемыми для сторонних сайтов ИИ, таких как ChatGPT, Google Gemini и DeepSeek.

Если не указано для конкретных решений, список поддерживаемых сайтов ИИ совпадает с теми, которые поддерживаются для DSPM для ИИ: список сайтов ИИ, поддерживаемых Управление состоянием безопасности данных для ИИ Microsoft Purview.

Возможности или решение в Microsoft Purview	Поддерживается взаимодействие с ИИ
DSPM для ИИ	✓
Аудит	✓
Классификация данных	✓
Метки конфиденциальности	✕
Шифрование без меток конфиденциальности	✕
Защита от потери данных	✓
Управление внутренними рисками	✓
Соответствие требованиям к обмену данными	✓
Обнаружение электронных данных	✓
Управление жизненным циклом данных	✓
Диспетчер соответствия требованиям	✓

Для большинства поддерживаемых возможностей и решений требуется расширение браузера Microsoft Purview и устройства, подключенные к Microsoft Purview. Ниже приведены исключения с собственными предварительными условиями:

• Безопасность сетевых данных для обнаружения типов конфиденциальной информации на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.
• Безопасность данных браузера для обнаружения типов конфиденциальной информации на уровне браузера Edge с помощью прямой интеграции из Purview с браузером Edge.

Управление состоянием безопасности данных для ИИ

Используйте Управление состоянием безопасности данных Microsoft Purview (DSPM) для ИИ в качестве передней двери для обнаружения, защиты и применения элементов управления соответствием требованиям для использования ИИ на предприятии. Это решение использует существующие элементы управления из Microsoft Purview для защиты информации и управления соответствием требованиям с простыми в использовании графическими средствами и отчетами, чтобы быстро получить аналитические сведения об использовании ИИ в организации. Благодаря персонализированным рекомендациям политики одним щелчком помогают защитить данные и соблюдать нормативные требования.

Дополнительные сведения см. в статье Сведения о Управление состоянием безопасности данных (DSPM) для ИИ.

Сведения, относящиеся к приложению ИИ:

• Раздел Приступая к работе на странице Обзор содержит необходимые шаги и сведения для установки расширения браузера Microsoft Purview и процесса подключения устройств.

• Рекомендация . Получите интерактивную помощь по нормативным требованиям ИИ, в котором используются нормативные шаблоны для сопоставления элементов управления из диспетчера соответствия требованиям.

• Доступные политики одним щелчком :

  • DSPM для ИИ: обнаружение конфиденциальных сведений, добавленных на сайты ИИ из рекомендации Расширение аналитических сведений для обнаружения данных
  • DSPM для ИИ. Определение того, когда пользователи посещают сайты ИИ из рекомендации Расширение аналитических сведений для обнаружения данных
  • DSPM для ИИ. Обнаружение конфиденциальной информации, к которой предоставлен доступ в запросах ИИ в Edge, из рекомендации Расширение аналитических сведений для обнаружения данных
  • DSPM для ИИ. Обнаружение конфиденциальной информации, совместно используемой СИ через сеть, из рекомендации Расширение аналитических сведений о конфиденциальных данных при взаимодействии с приложениями ИИ.

Аудит и взаимодействие СИ

решения Аудит Microsoft Purview предоставляют комплексные средства для поиска и управления записями аудита действий, выполняемых пользователями и администраторами в различных службах Майкрософт, а также помогают организациям эффективно реагировать на события безопасности, судебно-медицинские расследования, внутренние расследования и обязательства по обеспечению соответствия требованиям.

Как и другие действия, запросы и ответы записываются в единый журнал аудита. События включают, как и когда пользователи взаимодействуют с приложением ИИ, а также могут включать в себя, в какой службе Microsoft 365 произошло действие, а также ссылки на файлы, хранящиеся в Microsoft 365, которые были доступны во время взаимодействия. Если к этим файлам применена метка конфиденциальности, она также записывается.

Эти события передаются в обозреватель действий в Управление состоянием безопасности данных для ИИ, где могут отображаться данные из запросов и ответов. Вы также можете использовать решение аудит на портале Microsoft Purview для поиска и поиска этих событий аудита.

Дополнительные сведения см. в разделе Журналы аудита для действий Copilot и ИИ.

Сведения, относящиеся к приложению ИИ:

• Используйте безопасность сетевых данных для аудита запросов и ответов на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.

Классификация данных и взаимодействие СИ

Классификация данных Microsoft Purview предоставляет комплексную платформу для идентификации и маркировки конфиденциальных данных в различных службах Майкрософт, включая Office 365, Dynamics 365 и Azure. Классификация данных часто является первым шагом для обеспечения соблюдения правил защиты данных и защиты от несанкционированного доступа, изменения или уничтожения. Вы можете использовать встроенные системные классификации или создать собственные.

Типы конфиденциальной информации и обучаемые классификаторы можно использовать для поиска конфиденциальных данных в запросах и ответах пользователей при использовании приложений ИИ. Затем полученные сведения отображаются на панели мониторинга классификации данных и в обозревателе действий в Управление состоянием безопасности данных для ИИ.

Сведения, относящиеся к приложению ИИ:

• Используйте защиту сетевых данных для обнаружения типов конфиденциальной информации на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.
• Используйте защиту данных браузера для обнаружения типов конфиденциальной информации на уровне браузера Edge, используя прямую интеграцию из Purview в браузер Edge.

Защита от потери данных и взаимодействие СИ

Защита от потери данных Microsoft Purview (DLP) помогает выявлять конфиденциальные элементы в службах и конечных точках Microsoft 365, отслеживать их и защищать от утечки этих элементов. Он использует глубокую проверку содержимого и контекстный анализ для выявления конфиденциальных элементов и применяет политики для защиты конфиденциальных данных, таких как финансовые записи, медицинская информация или интеллектуальная собственность.

Компьютеры Windows, подключенные к Microsoft Purview , можно настроить для политик защиты от потери данных конечных точек (DLP), которые предупреждают или блокируют предоставление пользователям общего доступа к конфиденциальной информации сторонним сайтам искусственного интеллекта, доступ к которым осуществляется через браузер. Например, пользователю запрещено вставлять в ChatGPT числа кредиты карта или отображается предупреждение о том, что он может переопределить. Дополнительные сведения о поддерживаемых действиях защиты от потери данных и о том, какие платформы поддерживают их, см. в первых двух строках таблицы из раздела Действия конечных точек, которые можно отслеживать и выполнять.

Кроме того, политика защиты от потери данных, ограниченная расположением ИИ, может запретить приложениям ИИ обрабатывать конфиденциальное содержимое. Например, политика защиты от потери данных может ограничить Microsoft 365 Copilot суммирования файлов на основе меток конфиденциальности, таких как "Строго конфиденциальный". После включения этой политики Microsoft 365 Copilot и агенты не будут суммировать файлы с меткой "Строго конфиденциальный", но могут ссылаться на него по ссылке, чтобы пользователь смог открыть и просмотреть содержимое с помощью Word. Дополнительные сведения о том, какие приложения ИИ поддерживают эту конфигурацию защиты от потери данных, см. в статье Сведения о расположении политики Microsoft 365 Copilot.

Сведения, относящиеся к приложению ИИ:

• Конечная точка защиты от потери данных поддерживает возможность блокировки отправки файлов на основе указанной метки конфиденциальности.

Управление внутренними рисками и взаимодействие с ИИ

Управление внутренними рисками Microsoft Purview помогает обнаруживать, исследовать и устранять внутренние риски, такие как кража IP-адресов, утечка данных и нарушения безопасности. В нем используются модели машинного обучения и различные сигналы от Microsoft 365 и сторонних индикаторов для выявления потенциальных вредоносных или непреднамеренных инсайдерских действий. Решение включает в себя элементы управления конфиденциальностью, такие как псевдонимизация и доступ на основе ролей, обеспечивая конфиденциальность на уровне пользователя и позволяя аналитикам рисков принимать соответствующие меры.

Используйте шаблон политики рискованного использования ИИ для обнаружения рискованного использования, которое включает в себя атаки с применением запросов на внедрение и доступ к защищенным материалам. Аналитические сведения об этих сигналах интегрированы в Microsoft Defender XDR, чтобы получить полное представление о рисках, связанных с ИИ.

Сведения, относящиеся к приложению ИИ:

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

Соответствие требованиям к обмену данными и взаимодействие с ИИ

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие обнаруживать и контролировать нарушения соответствия нормативным требованиям и бизнес-поведения в различных каналах коммуникации, включая запросы и ответы пользователей для приложений ИИ. Он по умолчанию разработан с конфиденциальностью, псевдонимизируя имена пользователей и включая элементы управления доступом на основе ролей. Решение помогает выявлять и устранять недопустимые сообщения, такие как обмен конфиденциальной информацией, домогательства, угрозы и содержимое для взрослых.

Дополнительные сведения об использовании политик соответствия требованиям к обмену данными для приложений ИИ см. в статье Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействий с генеративным ИИ.

Сведения, относящиеся к приложению ИИ:

• Поддержка ограничена браузером Edge для ChatGPT, Microsoft Chat (версия для потребителей), Google Gemini и DeepSeek.

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

• Используйте безопасность сетевых данных для анализа запросов и ответов на сетевом уровне с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.

Обнаружение электронных данных и взаимодействие СИ

Microsoft Purview eDiscovery позволяет идентифицировать и доставить электронную информацию, которую можно использовать в качестве доказательства в судебных делах. Средства обнаружения электронных данных в Microsoft Purview поддерживают поиск содержимого в командах Exchange Online, OneDrive для бизнеса, SharePoint Online, Microsoft Teams, Группы Microsoft 365 и Viva Engage. Затем вы можете запретить удаление и экспорт информации.

Так как запросы и ответы пользователей для приложений ИИ хранятся в почтовом ящике пользователя, можно создать вариант и использовать поиск , когда почтовый ящик пользователя выбран в качестве источника для поискового запроса. Например, выберите и получите эти данные из исходного почтового ящика, выбрав в построителе запросов Условие> ДобавитьТип>равно любому из>параметров Добавление и удаление дополнительных параметров>Взаимодействия Copilot.

После уточнения поиска результаты можно экспортировать или добавить в набор для проверки. Вы можете просматривать и экспортировать сведения непосредственно из набора для проверки.

Дополнительные сведения о идентификации и удалении данных взаимодействия с ИИ пользователей см. в статье Поиск и удаление данных Copilot в eDiscovery.

Сведения, относящиеся к приложению ИИ:

• Поддержка ограничена браузером Edge для ChatGPT, Microsoft Chat (версия для потребителей), Google Gemini и DeepSeek.

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

• Используйте защиту сетевых данных для анализа запросов и ответов на сетевом уровне.

Управление жизненным циклом данных и взаимодействие СИ

Управление жизненным циклом данных Microsoft Purview предоставляет инструменты и возможности для управления жизненным циклом организационных данных, сохраняя необходимое содержимое и удаляя ненужное содержимое. Эти средства обеспечивают соответствие бизнес-, юридическим и нормативным требованиям.

Используйте политики хранения для автоматического хранения или удаления запросов и ответов пользователей для приложений ИИ. Подробные сведения об этом способе хранения см. в статье Сведения о хранении для приложений Copilot & ИИ.

Как и во всех политиках хранения и удержаниях, если к пользователю применяется несколько политик для одного расположения, принципы хранения разрешают любые конфликты. Например, данные хранятся в течение самого длительного срока из всех применяемых политик хранения или удержаний eDiscovery.

Сведения, относящиеся к приложению ИИ:

• Поддержка ограничена браузером Edge для ChatGPT, Microsoft Chat (версия для потребителей), Google Gemini и DeepSeek.

• Для политик хранения выберите параметр Другие приложения ИИ.

• Для запросов и ответов требуется политика сбора, которая включает параметр для записи содержимого. Дополнительные сведения см. в статье Общие сведения о решении для политик сбора данных.

• Используйте защиту сетевых данных для хранения запросов и ответов на сетевом уровне.

• Используйте защиту данных браузера для хранения запросов и ответов на уровне браузера Edge.

Взаимодействие с диспетчером соответствия требованиям и ИИ

Microsoft Purview Compliance Manager — это решение, которое помогает автоматически оценивать соответствие требованиям и управлять ими в многооблачной среде. Диспетчер соответствия требованиям поможет вам на протяжении всего пути к соответствию требованиям, от составления списка рисков защиты данных до управления сложными моментами реализации элементов управления, получения сведений о нормативных требованиях и сертификатах, а также отправки отчетов аудиторам.

Чтобы обеспечить соответствие нормативным требованиям ИИ, диспетчер соответствия требованиям предоставляет шаблоны нормативных требований, которые помогут вам оценить, внедрить и укрепить требования к соответствию для всех приложений искусственного интеллекта. Например, мониторинг взаимодействия ИИ и предотвращение потери данных в приложениях ИИ. Дополнительные сведения см. в разделе Оценки правил ИИ.

Рекомендации по началу работы

Выполните следующие действия, чтобы приступить к управлению безопасностью данных & соответствие требованиям взаимодействия СИ, использующее браузер со сторонними сайтами ИИ.

Так как Управление состоянием безопасности данных для ИИ является вашей первой дверью для защиты взаимодействия СИ и управления ими, следующие инструкции используют это решение:

• Вход на портал> Microsoft PurviewРешения>DSPM для ИИ с учетной записью с соответствующими разрешениями. Например, учетная запись, которая является членом Microsoft Entra роли группы "Администратор соответствия требованиям".

  

Обнаружение потенциальных рисков безопасности при взаимодействии с другими приложениями ИИ

1. В DSPM обзор для ИИ> в разделе Приступая к работе найдите и выполните следующие действия:

   • Установка расширения браузера Microsoft Purview
   • Подключение устройств к Microsoft Purview
   • Расширение аналитических сведений для обнаружения данных

   Дополнительные сведения о расширении браузера или других требованиях к подключению см. в разделе Предварительные требования для Управление состоянием безопасности данных для ИИ.

   Дополнительные сведения о политиках одним щелчком, которые автоматически создаются с возможностью расширения аналитических сведений для обнаружения данных, см. в статье Политики по умолчанию для обнаружения данных с помощью Управление состоянием безопасности данных для ИИ и политики, у которых есть источник расширения аналитических сведений для обнаружения данных.

2. Подождите по крайней мере день для получения данных, а затем перейдите на страницу Отчеты , чтобы просмотреть результаты политики. Выберите Другие приложения ИИ и просмотрите такие сведения, как:

   • Общее количество взаимодействий с течением времени (другие приложения ИИ)
   • Общее число посещений (другие приложения ИИ)
   • Конфиденциальные взаимодействия для каждого приложения ИИ
   • Степень серьезности внутренних рисков
   • Степень серьезности внутренних рисков для приложений ИИ

3. Выберите Просмотреть сведения для каждой диаграммы отчета, чтобы просмотреть подробные действия в обозревателе действий.

   Выберите доступные фильтры, чтобы просмотреть результаты из возможностей Copilot & агентов на основе разных типов действий, категории приложений ИИ, приложения и области для административных единиц и т. д. Затем выполните детализацию для каждого действия, чтобы просмотреть сведения, включая отображение запросов и ответов, когда вы являетесь членом группы ролей Microsoft Purview Content Обозреватель Content Viewer. Дополнительные сведения об этом требовании см. в разделе Разрешения для Управление состоянием безопасности данных для ИИ.

Защита конфиденциальных данных при взаимодействии с другими приложениями ИИ

1. На странице DSPMдля рекомендацийпо ИИ> в разделе Не запускается выберите Укрепить безопасность данных, чтобы создать следующие политики одним щелчком:

   • Запретить пользователям с повышенным уровнем риска вставлять или отправлять конфиденциальные сведения на сайты ИИ. Эта рекомендация создает политику, которая использует адаптивную защиту для предоставления блокировки с переопределением пользователям с повышенным уровнем риска, пытающимся вставлять или передавать конфиденциальную информацию в другие приложения ИИ в Edge, Chrome и Firefox. Эта политика распространяется на всех пользователей и группы в организации в тестовом режиме.

   • Запретить пользователям с повышенным риском отправлять запросы в приложения ИИ в Microsoft Edge. Эта рекомендация поможет вам создать политику защиты от потери данных (DLP) Purview , чтобы заблокировать пользователей с повышенными, средними и незначительными рисками, пытающихся разместить информацию в приложениях ИИ при использовании Microsoft Edge.

   • Блокировать общий доступ к конфиденциальной информации в приложениях ИИ в Edge. Эта рекомендация поможет вам создать политику защиты от потери данных (DLP) Purview , чтобы обнаружить встроенные для выбора распространенных типов конфиденциальной информации и запретить отправку запросов в приложениях ИИ при использовании Microsoft Edge.

Применение элементов управления соответствием требованиям к взаимодействию с другими приложениями ИИ

Если необходимо убедиться, что взаимодействия с поддерживаемыми другими приложениями ИИ сохраняются по соображениям соответствия требованиям, выполните следующие действия.

• На портале Microsoft Purview перейдите в раздел Политикихраненияполитик>управления жизненным> циклом данных и создайте политику хранения для сохранения взаимодействий с другими приложениями ИИ, выбрав расположение Другие приложения ИИ и указав требуемый период хранения. Дополнительные сведения см. в статье Создание и настройка политик хранения.

  Примечание.

  Хранение поддерживается только для браузера Edge, а также для ChatGPT, Microsoft Chat (потребительская версия), Google Gemini и DeepSeek.

Регулярно просматривайте отчеты в DSPM для ИИ, чтобы определить, нужно ли вносить изменения, и использовать обозреватель действий и события для более глубокого анализа взаимодействия пользователей с другими приложениями ИИ при использовании браузера для сторонних сайтов ИИ.