Поделиться через

Использование Microsoft Purview для управления безопасностью данных & соответствием для служб ИИ Azure

Руководство по лицензированию Microsoft 365 для обеспечения соответствия требованиям безопасности &

Используйте следующие разделы, чтобы определить возможности Microsoft Purview, поддерживаемые для взаимодействия с ИИ , которые используют службы ИИ Azure, и некоторые рекомендации по началу работы для управления этими взаимодействиями СИ для обеспечения безопасности и соответствия требованиям.

Управление взаимодействием с ИИ с Microsoft Purview требует включения выставления счетов с оплатой по мере использования в вашей организации.

Поддерживаемые возможности

Используйте следующую таблицу, чтобы ознакомиться с возможностями Microsoft Purview, поддерживаемыми для служб ИИ Azure.

Возможности или решение в Microsoft Purview Поддерживается взаимодействие с ИИ
DSPM для ИИ ✓
Аудит ✓
Классификация данных ✓
Метки конфиденциальности ✕
Шифрование без меток конфиденциальности ✕
Защита от потери данных ✓
Управление внутренними рисками ✓
Соответствие требованиям к обмену данными ✓
Обнаружение электронных данных ✓
Управление жизненным циклом данных ✓
Диспетчер соответствия требованиям ✓

Управление состоянием безопасности данных для ИИ

Используйте Управление состоянием безопасности данных Microsoft Purview (DSPM) для ИИ в качестве передней двери для обнаружения, защиты и применения элементов управления соответствием требованиям для использования ИИ на предприятии. Это решение использует существующие элементы управления из Microsoft Purview для защиты информации и управления соответствием требованиям с простыми в использовании графическими средствами и отчетами, чтобы быстро получить аналитические сведения об использовании ИИ в организации. Благодаря персонализированным рекомендациям политики одним щелчком помогают защитить данные и соблюдать нормативные требования.

Дополнительные сведения см. в статье Сведения о Управление состоянием безопасности данных (DSPM) для ИИ.

Сведения, относящиеся к приложению ИИ:

  • Рекомендация Защита данных в приложениях и агентах ИИ Azure, в которой настроены инструкции по сбору запросов и ответов для приложений ИИ, использующих одну или несколько подписок ИИ Azure.

  • Рекомендация . Получите интерактивную помощь по нормативным требованиям ИИ, в котором используются нормативные шаблоны для сопоставления элементов управления из диспетчера соответствия требованиям.

  • Доступна политика одним щелчком:

    • DSPM для ИИ. Обнаружение конфиденциальной информации, совместно используемой СИ через сеть, из рекомендации Расширение аналитических сведений о конфиденциальных данных при взаимодействии с приложениями ИИ.

Аудит и взаимодействие СИ

решения Аудит Microsoft Purview предоставляют комплексные средства для поиска и управления записями аудита действий, выполняемых пользователями и администраторами в различных службах Майкрософт, а также помогают организациям эффективно реагировать на события безопасности, судебно-медицинские расследования, внутренние расследования и обязательства по обеспечению соответствия требованиям.

Как и другие действия, запросы и ответы записываются в единый журнал аудита. События включают, как и когда пользователи взаимодействуют с приложением ИИ, а также могут включать в себя, в какой службе Microsoft 365 произошло действие, а также ссылки на файлы, хранящиеся в Microsoft 365, которые были доступны во время взаимодействия. Если к этим файлам применена метка конфиденциальности, она также записывается.

Эти события передаются в обозреватель действий в Управление состоянием безопасности данных для ИИ, где могут отображаться данные из запросов и ответов. Вы также можете использовать решение аудит на портале Microsoft Purview для поиска и поиска этих событий аудита.

Дополнительные сведения см. в разделе Журналы аудита для действий Copilot и ИИ.

Классификация данных и взаимодействие СИ

Классификация данных Microsoft Purview предоставляет комплексную платформу для идентификации и маркировки конфиденциальных данных в различных службах Майкрософт, включая Office 365, Dynamics 365 и Azure. Классификация данных часто является первым шагом для обеспечения соблюдения правил защиты данных и защиты от несанкционированного доступа, изменения или уничтожения. Вы можете использовать встроенные системные классификации или создать собственные.

Типы конфиденциальной информации и обучаемые классификаторы можно использовать для поиска конфиденциальных данных в запросах и ответах пользователей при использовании приложений ИИ. Затем полученные сведения отображаются на панели мониторинга классификации данных и в обозревателе действий в Управление состоянием безопасности данных для ИИ.

Защита от потери данных и взаимодействие СИ

Защита от потери данных Microsoft Purview (DLP) помогает выявлять конфиденциальные элементы в службах и конечных точках Microsoft 365, отслеживать их и защищать от утечки этих элементов. Он использует глубокую проверку содержимого и контекстный анализ для выявления конфиденциальных элементов и применяет политики для защиты конфиденциальных данных, таких как финансовые записи, медицинская информация или интеллектуальная собственность.

Компьютеры Windows, подключенные к Microsoft Purview , можно настроить для политик защиты от потери данных конечных точек (DLP), которые предупреждают или блокируют предоставление пользователям общего доступа к конфиденциальной информации сторонним сайтам искусственного интеллекта, доступ к которым осуществляется через браузер. Например, пользователю запрещено вставлять в ChatGPT числа кредиты карта или отображается предупреждение о том, что он может переопределить. Дополнительные сведения о поддерживаемых действиях защиты от потери данных и о том, какие платформы поддерживают их, см. в первых двух строках таблицы из раздела Действия конечных точек, которые можно отслеживать и выполнять.

Кроме того, политика защиты от потери данных, ограниченная расположением ИИ, может запретить приложениям ИИ обрабатывать конфиденциальное содержимое. Например, политика защиты от потери данных может ограничить Microsoft 365 Copilot суммирования файлов на основе меток конфиденциальности, таких как "Строго конфиденциальный". После включения этой политики Microsoft 365 Copilot и агенты не будут суммировать файлы с меткой "Строго конфиденциальный", но могут ссылаться на него по ссылке, чтобы пользователь смог открыть и просмотреть содержимое с помощью Word. Дополнительные сведения о том, какие приложения ИИ поддерживают эту конфигурацию защиты от потери данных, см. в статье Сведения о расположении политики Microsoft 365 Copilot.

Сведения, относящиеся к приложению ИИ:

Управление внутренними рисками и взаимодействие с ИИ

Управление внутренними рисками Microsoft Purview помогает обнаруживать, исследовать и устранять внутренние риски, такие как кража IP-адресов, утечка данных и нарушения безопасности. В нем используются модели машинного обучения и различные сигналы от Microsoft 365 и сторонних индикаторов для выявления потенциальных вредоносных или непреднамеренных инсайдерских действий. Решение включает в себя элементы управления конфиденциальностью, такие как псевдонимизация и доступ на основе ролей, обеспечивая конфиденциальность на уровне пользователя и позволяя аналитикам рисков принимать соответствующие меры.

Используйте шаблон политики рискованного использования ИИ для обнаружения рискованного использования, которое включает в себя атаки с применением запросов на внедрение и доступ к защищенным материалам. Аналитические сведения об этих сигналах интегрированы в Microsoft Defender XDR, чтобы получить полное представление о рисках, связанных с ИИ.

Сведения, относящиеся к приложению ИИ:
  • Для запросов и ответов требуется политика сбора, такая как DSPM для ИИ. Обнаружение конфиденциальной информации, к которой предоставляется ИИ через сеть, из рекомендации DSPM для ИИ Расширьте аналитические сведения о конфиденциальных данных при взаимодействии с приложениями ИИ.

Соответствие требованиям к обмену данными и взаимодействие с ИИ

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие обнаруживать и контролировать нарушения соответствия нормативным требованиям и бизнес-поведения в различных каналах коммуникации, включая запросы и ответы пользователей для приложений ИИ. Он по умолчанию разработан с конфиденциальностью, псевдонимизируя имена пользователей и включая элементы управления доступом на основе ролей. Решение помогает выявлять и устранять недопустимые сообщения, такие как обмен конфиденциальной информацией, домогательства, угрозы и содержимое для взрослых.

Дополнительные сведения об использовании политик соответствия требованиям к обмену данными для приложений ИИ см. в статье Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействий с генеративным ИИ.

Сведения, относящиеся к приложению ИИ:
  • Для запросов и ответов требуется политика сбора, такая как DSPM для ИИ. Обнаружение конфиденциальной информации, к которой предоставляется ИИ через сеть, из рекомендации DSPM для ИИ Расширьте аналитические сведения о конфиденциальных данных при взаимодействии с приложениями ИИ.

Обнаружение электронных данных и взаимодействие СИ

Microsoft Purview eDiscovery позволяет идентифицировать и доставить электронную информацию, которую можно использовать в качестве доказательства в судебных делах. Средства обнаружения электронных данных в Microsoft Purview поддерживают поиск содержимого в командах Exchange Online, OneDrive для бизнеса, SharePoint Online, Microsoft Teams, Группы Microsoft 365 и Viva Engage. Затем вы можете запретить удаление и экспорт информации.

Так как запросы и ответы пользователей для приложений ИИ хранятся в почтовом ящике пользователя, можно создать вариант и использовать поиск , когда почтовый ящик пользователя выбран в качестве источника для поискового запроса. Например, выберите и получите эти данные из исходного почтового ящика, выбрав в построителе запросов Условие> ДобавитьТип>равно любому из>параметров Добавление и удаление дополнительных параметров>Взаимодействия Copilot.

После уточнения поиска результаты можно экспортировать или добавить в набор для проверки. Вы можете просматривать и экспортировать сведения непосредственно из набора для проверки.

Дополнительные сведения о идентификации и удалении данных взаимодействия с ИИ пользователей см. в статье Поиск и удаление данных Copilot в eDiscovery.

Сведения, относящиеся к приложению ИИ:
  • Для запросов и ответов требуется политика сбора, такая как DSPM для ИИ. Обнаружение конфиденциальной информации, к которой предоставляется ИИ через сеть, из рекомендации DSPM для ИИ Расширьте аналитические сведения о конфиденциальных данных при взаимодействии с приложениями ИИ.

Управление жизненным циклом данных и взаимодействие СИ

Управление жизненным циклом данных Microsoft Purview предоставляет инструменты и возможности для управления жизненным циклом организационных данных, сохраняя необходимое содержимое и удаляя ненужное содержимое. Эти средства обеспечивают соответствие бизнес-, юридическим и нормативным требованиям.

Используйте политики хранения для автоматического хранения или удаления запросов и ответов пользователей для приложений ИИ. Подробные сведения об этом способе хранения см. в статье Сведения о хранении для приложений Copilot & ИИ.

Как и во всех политиках хранения и удержаниях, если к пользователю применяется несколько политик для одного расположения, принципы хранения разрешают любые конфликты. Например, данные хранятся в течение самого длительного срока из всех применяемых политик хранения или удержаний eDiscovery.

Сведения, относящиеся к приложению ИИ:

  • Для политик хранения выберите параметр Для корпоративных приложений ИИ.

  • Для запросов и ответов требуется политика сбора, такая как DSPM для ИИ. Обнаружение конфиденциальной информации, к которой предоставляется ИИ через сеть, из рекомендации DSPM для ИИ Расширьте аналитические сведения о конфиденциальных данных при взаимодействии с приложениями ИИ.

Взаимодействие с диспетчером соответствия требованиям и ИИ

Microsoft Purview Compliance Manager — это решение, которое помогает автоматически оценивать соответствие требованиям и управлять ими в многооблачной среде. Диспетчер соответствия требованиям поможет вам на протяжении всего пути к соответствию требованиям, от составления списка рисков защиты данных до управления сложными моментами реализации элементов управления, получения сведений о нормативных требованиях и сертификатах, а также отправки отчетов аудиторам.

Чтобы обеспечить соответствие нормативным требованиям ИИ, диспетчер соответствия требованиям предоставляет шаблоны нормативных требований, которые помогут вам оценить, внедрить и укрепить требования к соответствию для всех приложений искусственного интеллекта. Например, мониторинг взаимодействия ИИ и предотвращение потери данных в приложениях ИИ. Дополнительные сведения см. в разделе Оценки правил ИИ.

Выполните следующие действия, чтобы приступить к управлению безопасностью данных & соответствие требованиям взаимодействия с ИИ, использующее службы ИИ.

Так как Управление состоянием безопасности данных для ИИ является вашей первой дверью для защиты взаимодействия СИ и управления ими, большинство из следующих инструкций используют это решение:

  1. На странице DSPMдля рекомендацийпо ИИ> найдите и выберите Пункт Защита данных в приложениях и агентах ИИ Azure, который настроил инструкции по сбору запросов и ответов для приложений ИИ, использующих одну или несколько подписок ИИ Azure.

  2. Кроме того, в списке рекомендаций выберите Безопасные взаимодействия из корпоративных приложений, что создает политику одним щелчком для отслеживания запросов и ответов из корпоративных приложений ИИ.

  3. Подождите по крайней мере день для получения данных, а затем перейдите на страницу Отчеты , чтобы просмотреть результаты политики. Выберите Корпоративные приложения ИИ и просмотрите такие сведения, как:

    • Общее количество взаимодействий с течением времени (корпоративные приложения ИИ)
    • Конфиденциальные взаимодействия для каждого приложения ИИ
    • Степень серьезности внутренних рисков
    • Степень серьезности внутренних рисков для каждого приложения ИИ

  4. Выберите Просмотреть сведения для каждой диаграммы отчета, чтобы просмотреть подробные действия в обозревателе действий.

    В фильтрах выберите категорию приложений ИИкорпоративных приложений ИИ с фильтром приложенийслужб ИИ Azure, а затем используйте другие фильтры, если необходимо дополнительно уточнить отображаемые данные. Детализация каждого действия, чтобы просмотреть сведения, в том числе отображение запросов и ответов, когда вы являетесь членом группы ролей Microsoft Purview Content Обозреватель Content Viewer. Дополнительные сведения об этом требовании см. в разделе Разрешения для Управление состоянием безопасности данных для ИИ.

  5. Если вам нужно убедиться, что взаимодействия из служб ИИ Azure сохраняются по соображениям соответствия требованиям, выполните следующие действия:

    На портале Microsoft Purview перейдите в раздел Политикихраненияполитик>управления жизненным> циклом данных и создайте политику хранения для сохранения взаимодействий со службами ИИ Azure, выбрав расположение Корпоративные приложения ИИ и укажите необходимый период хранения. Дополнительные сведения см. в статье Создание и настройка политик хранения.

Регулярно просматривайте отчеты в DSPM для ИИ, чтобы определить, нужно ли вносить изменения, и используйте обозреватель действий и события для более глубокого анализа взаимодействия пользователей со службами ИИ Azure.