Настроить систему управления состоянием безопасности данных (DSPM) для ИИ в пользовательских ИИ-приложениях

Чтобы DSPM for AI собирал ваши запросы и ответы из приложений генеративного ИИ и включал все возможности и аналитику рисков из других решений Microsoft Purview, необходимо включить конфигурации и политики для каждого решения Microsoft Purview в DSPM for AI. В этой таблице показан список решений, которые необходимо включить.

Решение Microsoft Purview Configuration Validation
Аудит Microsoft Purview Включение Аудит Microsoft Purview в DSPM для ИИ Состояние аудита включено
DSPM для искусственного интеллекта Включение политики KYD: "Безопасное взаимодействие с корпоративными приложениями (предварительная версия)" Состояние политики — ON
Соответствие коммуникационным требованиям Включение политики: "Управление неэтичным поведением в политике искусственного интеллекта" Состояние политики — ON
Управление внутренними рисками Включить политику, "Политика обнаружения рискованного использования ИИ" Состояние политики — ON
Электронное раскрытие доказательств Дополнительные шаги или политики не требуются N/A

Important

Чтобы настроить новую политику защиты от потери данных в Microsoft Purview для тестирования интеграции DLP, выполните командлет New-DlpComplianceRule. Дополнительные сведения см. в статье New-DlpComplianceRule.

Включить аудит Microsoft Purview

Функция аудита в Microsoft Purview включена по умолчанию для вашей организации, но вам следует убедиться, что она включена.

Решения для аудита Microsoft Purview — это интегрированное решение, помогающее организациям эффективно реагировать на события безопасности, судебные расследования, внутренние расследования и соблюдение обязательств. Тысячи операций пользователя и администратора, выполняемых в десятках службы Майкрософт и решений, записываются и сохраняются в едином журнале аудита вашей организации. Записи аудита для этих событий доступны для поиска службе безопасности, ИТ-администраторам, командам по управлению внутренними рисками и исследователям в области законодательства и соответствия требованиям в организации. Эта возможность обеспечивает видимость действий, выполняемых в организации. Дополнительные сведения см. в статье о решениях аудита в Microsoft Purview.

Использование DSPM для портала ИИ

  1. Перейдите на страницу Обзор в решении DSPM for AI в Microsoft Purview.
  2. В разделе "Начало работы" выберите "Активировать Аудит Microsoft Purview".
  3. Выберите Активировать.
  4. Убедитесь, что индикатор состояния становится зеленым, как показано на следующем рисунке.

Включение Аудит Microsoft Purview

Создайте DSPM для политик One-Click для ИИ

Вы можете использовать ссылку "Просмотреть все рекомендации" или "Рекомендации" в области навигации, чтобы просмотреть все доступные рекомендации для вашего клиента. Выберите одну из следующих политик и выберите Создать политику, чтобы активировать политику в вашем арендаторе. После создания политик по умолчанию их можно просмотреть и изменить в любое время из соответствующих областей решения на портале. Например, вы хотите применить политики только к определённым пользователям на этапе тестирования или в соответствии с бизнес-требованиями. Вы также хотите добавить или удалить классификаторы, которые используются для обнаружения конфиденциальной информации. Используйте страницу "Политики", чтобы быстро перейти к нужному месту на портале. Используйте страницу «Политики», чтобы отслеживать состояние политик по умолчанию, создаваемых одним щелчком, и политик, связанных с ИИ, из других решений Microsoft Purview. Чтобы изменить политики, используйте соответствующее решение для управления на портале. Например, для DSPM для ИИ — «Неэтичное поведение в ИИ» — вы можете просматривать и исправлять найденные совпадения из решения Communication Compliance.

Создание политики

Политики обнаружения данных

Следующие политики созданы, чтобы DSPM for AI мог собирать, анализировать и отображать данные и аналитические сведения в отчетах DSPM for AI и обозревателе действий.

Создание DSPM для ИИ — безопасное взаимодействие с корпоративными приложениями (предварительная версия)

Для разработки решений с использованием API Microsoft Purview в Microsoft Graph необходимо создать политику Microsoft Purview Know Your Data (KYD). Чтобы разработать и проверить приложение, создайте политику, которая применяется ко всем приложениям, включите хранение запросов и ответов в Microsoft Purview и обнаружение конфиденциальных данных. Это позволяет просматривать результаты вызовов приложений Microsoft Purview API в Портал Microsoft Purview.

Использование DSPM для портала ИИ

  1. Перейдите на страницу рекомендаций или политик в DSPM для решения искусственного интеллекта в Microsoft Purview.
  2. Выберите "Безопасные взаимодействия из корпоративных приложений (предварительная версия)".
  3. Выберите "Создать политики".
  4. Убедитесь, что состояние политики включено.

Политика KYD

Ту же политику KYD можно создать с помощью PowerShell. Если у вас возникли проблемы с порталом, следуйте инструкциям по созданию политик DSPM для AI Know Your Data (KYD) с помощью PowerShell.

Создание DSPM для искусственного интеллекта — управление неэтичным поведением в политике искусственного интеллекта

Эта политика обнаруживает конфиденциальную информацию в запросах и ответах в ИИ с помощью Соответствие требованиям к обмену данными Microsoft Purview. Эта политика распространяется на всех пользователей и группы в вашей организации.

Соответствие требованиям к обмену данными Microsoft Purview — это решение для управления внутренними рисками, которое помогает минимизировать риски, связанные с коммуникациями, позволяя обнаруживать, фиксировать и принимать меры в отношении потенциально недопустимых сообщений в вашей организации. Предопределенные и настраиваемые политики позволяют проверять внутренние и внешние сообщения для соответствия политик, чтобы их можно было проверить назначенными рецензентами. Вы можете проверять и устранять проблемы, связанные с обнаруженными совпадениями, в решении Microsoft Purview Communication Compliance. Дополнительные сведения см. в разделе Сведения о соответствии требованиям к обмену данными.

Использование DSPM для портала ИИ

  1. Перейдите на страницу рекомендаций или политик в DSPM для решения искусственного интеллекта в Microsoft Purview.
  2. Выберите "Управление неэтичным поведением в ИИ".
  3. Выберите "Создать политики".
  4. Убедитесь, что состояние политики включено.

Неэтичная политика ИИ

Создать DSPM для ИИ — политика обнаружения рискованного использования ИИ

Эта политика помогает вычислить риск пользователей, обнаруживая рискованные запросы и ответы в Microsoft 365 Copilot и других созданных приложениях искусственного интеллекта с помощью решения Управление внутренними рисками Microsoft Purview.

Пользователи могут непреднамеренно или намеренно создавать запросы в инструментах искусственного интеллекта Microsoft, которые могут содержать конфиденциальную информацию или рискованные намерения. Кроме того, средства ИИ могут неправильно использовать конфиденциальную информацию для предоставления ответов на запросы пользователей, которые могут подвергать вашу организацию повышенным рискам. Чтобы защититься от этих рисков, эта политика может помочь обнаружить и включить оценку рисков для таких типов запросов и ответов в средствах ИИ в вашей организации. Дополнительные сведения см. в статье Сведения об управлении внутренними рисками.

Использование DSPM для портала ИИ

  1. Перейдите на страницу рекомендаций или политик в DSPM для решения искусственного интеллекта в Microsoft Purview.
  2. Выберите "Обнаружение рискованного использования ИИ".
  3. Выберите "Создать политики".
  4. Убедитесь, что статус политики: ON.

Политика использования рискованного ИИ

Тестирование настройки Microsoft Purview DSPM for AI для интеграции приложения с генеративным ИИ

После создания всех политик вы начнете видеть в DSPM for AI активность запросов и ответов ваших приложений генеративного ИИ, обнаружение конфиденциальных данных и аналитику. Сведения о проверке интеграции приложения AI можно найти в разделе Проверка конфигурации Microsoft Purview.

Используйте раздел "Отчеты" или страницу "Отчеты " на панели навигации, чтобы просмотреть результаты созданных политик по умолчанию. Необходимо подождать по крайней мере день, пока отчеты будут заполнены. Выберите категории решений Microsoft Copilot и корпоративных ИИ-приложений, чтобы определить конкретное приложение генеративного ИИ.

Выберите Обозреватель действий , чтобы просмотреть сведения о данных, собранных из политик. Эта более подробная информация включает тип действия, пользователя, дату и время, категорию ИИ-приложения и само приложение, приложение, через которое осуществлялся доступ, любые типы конфиденциальной информации, файлы, на которые имеются ссылки, и конфиденциальные файлы, на которые имеются ссылки.

Создание политик DSPM для AI Know Your Data (KYD) с помощью PowerShell

Вы также можете создать политику Microsoft Purview Know Your Data с помощью PowerShell. Это полезно, если вы хотите автоматизировать создание политики или если вы не можете использовать портал по какой-либо причине.

Important

Уровень применения политик Entra считается устаревшим. Используйте Application при создании или обновлении политик DLP и политик сбора.

Существующие политики: политики защиты от потери данных и политики сбора данных, ранее настроенные с помощью Entra, продолжат работать без изменений. Теперь эти политики отображаются Application в административных интерфейсах, а их поведение и область не изменяются. Для активных политик в настоящее время не требуется никаких действий.

Интеграции: обновите все пользовательские скрипты, автоматизированные процессы или интеграции с API, которые передают значение плоскости применения для политик DLP или политик сбора данных. Замените строку Entra на Application. Пример см. в фрагментах кода PowerShell в этом разделе.

Установите PowerShell 7, если вы еще не сделали этого. См. раздел "Установка PowerShell".

Подключение к PowerShell для обеспечения безопасности и соответствия требованиям

Политика сбора с использованием ingestion ON

Когда сбор данных включён, API Microsoft Purview сохраняют запросы и ответы в Microsoft Purview AI Interactions.

New-FeatureConfiguration -FeatureScenario KnowYourData -Name "DSPM for AI - Collection policy for enterprise AI apps" -Mode Enable -ScenarioConfig '{"Activities": ["UploadText", "DownloadText"], "EnforcementPlanes": ["Application"], "SensitiveTypeIds": ["All"], "IsIngestionEnabled": true}' -Locations '[{"Workload": "Applications","Location": "ee1680d0-702f-4090-b26c-c49091e86531","LocationSource":"Entra","LocationType":"Group","Inclusions": [{"Type": "Tenant","Identity": "All"}]}]'

Политика сбора данных при отключенном приёме данных

Если сбор данных отключен, API Microsoft Purview не будут сохранять запросы и ответы в разделе Microsoft Purview AI Interactions.

Set-FeatureConfiguration "DSPM for AI - Collection policy for enterprise AI apps" -ScenarioConfig '{"Activities": ["UploadText", "DownloadText"], "EnforcementPlanes": ["Application"], "SensitiveTypeIds": ["All"], "IsIngestionEnabled": false}'

Troubleshooting

При выполнении этих команд не следует получать сообщения об ошибках. Некоторые распространенные причины, по которым могут возникать ошибки:

Политика уже существует

Чтобы устранить проблему, удалите политику с помощью

 Remove-FeatureConfiguration "DSPM for AI - Collection policy for enterprise AI apps"

Неправильное форматирование

Чтобы решить проблему, попробуйте вставить текст в Блокнот и отключить перенос по словам. Эта команда должна быть одной непрерывной строкой.

Если функция не была полностью включена для арендатора, появляется сообщение, что командлет не существует.

Чтобы устранить проблему, обратитесь к администратору Microsoft Purview.

References

  • Last updated on