Поделиться через

Сведения о Управление состоянием безопасности данных для ИИ ( классическая версия)

Описание службы Microsoft Purview

Примечание.

Эта статья предназначена для классической версии Управление состоянием безопасности данных, которая заменяется новой версией, которая представляет интерактивные рабочие процессы для упреждающего управления рисками и упрощает операции по обеспечению безопасности данных, чтобы вы могли более уверенно внедрять ИИ в цифровых активах.

Эти улучшения не будут добавлены в эту классическую версию, поэтому мы предлагаем вам попробовать новую Управление состоянием безопасности данных, в настоящее время в предварительной версии.

Управление состоянием безопасности данных Microsoft Purview (DSPM) для ИИ на портале Microsoft Purview предоставляет централизованное расположение управления, помогающее быстро защитить данные для приложений ИИ и проактивно отслеживать использование ИИ. К этим приложениям относятся Copilots, агенты и другие приложения ИИ, использующие сторонние крупные языковые модули (LLM).

Управление состоянием безопасности данных для ИИ предлагает набор возможностей, которые позволяют безопасно внедрять ИИ без необходимости выбирать между производительностью и защитой:

  • Аналитика и аналитика действий ИИ в вашей организации

  • Готовые к использованию политики для защиты данных и предотвращения потери данных в запросах ИИ

  • Оценки рисков данных для выявления, исправления и мониторинга потенциального чрезмерного совместного использования данных.

  • Элементы управления соответствием для применения политик оптимальной обработки и хранения данных

Список поддерживаемых сторонних сайтов ИИ, таких как сайты, используемые для Gemini и ChatGPT, см. в статье Поддерживаемые сайты ИИ Microsoft Purview для защиты данных и обеспечения соответствия требованиям.

Использование Управление состоянием безопасности данных для ИИ

Чтобы быстрее получать аналитические сведения об использовании ИИ и защищать данные, Управление состоянием безопасности данных для ИИ предоставляет некоторые рекомендуемые предварительно настроенные политики, которые можно активировать одним щелчком мыши. Если вы используете административные единицы, вы должны быть неограниченным администратором, чтобы создать эти политики, которые применяются ко всем пользователям в вашей организации.

Уделите этим новым политикам не менее 24 часов для сбора данных, чтобы отобразить результаты в Управление состоянием безопасности данных для ИИ или отразить любые изменения, внесенные в параметры по умолчанию.

Снимок экрана: пример Управление состоянием безопасности данных для ИИ Microsoft Purview.

Активация не требуется, Управление состоянием безопасности данных для ИИ автоматически выполняет еженедельную оценку риска данных для 100 лучших сайтов SharePoint на основе использования в вашей организации. Вы можете дополнить это с помощью собственных пользовательских оценок риска данных, которые сейчас находятся в предварительной версии. Эти оценки предназначены специально для того, чтобы помочь вам выявлять, исправлять и отслеживать потенциальный общий доступ к данным, чтобы вы могли быть более уверены в своей организации с помощью Microsoft 365 Copilot и агентов, а также Microsoft 365 Copilot Chat.

Чтобы приступить к работе с Управление состоянием безопасности данных для ИИ, используйте портал Microsoft Purview. Вам нужна учетная запись с соответствующими разрешениями для управления соответствием требованиям, например учетная запись, которая является членом роли Microsoft Entra группы "Администратор соответствия требованиям".

Совет

Ниже приведено рекомендуемое пошаговое руководство по использованию всех доступных возможностей DSPM для ИИ. Если вы хотите использовать DSPM для ИИ только для определенного приложения ИИ, используйте ссылки в разделе Дальнейшие действия.

  1. Вход на портал> Microsoft PurviewРешения>DSPM для ИИ (классическая модель).

    Выбор решения Управление состоянием безопасности данных для ИИ Microsoft Purview на портале Microsoft Purview.

  2. В разделе Обзор оставьте выбранным представление Все приложения ИИ . Дополнительные сведения о Управление состоянием безопасности данных для ИИ и немедленных действиях, которые можно предпринять, см. в разделе Начало работы. Выберите каждый из них, чтобы отобразить всплывающий элемент, чтобы узнать больше, выполнить действия и проверить текущее состояние.

    Действие Дополнительная информация
    Включение Аудит Microsoft Purview Аудит включен по умолчанию для новых клиентов, поэтому вы уже можете выполнить это требование. Если вы это делаете и пользователям уже назначены лицензии на Microsoft 365 Copilot, вы начинаете просматривать аналитические сведения о действиях Copilot и агентов в разделе Отчеты далее вниз по странице.
    Установка расширения браузера Microsoft Purview Необходимое условие для сторонних сайтов ИИ.
    Подключение устройств к Microsoft Purview Кроме того, необходимое условие для сторонних сайтов ИИ.
    Расширение аналитических сведений для обнаружения данных Политики одного щелчка для сбора сведений о пользователях, посещающих сторонние сайты и отправляющих им конфиденциальную информацию. Этот параметр совпадает с кнопкой "Расширить аналитику " в разделе Аналитика данных ИИ далее вниз по странице.

    Дополнительные сведения о предварительных требованиях см. в разделе Предварительные требования для Управление состоянием безопасности данных для ИИ.

    Дополнительные сведения о предварительно настроенных политиках, которые можно активировать, см. в разделе Политики одним щелчком из Управление состоянием безопасности данных для ИИ.

  3. Затем просмотрите раздел Рекомендации и решите, следует ли реализовать какие-либо параметры, относящиеся к вашему клиенту. Просмотрите каждую рекомендацию, чтобы понять, как они относятся к вашим данным, и узнать больше.

    Эти варианты включают в себя оценку риска данных на сайтах SharePoint, создание меток конфиденциальности и политик для защиты данных, а также создание политик по умолчанию , которые помогут вам немедленно обнаруживать и защищать конфиденциальные данные, отправляемые на генерируемые сайты ИИ. Примеры рекомендаций:

    • Защитите данные от потенциальных рисков чрезмерного использования, просмотрев результаты оценки риска данных по умолчанию, чтобы выявить и устранить проблемы, чтобы помочь вам более уверенно развертывать Microsoft 365 Copilot.
    • Защитите данные с помощью меток конфиденциальности , создав набор меток конфиденциальности по умолчанию , если у вас еще нет меток конфиденциальности, а также политики для их публикации и автоматической маркировки документов и сообщений электронной почты.
    • Защитите элементы с метками конфиденциальности от Microsoft 365 Copilot и обработки агентов, предлагая выбрать одну или несколько меток конфиденциальности, которые не позволяют Microsoft 365 Copilot и агентам суммировать помеченные данные. Дополнительные сведения об этой возможности см. в статье Сведения об использовании Защита от потери данных Microsoft Purview для защиты взаимодействия с Microsoft 365 Copilot и Copilot Chat.
    • Обнаружение рискованных взаимодействий в приложениях ИИ для расчета риска пользователей путем обнаружения рискованных запросов и ответов в Microsoft 365 Copilot, агентах и других приложениях искусственного интеллекта. Дополнительные сведения см. в статье Рискованное использование ИИ.
    • Обнаруживайте и управляйте взаимодействием с ИИ ChatGPT Enterprise путем регистрации рабочих областей ChatGPT Enterprise. Вы можете определить потенциальные риски раскрытия данных путем обнаружения конфиденциальной информации, которая предоставляется совместно с ChatGPT Enterprise.
    • Получите интерактивную помощь по нормативным требованиям ИИ, в котором используются нормативные шаблоны для сопоставления элементов управления, от диспетчера соответствия требованиям.
    • Безопасное взаимодействие для Microsoft Copilot взаимодействия, которое фиксирует запросы и ответы для Copilot в Fabric, а также Security Copilot. Без политики, аналогичной той, которая создается с помощью этой рекомендации, события аудита регистрируются для Copilot в Fabric и Security Copilot, но не запросы и ответы.
    • Обнаружение конфиденциальной информации, к которой предоставляется ИИ через сеть, которая использует защиту сетевых данных для обнаружения типов конфиденциальной информации, к которым предоставлен доступ приложениям ИИ в браузерах, приложениях, API, надстройках и т. д., с помощью пограничной службы безопасного доступа или интеграции Security Service Edge.
    • Безопасное взаимодействие из корпоративных приложений, которое фиксирует запросы и ответы на соответствие нормативным требованиям из приложений ИИ, зарегистрированных Entra, ChatGPT Enterprise Connector и приложений, созданных на основе Microsoft Foundry.
    • Защита данных в приложениях и агентах ИИ Azure, которые настроили инструкции по сбору запросов и ответов для приложений ИИ, использующих одну или несколько подписок на ИИ Azure.

    Вы можете использовать ссылку Просмотреть все рекомендации или Рекомендации из области навигации, чтобы просмотреть все доступные рекомендации для клиента и их состояние. Если рекомендация будет завершена или отклонена, она больше не отображается на странице Обзор .

  4. Используйте раздел Отчеты или страницу Отчеты в области навигации, чтобы просмотреть результаты созданных по умолчанию политик. Необходимо подождать по крайней мере день, пока отчеты будут заполнены. Выберите категории возможностей и агентов Copilot, корпоративных приложений ИИ и других приложений ИИ , чтобы помочь вам определить конкретное приложение искусственного интеллекта.

  5. На странице Политики можно отслеживать состояние политик по умолчанию, созданных по умолчанию , и политик, связанных с ИИ, из других решений Microsoft Purview. Чтобы изменить политики, используйте соответствующее решение для управления на портале. Например, для DSPM для ИИ — неэтичное поведение в Copilot можно просмотреть и исправить совпадения из решения по соответствию связи.

    Примечание.

    Если у вас есть старые политики хранения для чатов Teams по расположению и взаимодействий с Copilot, они не включаются на эту страницу. Узнайте, как создать отдельные политики хранения для возможностей Microsoft Copilot, которые будут включены на этой странице политики.

  6. Выберите Приложения и агенты , чтобы просмотреть панель мониторинга приложений ИИ и их агентов, используемых в вашей организации, чтобы определить потенциальные угрозы безопасности данных и управлять ими. Для каждого агента просмотрите сведения о конфиденциальных данных, к которым он обращается, и о том, как они защищены политиками из Microsoft Purview.

  7. Выберите Обозреватель действий , чтобы просмотреть сведения о данных, собранных из политик.

    Эта более подробная информация включает в себя тип действия и пользователя, дату и время, категорию приложения ИИ и приложение, приложение с доступом, любые типы конфиденциальной информации, файлы, на которые ссылается ссылка, и конфиденциальные файлы.

    Примеры действий включают взаимодействие с ИИ, типы конфиденциальной информации и посещение веб-сайта ИИ. Запросы и ответы включаются в события взаимодействия СИ при наличии правильных разрешений. Вы можете использовать фильтр веб-запросов в обозревателе действий, чтобы проще определить, какие взаимодействия СИ имеют веб-запрос. С помощью всплывающей области взаимодействия с ИИ текст поискового запроса в разделе Веб-ссылки на ИИ используется . Дополнительные сведения о событиях см. в разделе События обозревателя действий.

    Как и в категориях отчетов, рабочие нагрузки включают возможности и агенты Copilot, корпоративные приложения ИИ и другие приложения ИИ. Примерами идентификатора приложения и узла приложения для интерфейсов и агентов Copilot являются Microsoft 365 Copilots и Copilot Studio. Приложения корпоративного ИИ включают ChatGPT Enterprise. Другие приложения ИИ включают приложения с поддерживаемых сторонних сайтов ИИ, таких как те, которые используются для Gemini и ChatGPT.

  1. Выберите Оценки рисков данных , чтобы определить и устранить потенциальные риски, связанные с избыточным доступом к данным в организации. Из-за мощности и скорости ИИ может упреждающе отображать содержимое, которое может быть устаревшим, с превышением разрешений или отсутствием элементов управления, генеративный ИИ усиливает проблему чрезмерного совместного использования данных. Используйте оценки риска данных для выявления и устранения проблем.

    Для использования аналитических сведений в SharePoint и OneDrive используйте вкладку Microsoft 365 и вкладку Структура для элементов в рабочих областях Fabric.

    Оценка риска данных по умолчанию автоматически выполняется еженедельно для 100 лучших сайтов SharePoint на основе использования в вашей организации. Возможно, вы уже выполнили настраиваемую оценку в качестве одной из рекомендаций. Однако регулярно вернитесь к этому параметру, чтобы проверка последние еженедельные результаты оценки по умолчанию и запускать пользовательские оценки, когда вы хотите проверка для разных пользователей или определенных сайтов. После выполнения пользовательской оценки подождите по крайней мере 48 часов, чтобы увидеть результаты, которые больше не обновляются. Вам потребуется новая оценка, чтобы увидеть любые изменения в результатах.

    Оценка по умолчанию отображается в верхней части страницы с краткой сводкой, например общим количеством найденных элементов, количеством обнаруженных конфиденциальных данных и количеством ссылок, которые совместно используют данные. При создании первой оценки по умолчанию перед отображением результатов происходит 4-дневная задержка.

    После выбора пункта Просмотреть сведения для получения более подробных сведений выберите в списке каждый сайт, чтобы получить доступ к всплывающей панели с вкладками Обзор, Идентификация, Защита и Мониторинг. Используйте сведения на каждой вкладке, чтобы узнать больше и выполнить рекомендуемые действия. Например, вы можете:

    Используйте вкладку Определение , чтобы определить, сколько данных было проверено или не сканировано на наличие конфиденциальной информации, и при необходимости можно инициировать проверку классификации по запросу .

    Используйте вкладку Защита , чтобы выбрать параметры для устранения чрезмерного совместного использования, которые включают следующие:

    • Ограничение доступа по меткам. Используйте Защита от потери данных Microsoft Purview, чтобы создать политику защиты от потери данных, которая запрещает Microsoft 365 Copilot и агентам суммировать данные при выборе меток конфиденциальности. Дополнительные сведения о том, как это работает и поддерживаемых сценариях, см. в статье Сведения об использовании Защита от потери данных Microsoft Purview для защиты взаимодействия с Microsoft 365 Copilot и Copilot Chat.
    • Ограничить все элементы. Используйте обнаружение содержимого с ограниченным доступом в SharePoint, чтобы вывести список сайтов SharePoint, которые будут исключены из Microsoft 365 Copilot. Дополнительные сведения см. в разделе Ограничение обнаружения сайтов и содержимого SharePoint.
    • Создание политики автоматической маркировки. При обнаружении конфиденциальной информации для файлов без меток используйте Защита информации Microsoft Purview, чтобы создать политику автоматической маркировки, чтобы автоматически применить метку конфиденциальности к конфиденциальным данным. Дополнительные сведения о создании этой политики см. в статье Настройка политик автоматической маркировки для SharePoint, OneDrive и Exchange.
    • Создание политик хранения. Если доступ к содержимому не был предоставлен не менее 3 лет, используйте Управление жизненным циклом данных Microsoft Purview, чтобы автоматически удалить его. Дополнительные сведения о создании политики хранения см. в статье Создание и настройка политик хранения.

    Используйте вкладку Монитор , чтобы просмотреть количество элементов на сайте, к которым предоставлен доступ всем пользователям, общий доступ всем пользователям в организации, общий доступ к определенным пользователям и внешний доступ. Выберите Запустить проверку доступа к сайту SharePoint , чтобы узнать, как использовать отчеты по управлению доступом к данным SharePoint.

  1. Чтобы создать собственную настраиваемую оценку риска данных, выберите Создать настраиваемую оценку , чтобы определить потенциальные проблемы с общим доступом для всех или выбранных пользователей, источников данных, которые нужно проверить, и запустить оценку.

    Примечание.

    Пользовательские оценки Microsoft 365 при необходимости поддерживают сканирование на уровне элементов с действиями по исправлению при выполнении одноразовой проверки подлинности. Чтобы указать необходимые параметры, необходимо иметь зарегистрированное приложение Entra. Дополнительные сведения о приложении Entra см. в разделе Предварительные требования для проверки на уровне элементов Microsoft 365 для оценки рисков данных.

    Выберите Уровень элемента на странице Уровень сканирования , а затем — Проверка подлинности , чтобы указать сведения о приложении Entra.

    Эта оценка риска данных создается в категории Пользовательские оценки . Дождитесь, пока состояние оценки отобразится Завершено, и выберите ее для просмотра сведений. Чтобы повторно запустить настраиваемую оценку риска данных и просмотреть результаты по истечении 30 дней, используйте параметр дублировать, чтобы создать новую оценку с теми же выбранными параметрами.

    Сканирование на уровне элементов и исправление для элементов, которые потенциально являются общими, применимы только к Microsoft 365 и в настоящее время ограничены сайтами SharePoint. Эта проверка определяет элементы как потенциально избыточные, если у них есть ссылка для общего доступа для внешних или анонимных пользователей, а также отображает примененную метку конфиденциальности и владельца каждого элемента.

    После завершения проверки откройте настраиваемую оценку и просмотрите аналитические сведения на уровне элементов на вкладке Потенциально общий доступ к элементам или кнопку Просмотреть элементы на баннере Потенциально общий доступ к элементам . Следующие действия по исправлению могут быть выполнены для определенных потенциально общих элементов:
    • Разрешение, например, если вы решили, что элемент не подвержен риску чрезмерного совместного использования.
    • Примените метку конфиденциальности к элементам, которые в настоящее время определены как не помеченные или должны иметь другую метку конфиденциальности.
    • Уведомление владельца сайта с помощью уведомления по электронной почте (не настраивается).
    • Удалите ссылку для общего доступа , чтобы удалить существующую ссылку общего доступа, чтобы ее больше нельзя было использовать для доступа к элементу. Это действие, которое следует использовать с осторожностью, так как оно может помешать пользователям получить доступ к элементу на законных основаниях. В этом сценарии владелец сайта или владелец элемента должен задать менее разрешенный тип канала общего доступа для авторизованных пользователей. Если вы еще этого не сделали, попробуйте настроить метки конфиденциальности для ссылки общего доступа по умолчанию.
    Уведомление по электронной почте содержит сведения и инструкции о потенциально общих элементах на сайте. Он также содержит варианты перехода на сайт SharePoint для управления доступом к элементам оттуда или на портал Microsoft Purview для просмотра только для чтения результатов сканирования на уровне элементов, в которых отображаются только элементы и сайты, которые им принадлежат.

    Совет

    Как стандартные, так и пользовательские оценки риска данных предоставляют параметр "Экспорт" , который позволяет сохранять и настраивать данные в разных форматах файлов (Excel, CSV, JSON, TSV).

    Ограничения для Microsoft 365:
    • Не более 200 000 элементов в каждом расположении, что относится как к пользовательской оценке риска данных, так и к оценке рисков данных по умолчанию. Количество файлов, сообщаемых, может быть не точным, если в каждом расположении имеется более 100 000 файлов.
    • В настоящее время OneDrive не поддерживается для сканирования на уровне элементов.
    • Текущий максимум 10 сайтов SharePoint для сканирования на уровне элементов.

Дальнейшие действия

Используйте политики, инструменты и аналитические сведения из DSPM для ИИ в сочетании с дополнительными возможностями защиты и соответствия требованиям от Microsoft Purview. Если вас интересует определенное приложение ИИ, воспользуйтесь следующими ссылками:

  • Last updated on