Поделиться через

Использование Microsoft Purview для управления безопасностью данных & соответствием требованиям для Microsoft Agent 365

Описание службы Microsoft Purview

Примечание.

Чтобы получить ранний доступ к Microsoft Agent 365 интерфейсам в Microsoft Purview, необходимо принять участие в программе Предварительной версии Frontier. Поддержка задокументированных возможностей Microsoft Purview в настоящее время развертывается в предварительной версии и может быть изменена.

Поддерживаемые возможности

Используйте следующую таблицу, чтобы ознакомиться с возможностями Microsoft Purview, поддерживаемыми для Microsoft Agent 365.

Возможности или решение в Microsoft Purview Поддерживается взаимодействие с ИИ
DSPM для ИИ (классическая версия) и DSPM (предварительная версия) ✓
Аудит ✓
Классификация данных ✓
Метки конфиденциальности ✓
Шифрование без меток конфиденциальности ✕
Защита от потери данных ✓
Управление внутренними рисками ✓
Соответствие требованиям к обмену данными ✓
Обнаружение электронных данных ✓
Управление жизненным циклом данных ✓
Диспетчер соответствия требованиям ✓

При создании экземпляра агента для Agent 365 он автоматически включается для аудита, обнаружения конфиденциальных данных с классификацией данных и включается в правила оценки ИИ от диспетчера соответствия требованиям. Для других возможностей включите экземпляр агента в политики так же, как и пользователь.

DSPM для ИИ (классическая версия) и DSPM (предварительная версия)

Используйте Управление состоянием безопасности данных для ИИ (классическую версию) или Управление состоянием безопасности данных (предварительная версия) в качестве входной двери для обнаружения, защиты и применения элементов управления соответствием требованиям для использования ИИ в организации. Обе версии DSPM используют существующие элементы управления из Microsoft Purview для защиты информации и управления соответствием требованиям с помощью простых в использовании графических инструментов и отчетов, чтобы быстро получить аналитические сведения об использовании ИИ в организации. Персонализированные рекомендации и политики одним щелчком помогут защитить данные и обеспечить соответствие нормативным требованиям.

Сведения, относящиеся к приложению ИИ:
  • Поддерживается только для Управление состоянием безопасности данных (предварительная версия), используйте страницу наблюдаемости ИИ, чтобы получить представление об активных экземплярах агента, чтобы лучше понять потенциальные риски и способы их устранения. Дополнительные сведения см. в разделе Рекомендации по началу работы.

Аудит и взаимодействие СИ

решения Аудит Microsoft Purview предоставляют комплексные средства для поиска и управления записями аудита действий, выполняемых пользователями и администраторами в различных службах Майкрософт, а также помогают организациям эффективно реагировать на события безопасности, судебно-медицинские расследования, внутренние расследования и обязательства по обеспечению соответствия требованиям.

Как и другие действия, запросы и ответы записываются в единый журнал аудита. События включают, как и когда пользователи взаимодействуют с приложением ИИ, а также могут включать в себя, в какой службе Microsoft 365 произошло действие, а также ссылки на файлы, хранящиеся в Microsoft 365, которые были доступны во время взаимодействия. Если к этим файлам применена метка конфиденциальности, она также записывается.

Эти события передаются в обозреватель действий в DSPM для ИИ и вкладку действия ИИ в обозревателе действий из предварительной версии DSPM, где можно отображать данные из запросов и ответов. Вы также можете использовать решение аудит на портале Microsoft Purview для поиска и поиска этих событий аудита.

Дополнительные сведения см. в разделе Журналы аудита для действий Copilot и ИИ.

Сведения, относящиеся к приложению ИИ:
  • Выполните аудит экземпляра агента так же, как и пользователь.
  • Поддерживаемые взаимодействия: все взаимодействия между агентом и человеком, взаимодействие между агентом и агентом.
  • Помимо отображения в обозревателе действий в DSPM (предварительная версия), выполните поиск Agent 365 действий в журнале аудита.

Классификация данных и взаимодействие СИ

Классификация данных Microsoft Purview предоставляет комплексную платформу для идентификации и маркировки конфиденциальных данных в различных службах Майкрософт, включая Office 365, Dynamics 365 и Azure. Классификация данных часто является первым шагом для обеспечения соблюдения правил защиты данных и защиты от несанкционированного доступа, изменения или уничтожения. Вы можете использовать встроенные системные классификации или создать собственные.

Типы конфиденциальной информации и обучаемые классификаторы можно использовать для поиска конфиденциальных данных в запросах и ответах пользователей при использовании приложений ИИ. Затем полученные сведения отображаются в обзоре отчетов Microsoft Purview и обозревателе действий в DSPM для ИИ и на вкладке действия ИИ в обозревателе действий из предварительной версии DSPM.

Метки конфиденциальности и взаимодействие СИ

Приложения ИИ, поддерживающие Microsoft Purview, используют существующие элементы управления для обеспечения того, чтобы данные, хранящиеся в клиенте, никогда не возвращались пользователю или не использовались крупной языковой моделью (LLM), если у пользователя нет доступа к этим данным. Если к содержимому применяются метки конфиденциальности из вашей организации, существует дополнительный уровень защиты:

  • Если файл открыт в Word, Excel, PowerPoint или аналогично открытое сообщение электронной почты или событие календаря в Outlook, конфиденциальность данных отображается для пользователей в приложении с именем метки и маркировкой содержимого (например, текстом верхнего или нижнего колонтитула), настроенными для метки. Loop компоненты и страницы также поддерживают одинаковые метки конфиденциальности.

  • Когда метка конфиденциальности применяет шифрование, пользователи должны иметь право на использование EXTRACT, а также view, чтобы приложения ИИ возвращали данные.

  • Эта защита распространяется на данные, хранящиеся за пределами вашего клиента Microsoft 365, когда он открыт в приложении Office (используемые данные). Например, локальное хранилище, сетевые папки и облачное хранилище.

Совет

Если вы еще этого не сделали, мы рекомендуем включить метки конфиденциальности для SharePoint и OneDrive, а также ознакомиться с типами файлов и конфигурациями меток, которые могут обрабатываться этими службами. Если метки конфиденциальности не включены для этих служб, зашифрованные файлы, к которым copilot и агенты могут получить доступ, ограничиваются данными, используемыми из приложений Office в Windows.

Инструкции см. в разделе Включение меток конфиденциальности для файлов Office в SharePoint и OneDrive .

Если вы еще не используете метки чувствительности, см. Начало работы с метками чувствительности .

Сведения, относящиеся к приложению ИИ:
  • Чтобы экземпляры агента обращались к файлам, эти файлы должны быть явно переданы им.
  • Если для шифрования настроена примененная метка конфиденциальности, это шифрование должно явно предоставить экземпляру агента права на использование VIEW и EXTRACT. Например, метки конфиденциальности, настроенной для добавления всех пользователей и групп в организации или добавления всех пользователей, прошедших проверку подлинности , будет недостаточно.
  • Только что созданное содержимое из Agent 365 не наследует метки конфиденциальности от исходных элементов. В результате это содержимое не помечается автоматически или не шифруется.

Защита от потери данных и взаимодействие СИ

Защита от потери данных Microsoft Purview (DLP) помогает выявлять конфиденциальные элементы в службах и конечных точках Microsoft 365, отслеживать их и защищать от утечки этих элементов. Он использует глубокую проверку содержимого и контекстный анализ для выявления конфиденциальных элементов и применяет политики для защиты конфиденциальных данных, таких как финансовые записи, медицинская информация или интеллектуальная собственность.

Компьютеры Windows, подключенные к Microsoft Purview , можно настроить для политик защиты от потери данных конечных точек (DLP), которые предупреждают или блокируют предоставление пользователям общего доступа к конфиденциальной информации сторонним сайтам искусственного интеллекта, доступ к которым осуществляется через браузер. Например, пользователю запрещено вставлять в ChatGPT номера карта кредиты или отображается предупреждение о том, что он может переопределить. Дополнительные сведения о поддерживаемых действиях защиты от потери данных и о том, какие платформы поддерживают их, см. в первых двух строках таблицы из раздела Действия конечных точек, которые можно отслеживать и выполнять.

Сведения, относящиеся к приложению ИИ:
  • Поддерживается путем явного указания экземпляров агента в политике защиты от потери данных, как это было бы для пользователя, или путем указания группы безопасности, включающей экземпляры агента.
  • Поддерживаемые взаимодействия: блокировка или аудит взаимодействия агента с человеком и человека для Microsoft Teams, OneDrive или SharePoint, а также сообщений электронной почты.
  • Так как экземпляр агента не знает о действии блока, владелец агента должен активно отслеживать политику защиты от потери данных, которая использует эту конфигурацию, и понимать влияние на последующие рабочие процессы.

Управление внутренними рисками и взаимодействие с ИИ

Управление внутренними рисками Microsoft Purview помогает обнаруживать, исследовать и устранять внутренние риски, такие как кража IP-адресов, утечка данных и нарушения безопасности. В нем используются модели машинного обучения и различные сигналы от Microsoft 365 и сторонних индикаторов для выявления потенциальных вредоносных или непреднамеренных инсайдерских действий. Решение включает в себя элементы управления конфиденциальностью, такие как псевдонимизация и доступ на основе ролей, обеспечивая конфиденциальность на уровне пользователя и позволяя аналитикам рисков принимать соответствующие меры.

Используйте шаблон политики рискованного использования ИИ для обнаружения рискованного использования, которое включает в себя атаки с применением запросов на внедрение и доступ к защищенным материалам. Аналитические сведения об этих сигналах интегрированы в Microsoft Defender XDR, чтобы получить полное представление о рисках, связанных с ИИ.

Сведения, относящиеся к приложению ИИ:
  • Поддерживается путем явного указания экземпляров агента в политике управления внутренними рисками, как и для пользователя.
  • Поддерживает встроенные события триггера, например кражу данных.

Соответствие требованиям к обмену данными и взаимодействие с ИИ

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие обнаруживать и контролировать нарушения соответствия нормативным требованиям и бизнес-поведения в различных каналах коммуникации, включая запросы и ответы пользователей для приложений ИИ. Он по умолчанию разработан с конфиденциальностью, псевдонимизируя имена пользователей и включая элементы управления доступом на основе ролей. Решение помогает выявлять и устранять недопустимые сообщения, такие как обмен конфиденциальной информацией, домогательства, угрозы и содержимое для взрослых.

Дополнительные сведения об использовании политик соответствия требованиям к обмену данными для приложений ИИ см. в статье Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействий с генеративным ИИ.

Сведения, относящиеся к приложению ИИ:
  • Поддерживает обнаружение неэтичного взаимодействия для Microsoft Teams и электронной почты, для взаимодействия между агентом и человеком и агентом.

Обнаружение электронных данных и взаимодействие СИ

Microsoft Purview eDiscovery позволяет идентифицировать и доставить электронную информацию, которую можно использовать в качестве доказательства в судебных делах. Средства обнаружения электронных данных в Microsoft Purview поддерживают поиск содержимого в командах Exchange Online, OneDrive для бизнеса, SharePoint Online, Microsoft Teams, Группы Microsoft 365 и Viva Engage. Затем вы можете запретить удаление и экспорт информации.

Так как запросы и ответы пользователей для приложений ИИ хранятся в почтовом ящике пользователя, можно создать вариант и использовать поиск , когда почтовый ящик пользователя выбран в качестве источника для поискового запроса. Например, выберите и получите эти данные из исходного почтового ящика, выбрав из построителя запросовТип>содержит>любое действие>Edit>Copilot. Это условие запроса включает все действия Copilot и других приложений ИИ.

После уточнения поиска результаты можно экспортировать или добавить в набор для проверки. Вы можете просматривать и экспортировать сведения непосредственно из набора для проверки.

Дополнительные сведения о идентификации и удалении данных взаимодействия с пользователем ИИ см. в статье Поиск и удаление данных Copilot в eDiscovery.

Сведения, относящиеся к приложению ИИ:
  • Определите экземпляр агента так же, как и пользователя.
  • Поддерживает взаимодействие между агентом и человеком и агентом.

Управление жизненным циклом данных и взаимодействие СИ

Управление жизненным циклом данных Microsoft Purview предоставляет инструменты и возможности для управления жизненным циклом организационных данных, сохраняя необходимое содержимое и удаляя ненужное содержимое. Эти средства обеспечивают соответствие бизнес-, юридическим и нормативным требованиям.

Используйте политики хранения для автоматического хранения или удаления запросов и ответов пользователей для приложений ИИ. Подробные сведения об этом способе хранения см. в статье Сведения о хранении для приложений Copilot & ИИ.

Как и во всех политиках хранения и удержаниях, если к пользователю применяется несколько политик для одного расположения, принципы хранения разрешают любые конфликты. Например, данные хранятся в течение самого длительного срока из всех применяемых политик хранения или удержаний eDiscovery.

Сведения, относящиеся к приложению ИИ:
  • Поддерживает расположения, в том числе Microsoft Teams, OneDrive и SharePoint, а также сообщения электронной почты.
  • Поддерживает взаимодействие между агентом и человеком и агентом.

Взаимодействие с диспетчером соответствия требованиям и ИИ

Microsoft Purview Compliance Manager — это решение, которое помогает автоматически оценивать соответствие требованиям и управлять ими в многооблачной среде. Диспетчер соответствия требованиям поможет вам на протяжении всего пути к соответствию требованиям, от составления списка рисков защиты данных до управления сложными моментами реализации элементов управления, получения сведений о нормативных требованиях и сертификатах, а также отправки отчетов аудиторам.

Чтобы обеспечить соответствие нормативным требованиям ИИ, диспетчер соответствия требованиям предоставляет шаблоны нормативных требований, которые помогут вам оценить, внедрить и укрепить требования к соответствию для всех приложений искусственного интеллекта. Например, мониторинг взаимодействия ИИ и предотвращение потери данных в приложениях ИИ. Дополнительные сведения см. в разделе Оценки правил ИИ.

Чтобы приступить к управлению безопасностью данных & соответствия требованиям для Agent 365. используйте портал Microsoft Purview. Вам нужна учетная запись с соответствующими разрешениями для управления безопасностью и соответствием требованиям, например учетная запись, которая является членом роли администратора соответствия требованиям Entra или группы ролей Microsoft Purview Compliance Administrator .

Затем перейдите к предварительной версии Управление состоянием безопасности данных: DSPM (предварительная версия)>наблюдаемость ИИ.

Примечание.

Не путайте эту предварительную версию с предыдущей версией, которая называется Управление состоянием безопасности данных (классическая). Классическая версия не поддерживает Agent 365.

На странице Наблюдаемость ИИ :

  • Просмотрите обзор всех агентов в организации с действиями за последние 30 дней с наивысшим уровнем риска, определяемым управлением внутренними рисками.
  • Анализ наиболее рискованных действий: чрезмерного совместного доступа, кражи и неэтичного поведения.
  • Выберите конкретный агент, чтобы просмотреть сведения:
    • Сведения об агенте, включая состояние с поддержкой Entra, дату создания, владельца, идентификатор пользователя агента и агента, для которого он является экземпляром.
    • Действия агента, которые включают уровень риска, определенный управлением внутренними рисками, и любые рискованные действия при взаимодействии с агентом.
    • Рекомендации по исправлению, использующее решения Microsoft Purview, на основе выявленных рисков.
  • Last updated on