Поделиться через

Использование Microsoft Purview для управления безопасностью данных & соответствием требованиям для Microsoft 365 Copilot & Microsoft 365 Copilot Chat

Описание службы Microsoft Purview

Используйте следующие разделы, чтобы определить возможности Microsoft Purview, поддерживаемые для взаимодействия ИИ с Microsoft 365 Copilot & Microsoft 365 Copilot Chat, и некоторые рекомендации по началу работы для управления этими взаимодействиями СИ для обеспечения безопасности и соответствия требованиям.

Поддерживаемые возможности

Используйте следующую таблицу, чтобы просмотреть возможности Microsoft Purview, поддерживаемые Microsoft 365 Copilot & Microsoft 365 Copilot Chat.

Возможности или решение в Microsoft Purview Поддерживается взаимодействие с ИИ
DSPM для ИИ (классическая версия) и DSPM (предварительная версия) ✓
Аудит ✓
Классификация данных ✓
Метки конфиденциальности ✓
Шифрование без меток конфиденциальности ✓
Защита от потери данных ✓
Управление внутренними рисками ✓
Соответствие требованиям к обмену данными ✓
Обнаружение электронных данных ✓
Управление жизненным циклом данных ✓
Диспетчер соответствия требованиям ✓

DSPM для ИИ (классическая версия) и DSPM (предварительная версия)

Используйте Управление состоянием безопасности данных для ИИ (классическую версию) или Управление состоянием безопасности данных (предварительная версия) в качестве входной двери для обнаружения, защиты и применения элементов управления соответствием требованиям для использования ИИ в организации. Обе версии DSPM используют существующие элементы управления из Microsoft Purview для защиты информации и управления соответствием требованиям с помощью простых в использовании графических инструментов и отчетов, чтобы быстро получить аналитические сведения об использовании ИИ в организации. Персонализированные рекомендации и политики одним щелчком помогут защитить данные и обеспечить соответствие нормативным требованиям.

Сведения, относящиеся к приложению ИИ:

  • Оценки рисков данных помогают выявлять и устранять проблемы, которые могут привести к чрезмерному совместному просмотру данных. Из рекомендаций:

    • Защитите данные от потенциальных рисков чрезмерного совместного доступа для еженедельной оценки рисков данных по умолчанию.
    • Защита ссылок на конфиденциальные данные в ответах Copilot и агентов для пользовательской оценки риска данных.

  • Рекомендация. Получите интерактивную помощь в правилах ИИ, в которых используются нормативные шаблоны сопоставления элементов управления из диспетчера соответствия требованиям.

  • Дополнительные рекомендации вобзоре> Microsoft 365 Copilot представлении.

  • Доступные политики одним щелчком :

    • Метки конфиденциальности и политики из рекомендации или действия по исправлению Защитите данные с помощью меток конфиденциальности.
    • DSPM для ИИ. Обнаружение рискованного использования ИИ с помощью рекомендации или действия по исправлению Обнаружение рискованных взаимодействий в приложениях ИИ.
    • DSPM для ИИ — неэтичное поведение в приложениях ИИ из действия рекомендации или исправления Обнаружение неэтичного поведения в ИИ.
    • DSPM для ИИ. Защита конфиденциальных данных от обработки Copilot с помощью рекомендации или действия по исправлению Защита элементов с помощью меток конфиденциальности из Microsoft 365 Copilot и обработки агентов
    • DSPM для ИИ. Обнаружение конфиденциальной информации, совместно используемой ИИ через сеть, из действия рекомендации или исправления Расширьте аналитические сведения о конфиденциальных данных во взаимодействии с приложениями ИИ.

Аудит и взаимодействие СИ

решения Аудит Microsoft Purview предоставляют комплексные средства для поиска и управления записями аудита действий, выполняемых пользователями и администраторами в различных службах Майкрософт, а также помогают организациям эффективно реагировать на события безопасности, судебно-медицинские расследования, внутренние расследования и обязательства по обеспечению соответствия требованиям.

Как и другие действия, запросы и ответы записываются в единый журнал аудита. События включают, как и когда пользователи взаимодействуют с приложением ИИ, а также могут включать в себя, в какой службе Microsoft 365 произошло действие, а также ссылки на файлы, хранящиеся в Microsoft 365, которые были доступны во время взаимодействия. Если к этим файлам применена метка конфиденциальности, она также записывается.

Эти события передаются в обозреватель действий в DSPM для ИИ и вкладку действия ИИ в обозревателе действий из предварительной версии DSPM, где можно отображать данные из запросов и ответов. Вы также можете использовать решение аудит на портале Microsoft Purview для поиска и поиска этих событий аудита.

Дополнительные сведения см. в разделе Журналы аудита для действий Copilot и ИИ.

Классификация данных и взаимодействие СИ

Классификация данных Microsoft Purview предоставляет комплексную платформу для идентификации и маркировки конфиденциальных данных в различных службах Майкрософт, включая Office 365, Dynamics 365 и Azure. Классификация данных часто является первым шагом для обеспечения соблюдения правил защиты данных и защиты от несанкционированного доступа, изменения или уничтожения. Вы можете использовать встроенные системные классификации или создать собственные.

Типы конфиденциальной информации и обучаемые классификаторы можно использовать для поиска конфиденциальных данных в запросах и ответах пользователей при использовании приложений ИИ. Затем полученные сведения отображаются в обзоре отчетов Microsoft Purview и обозревателе действий в DSPM для ИИ и на вкладке действия ИИ в обозревателе действий из предварительной версии DSPM.

Метки конфиденциальности и взаимодействие СИ

Приложения ИИ, поддерживающие Microsoft Purview, используют существующие элементы управления для обеспечения того, чтобы данные, хранящиеся в клиенте, никогда не возвращались пользователю или не использовались крупной языковой моделью (LLM), если у пользователя нет доступа к этим данным. Если к содержимому применяются метки конфиденциальности из вашей организации, существует дополнительный уровень защиты:

  • Если файл открыт в Word, Excel, PowerPoint или аналогично открытое сообщение электронной почты или событие календаря в Outlook, конфиденциальность данных отображается для пользователей в приложении с именем метки и маркировкой содержимого (например, текстом верхнего или нижнего колонтитула), настроенными для метки. Loop компоненты и страницы также поддерживают одинаковые метки конфиденциальности.

  • Когда метка конфиденциальности применяет шифрование, пользователи должны иметь право на использование EXTRACT, а также view, чтобы приложения ИИ возвращали данные.

  • Эта защита распространяется на данные, хранящиеся за пределами вашего клиента Microsoft 365, когда он открыт в приложении Office (используемые данные). Например, локальное хранилище, сетевые папки и облачное хранилище.

Совет

Если вы еще этого не сделали, мы рекомендуем включить метки конфиденциальности для SharePoint и OneDrive, а также ознакомиться с типами файлов и конфигурациями меток, которые могут обрабатываться этими службами. Если метки конфиденциальности не включены для этих служб, зашифрованные файлы, к которым copilot и агенты могут получить доступ, ограничиваются данными, используемыми из приложений Office в Windows.

Инструкции см. в разделе Включение меток конфиденциальности для файлов Office в SharePoint и OneDrive .

Если вы еще не используете метки чувствительности, см. Начало работы с метками чувствительности .

Сведения, относящиеся к приложению ИИ:

  • Microsoft 365 Copilot Chat отображает метку конфиденциальности для элементов, перечисленных в ответе и ссылках. Используя номер приоритета меток конфиденциальности, определенный на портале Microsoft Purview, последний ответ в Microsoft 365 Copilot Chat, а потоковые сводки в чате Copilot в Teams и каналах отображают метку конфиденциальности с наивысшим приоритетом из данных, используемых для этого чата Copilot.

    Хотя администраторы соответствия требованиям определяют приоритет метки конфиденциальности, более высокий номер приоритета обычно означает более высокую чувствительность содержимого с более строгими разрешениями. В результате ответы Copilot отображают наиболее ограничивающую метку конфиденциальности, чтобы сообщить пользователю о конфиденциальности данных.

  • Copilot в Word и Copilot в PowerPoint поддерживают наследование меток конфиденциальности для вновь созданного содержимого. Дополнительные сведения см. в следующем разделе.

Наследование меток конфиденциальности

Если вы используете Copilot в Word или Copilot в PowerPoint для создания нового содержимого на основе элемента, к которому применена метка конфиденциальности, метка конфиденциальности из исходного файла автоматически наследуется с параметрами защиты метки.

Например, пользователь выбирает Черновик с Copilot в Word, а затем — ссылку на файл. Либо пользователь выбирает Создать презентацию из файла в PowerPoint или Изменить в страницах из Microsoft 365 Copilot Chat. К исходному содержимому применена метка конфиденциальности "Конфиденциальный\Любой (неограниченную) и эта метка настроена для применения нижнего колонтитула с надписью "Конфиденциально". Новый контент автоматически помечается как Конфиденциально\Любой (без ограничений) с тем же нижним колонтитулом.

Чтобы увидеть пример этого в действии, просмотрите следующую демонстрацию из сеанса Ignite 2023: "Подготовка предприятия к Microsoft 365 Copilot". В демонстрации показано, как метка конфиденциальности по умолчанию общего заменяется меткой Конфиденциально , когда пользователь выполняет черновик с помощью Copilot и ссылается на помеченный файл. Информационная панель под лентой информирует пользователя о том, что содержимое, созданное Copilot, привело к автоматическому применению новой метки:

Если для создания нового содержимого используется несколько файлов, метка конфиденциальности с наивысшим приоритетом используется для наследования меток.

Как и во всех сценариях автоматической маркировки, пользователь всегда может переопределить и заменить унаследованную метку (или удалить, если вы не используете обязательную маркировку ).

Шифрование без меток конфиденциальности и взаимодействия СИ

Даже если к контенту не применена метка конфиденциальности, службы и продукты могут использовать возможности шифрования службы Azure Rights Management. В результате приложения ИИ по-прежнему могут проверка для прав использования VIEW и EXTRACT, прежде чем возвращать данные и ссылки пользователю, но автоматическое наследование защиты для новых элементов не происходит.

Совет

Вы получите лучший пользовательский интерфейс, если вы всегда используете метки конфиденциальности для защиты данных, а шифрование применяется меткой.

Примеры продуктов и услуг, которые могут использовать возможности шифрования службы Azure Rights Management без меток конфиденциальности:

  • Шифрование сообщений Microsoft Purview
  • Управление правами на информацию (IRM) от Microsoft
  • Соединитель Microsoft Rights Management
  • Microsoft Rights Management SDK

Для других методов шифрования, не использующих службу Azure Rights Management:

  • Защищенные S/MIME сообщения электронной почты не будут возвращены Copilot, и Copilot недоступен в Outlook, когда открыта защищенная электронная почта S/MIME.

  • Защищенные паролем документы не могут быть доступны приложениям ИИ, если они еще не открыты пользователем в том же приложении (используемые данные). Пароли не наследуются целевым элементом.

Как и в случае с другими службами Microsoft 365, такими как обнаружение электронных данных и поиск, элементы, зашифрованные с помощью ключа клиента Microsoft Purview или собственного корневого ключа (BYOK), поддерживаются и могут быть возвращены Copilot.

Защита от потери данных и взаимодействие СИ

Защита от потери данных Microsoft Purview (DLP) помогает выявлять конфиденциальные элементы в службах и конечных точках Microsoft 365, отслеживать их и защищать от утечки этих элементов. Он использует глубокую проверку содержимого и контекстный анализ для выявления конфиденциальных элементов и применяет политики для защиты конфиденциальных данных, таких как финансовые записи, медицинская информация или интеллектуальная собственность.

Компьютеры Windows, подключенные к Microsoft Purview , можно настроить для политик защиты от потери данных конечных точек (DLP), которые предупреждают или блокируют предоставление пользователям общего доступа к конфиденциальной информации сторонним сайтам искусственного интеллекта, доступ к которым осуществляется через браузер. Например, пользователю запрещено вставлять в ChatGPT номера карта кредиты или отображается предупреждение о том, что он может переопределить. Дополнительные сведения о поддерживаемых действиях защиты от потери данных и о том, какие платформы поддерживают их, см. в первых двух строках таблицы из раздела Действия конечных точек, которые можно отслеживать и выполнять.

Сведения, относящиеся к приложению ИИ:

  • Используйте расположение политики Microsoft 365 Copilot и Copilot Chat, чтобы ограничить обработку запросов, содержащих типы конфиденциальной информации, или обработку файлов и сообщений электронной почты с определенными метками конфиденциальности. Дополнительные сведения см. в статье Сведения об использовании Защита от потери данных Microsoft Purview для защиты взаимодействия с Microsoft 365 Copilot и Copilot Chat.

  • Microsoft 365 Copilot Chat поддерживает только следующие возможности защиты от потери данных в конечной точке:

    • Блокировка вставки конфиденциального содержимого
    • Блокировать файлы на основе указанной метки конфиденциальности

Управление внутренними рисками и взаимодействие с ИИ

Управление внутренними рисками Microsoft Purview помогает обнаруживать, исследовать и устранять внутренние риски, такие как кража IP-адресов, утечка данных и нарушения безопасности. В нем используются модели машинного обучения и различные сигналы от Microsoft 365 и сторонних индикаторов для выявления потенциальных вредоносных или непреднамеренных инсайдерских действий. Решение включает в себя элементы управления конфиденциальностью, такие как псевдонимизация и доступ на основе ролей, обеспечивая конфиденциальность на уровне пользователя и позволяя аналитикам рисков принимать соответствующие меры.

Используйте шаблон политики рискованного использования ИИ для обнаружения рискованного использования, которое включает в себя атаки с применением запросов на внедрение и доступ к защищенным материалам. Аналитические сведения об этих сигналах интегрированы в Microsoft Defender XDR, чтобы получить полное представление о рисках, связанных с ИИ.

Соответствие требованиям к обмену данными и взаимодействие с ИИ

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие обнаруживать и контролировать нарушения соответствия нормативным требованиям и бизнес-поведения в различных каналах коммуникации, включая запросы и ответы пользователей для приложений ИИ. Он по умолчанию разработан с конфиденциальностью, псевдонимизируя имена пользователей и включая элементы управления доступом на основе ролей. Решение помогает выявлять и устранять недопустимые сообщения, такие как обмен конфиденциальной информацией, домогательства, угрозы и содержимое для взрослых.

Дополнительные сведения об использовании политик соответствия требованиям к обмену данными для приложений ИИ см. в статье Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействий с генеративным ИИ.

Обнаружение электронных данных и взаимодействие СИ

Microsoft Purview eDiscovery позволяет идентифицировать и доставить электронную информацию, которую можно использовать в качестве доказательства в судебных делах. Средства обнаружения электронных данных в Microsoft Purview поддерживают поиск содержимого в командах Exchange Online, OneDrive для бизнеса, SharePoint Online, Microsoft Teams, Группы Microsoft 365 и Viva Engage. Затем вы можете запретить удаление и экспорт информации.

Так как запросы и ответы пользователей для приложений ИИ хранятся в почтовом ящике пользователя, можно создать вариант и использовать поиск , когда почтовый ящик пользователя выбран в качестве источника для поискового запроса. Например, выберите и получите эти данные из исходного почтового ящика, выбрав из построителя запросовТип>содержит>любое действие>Edit>Copilot. Это условие запроса включает все действия Copilot и других приложений ИИ.

После уточнения поиска результаты можно экспортировать или добавить в набор для проверки. Вы можете просматривать и экспортировать сведения непосредственно из набора для проверки.

Дополнительные сведения о идентификации и удалении данных взаимодействия с пользователем ИИ см. в статье Поиск и удаление данных Copilot в eDiscovery.

Управление жизненным циклом данных и взаимодействие СИ

Управление жизненным циклом данных Microsoft Purview предоставляет инструменты и возможности для управления жизненным циклом организационных данных, сохраняя необходимое содержимое и удаляя ненужное содержимое. Эти средства обеспечивают соответствие бизнес-, юридическим и нормативным требованиям.

Используйте политики хранения для автоматического хранения или удаления запросов и ответов пользователей для приложений ИИ. Подробные сведения об этом способе хранения см. в статье Сведения о хранении для приложений Copilot & ИИ.

Как и во всех политиках хранения и удержаниях, если к пользователю применяется несколько политик для одного расположения, принципы хранения разрешают любые конфликты. Например, данные хранятся в течение самого длительного срока из всех применяемых политик хранения или удержаний eDiscovery.

Сведения, относящиеся к приложению ИИ:

  • Для политик хранения выберите параметр Microsoft Copilot Experiences.

  • Метки хранения могут автоматически хранить файлы, на которые ссылается Microsoft 365 Copilot, если выбрать параметр для облачных вложений с помощью политики автоматического применения меток хранения: Применить метку к облачным вложениям и ссылкам, к которым предоставлен общий доступ в Exchange, Teams, Viva Engage и Copilot. Как и в случае со всеми сохраненными облачными вложениями, сохраняется версия файла на момент ссылки.

    Обновлен параметр облачных вложений для автоматического применения метки хранения для включения взаимодействий для Copilot.

    Подробную информацию о том, как работает это хранение, см. в разделе Как работает хранение с облачными вложениями .

Взаимодействие с диспетчером соответствия требованиям и ИИ

Microsoft Purview Compliance Manager — это решение, которое помогает автоматически оценивать соответствие требованиям и управлять ими в многооблачной среде. Диспетчер соответствия требованиям поможет вам на протяжении всего пути к соответствию требованиям, от составления списка рисков защиты данных до управления сложными моментами реализации элементов управления, получения сведений о нормативных требованиях и сертификатах, а также отправки отчетов аудиторам.

Чтобы обеспечить соответствие нормативным требованиям ИИ, диспетчер соответствия требованиям предоставляет шаблоны нормативных требований, которые помогут вам оценить, внедрить и укрепить требования к соответствию для всех приложений искусственного интеллекта. Например, мониторинг взаимодействия ИИ и предотвращение потери данных в приложениях ИИ. Дополнительные сведения см. в разделе Оценки правил ИИ.

Выполните следующие действия, чтобы приступить к управлению безопасностью данных & соответствие требованиям взаимодействия СИ с Microsoft 365 Copilot & Microsoft 365 Copilot Chat.

Примечание.

В этих шагах основное внимание уделяется управлению конкретным приложением или агентом ИИ. Для более широкого охвата, использующего цели безопасности с помощью интерактивных рабочих процессов, используйте новый Управление состоянием безопасности данных, который сейчас находится в предварительной версии.

Так как Управление состоянием безопасности данных для ИИ является вашей первой дверью для защиты взаимодействия СИ и управления ими, большинство из следующих инструкций используют это решение:

Убедитесь, что аудит включен

В разделе DSPM для ИИ (классическая модель)>Обзор>Все приложения ИИпросмотрите>, включен ли аудит для вашего клиента. Если нет, выберите Активировать Аудит Microsoft Purview.

Используйте представление Microsoft 365 Copilot для обнаружения, защиты и применения элементов управления соответствием

Измените представление с "Все приложения ИИ", чтобы Microsoft 365 Copilot и работать в разделах:

  • Оценка и предотвращение чрезмерного совместного использования конфиденциальных данных
  • Защита данных в Microsoft 365 Copilot
  • Обнаружение действий Microsoft 365 Copilot

В этих разделах содержатся рекомендации, относящиеся к Microsoft 365 Copilot. Подождите по крайней мере день, пока данные будут отображаться для отчетов на этой странице.

Совет

Защита данных в Microsoft 365 Copilot включает следующие рекомендации с инструкциями по настройке вручную для соответствующих решений Microsoft Purview: Создание меток конфиденциальности для вашей организации и Защита элементов с помощью меток конфиденциальности из обработки Copilot

При желании для этих рекомендаций можно использовать DSPM для политик ИИ одним щелчком, как описано в следующем разделе.

Использование политик одним щелчком для увеличения охвата

Выберите Рекомендации в области навигации и используйте политики одним щелчком для автоматического создания политик, помогающих обнаруживать, защищать и применять элементы управления соответствием. Специфично для Microsoft 365 Copilot:

  • Защита данных с помощью меток конфиденциальности
  • Обнаружение рискованных взаимодействий в приложениях ИИ
  • Обнаружение неэтичного поведения в ИИ
  • Защита элементов с помощью меток конфиденциальности от обработки Microsoft 365 Copilot и агентов

Просмотр данных из политик

  1. Подождите по крайней мере день для получения данных, а затем перейдите на страницу Отчеты , чтобы просмотреть результаты политик. Выберите Возможности Copilot & агентов и просмотрите такие сведения, как:

    • Общее количество взаимодействий с течением времени (Microsoft Copilot и агенты)
    • Конфиденциальные взаимодействия для каждого приложения ИИ
    • Топ неэтичных взаимодействий СИ
    • Основные ссылки на метки конфиденциальности в Microsoft 365 Copilot и агентах
    • Степень серьезности внутренних рисков
    • Степень серьезности внутренних рисков для каждого приложения ИИ
    • Потенциально рискованное использование ИИ

  2. Выберите Просмотреть сведения для каждой диаграммы отчета, чтобы просмотреть подробные действия в обозревателе действий.

    В фильтрах выберите категорию приложения ИИприложения Copilot & агентов, а затем используйте другие фильтры, если необходимо дополнительно уточнить отображаемые данные. Затем выполните детализацию для каждого действия, чтобы просмотреть сведения, включая отображение запросов и ответов, когда вы являетесь членом группы ролей Microsoft Purview Content Обозреватель Content Viewer. Дополнительные сведения об этом требовании см. в разделе Разрешения для Управление состоянием безопасности данных для ИИ.

Применение дополнительных элементов управления соответствием для взаимодействия с Microsoft 365 Copilot

  1. Если необходимо сохранить точную версию файлов, на которые ссылается Microsoft 365 Copilot взаимодействия:

    На портале Microsoft Purview перейдите кметкам> хранения управления жизненным> циклом данных и найдите или создайте метку хранения с требуемым сроком хранения. Затем перейдите в раздел Политики меток, чтобы автоматически применить метку, и выберите параметр Применить метку к облачным вложениям и ссылкам, к которым предоставлен общий доступ в Exchange, Teams, Viva Engage и Copilot. Дополнительные сведения см. в статье Автоматическое применение метки хранения для хранения или удаления содержимого.

  2. Если вам нужно сохранить, собрать, проанализировать, проверить или экспортировать Microsoft 365 Copilot взаимодействия:

    На портале Microsoft Purview перейдите к разделу Случаи> обнаруженияэлектронных> данныхСоздание дела. В этом случае создайте поиск и используйте свойство ItemClass и IPM.SkypeTeams.Message.Copilot.* значение для поиска этих взаимодействий в организации.

Регулярно просматривайте отчеты и оценки рисков данных в DSPM для ИИ, чтобы определить, нужно ли вносить изменения, и использовать обозреватель действий и события для более глубокого анализа взаимодействия пользователей с Microsoft 365 Copilot & Microsoft 365 Copilot Chat.

Другая документация по защите и управлению приложениями на основе искусственного интеллекта

Дополнительные сведения см. в статье Рекомендации по управлению Microsoft 365 Copilot для обеспечения безопасности и соответствия требованиям.

документация по Microsoft 365 Copilot:

  • Last updated on