Поделиться через

Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействия с генеративным ИИ

Важно!

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие организациям обнаруживать соответствие нормативным требованиям (например, SEC или FINRA) и нарушения бизнес-поведения, такие как конфиденциальная или конфиденциальная информация, преследования или угрозы языка, а также предоставление общего доступа к содержимому для взрослых. Соответствие требованиям к обмену данными строится на основе конфиденциальности. Имена пользователей по умолчанию псевдонимизируются, элементы управления доступом на основе ролей встроены, администратор выбирает следователей, а журналы аудита используются для обеспечения конфиденциальности на уровне пользователей.

Соответствие требованиям к обмену данными можно использовать для анализа взаимодействий (запросов и ответов) для обнаружения неуместных или рискованных взаимодействий или обмена конфиденциальной информацией, введенной в многочисленные приложения искусственного интеллекта.

К этим приложениям относятся Microsoft 365 Copilot, Copilots, созданные с помощью Microsoft Copilot Studio, приложения ИИ, подключенные с помощью соединителей Microsoft Entra или Схема данных Microsoft Purview, и многое другое.

Совет

Приступая к работе с Microsoft Security Copilot изучить новые способы интеллектуальной и быстрой работы с использованием возможностей ИИ. Дополнительные сведения о Microsoft Security Copilot в Microsoft Purview.

интерфейс Microsoft Copilot

Важно!

Чтобы обнаружить неуместное или рискованное взаимодействие с данными ИИ, не относящихся к Microsoft 365, необходимо включить выставление счетов с оплатой по мере использования в организации. Данные ИИ, отличные от Microsoft 365, включают информацию из других приложений искусственного интеллекта майкрософт и подключенных внешних приложений ИИ. Этот тип данных включает Copilot в Microsoft Fabric, Microsoft Security Copilot, Microsoft Copilot Studio и любое подключенное или облачное приложение ИИ. Требования к выставлению счетов с оплатой по мере использования или плата за microsoft 365 за обнаружение неуместных или рискованных взаимодействий с данными Microsoft 365 Copilot не взимается.

Соответствие требованиям к обмену данными может обнаруживать взаимодействия в любом сообщении с IPM. SkypeTeams.Message.Copilot. класс элемента приложения . К этим классам элементов относятся приложения Copilot в решениях Майкрософт, таких как Teams, Outlook и многие другие.

Например, соответствие требованиям к обмену данными обнаруживает взаимодействие в сообщениях Copilot с IPM. SkypeTeams.Message.Copilot.Teams, IPM. Классы элементов SkypeTeams.Message.Copilot.Outlook и другие.

Подключенное приложение искусственного интеллекта

Важно!

Чтобы обнаружить неуместное или рискованное взаимодействие с подключенными приложениями на основе искусственного интеллекта, необходимо включить выставление счетов с оплатой по мере использования в организации.

Соответствие требованиям к обмену данными позволяет обнаруживать взаимодействие с запросами и ответами с приложениями ИИ, не использующих Copilot. Эти приложения являются генерируемыми приложениями ИИ, подключенными с помощью соединителей Microsoft Entra и Схема данных Microsoft Purview.

Другие приложения ИИ

Важно!

Чтобы обнаружить неуместное или рискованное взаимодействие с другими приложениями ИИ, ваша организация должна включить выставление счетов с оплатой по мере использования.

Соответствие требованиям к обмену данными также позволяет обнаруживать взаимодействие с приложениями ИИ из браузера и сетевой активности пользователей в вашей организации. Эта возможность помогает обнаруживать недопустимые или рискованные взаимодействия или совместное использование конфиденциальной информации, которую пользователи вводит в приложения ИИ за пределами вашей организации.

Предварительные условия

Чтобы изучить взаимодействие Copilot в области соответствия требованиям к обмену данными, вам должна быть назначена одна из следующих ролей:

  • Соответствие требованиям к обмену данными
  • Следователи по вопросам соблюдения коммуникационных норм
  • Аналитики по соблюдению коммуникационных требований

Вы также должны быть назначены в качестве рецензента политики в поле Рецензенты во время создания политики.

Принципы действия

Важно!

Корпорация Майкрософт стремится обеспечить ответственное развитие систем искусственного интеллекта (ИИ) таким образом, чтобы оправдать доверие людей. В рамках этого обязательства команды инженеров Microsoft Purview используют шесть основных принципов стратегии ответственного ИИ Корпорации Майкрософт для разработки, создания решений ИИ и управления ими. Чтобы ответственно развернуть ИИ, мы предоставляем документацию, доступ на основе ролей, аттестацию сценариев и многое другое, чтобы помочь организациям ответственно использовать системы ИИ.

Вы можете воспользоваться всеми функциями соответствия требованиям к обмену данными при создании политики соответствия требованиям к обмену данными, которая обнаруживает Взаимодействие с Microsoft 365 Copilot и Microsoft 365 Copilot Chat, в том числе:

Любой запрос или ответ, который пользователь вводит в поддерживаемое приложение искусственного интеллекта и соответствует политике соответствия требованиям к обмену данными, отображается в виде соответствия политике на странице Политики на вкладке Ожидание с отдельными записями для запросов и ответов. Если политике соответствует только запрос или только ответ, на вкладке Ожидание отображается элемент только для этого соответствия политике. Вы можете исправить совпадения политик для приложений на основе искусственного интеллекта так же, как и любое другое совпадение политик.

Для каждого элемента на вкладке Ожидание для соответствия политикЕ ИИ отображаются следующие сведения:

  • Значки. Значок Copilot определяет соответствие политики как генерирующее взаимодействие ИИ с Copilot на основе Майкрософт. Для всех других взаимодействий с генеративным ИИ этот значок является значком электронной почты.
  • Столбец темы. Значение [Copilot] в этом столбце определяет соответствие политики как генерирующее взаимодействие ИИ с Копилотами на основе Майкрософт. Значение [приложение ИИ] в этом столбце определяет соответствие политики для всех других взаимодействий с искусственным интеллектом.
  • Столбец отправителей: отправитель сообщения. В зависимости от исходного приложения ИИ отправитель отображается следующим образом:
    • Если соответствие политике является ответом приложения Copilot, значением будет Copilot.
    • Если соответствие политике является ответом от подключенного приложения ИИ, значением будет подключенное приложение ИИ.
    • Если соответствие политике является ответом от облачного приложения ИИ, значением будет облачное приложение ИИ.
  • Столбец Recipient: получатели, включенные в сообщение. Это значение — пользователь, взаимодействующий с приложением ИИ.
  • Текст сообщения. Текст сообщения, введенный пользователем (текст, который вызвал совпадение политики), отображается в правой части экрана целиком.

Создание политики, которая обнаруживает взаимодействие Microsoft Copilot

  1. Войдите на портал Microsoft Purview с учетными данными для учетной записи администратора в организации Microsoft 365.
  2. Перейдите к решению Соответствие коммуникационным требованиям .
  3. Выберите Политики в области навигации слева.
  4. Выберите Создать политику, а затем выберите шаблон Обнаружение Microsoft Copilot взаимодействий.
  5. Введите имя политики, выберите пользователей и группы, к которых будет применяться политика, и выберите проверяющих для политики. Узнайте больше об этих параметрах при создании политики из шаблона
  6. Просмотрите список параметров, выбранных на основе шаблона. Выберите Создать политику , чтобы создать политику, или настроить политику , если вы хотите внести какие-либо изменения перед созданием политики.

Добавление приложения искусственного интеллекта в качестве расположения для существующей политики

  1. Войдите на портал Microsoft Purview с учетными данными для учетной записи администратора в организации Microsoft 365.

  2. Перейдите к решению Соответствие коммуникационным требованиям .

  3. Выберите Политики в области навигации слева.

  4. Выберите Дополнительные действия (многоточие) в строке политики, которую вы хотите изменить, а затем нажмите кнопку Изменить.

  5. Нажмите кнопку Далее два раза в рабочем процессе создания политики, чтобы перейти на страницу Выбор расположений для обнаружения сообщений .

  6. Установите один или несколько из следующих флажков, чтобы добавить приложение искусственного интеллекта в качестве расположения:

    • Microsoft Copilot интерфейсы
    • Корпоративные приложения ИИ
    • Другие приложения ИИ

  7. Внесите другие изменения в политику, а затем на странице Проверка и завершение нажмите кнопку Сохранить.

Создание политики для проверки всех взаимодействий с генеративным ИИ

При первой работе с взаимодействием с генеративным ИИ рассмотрите возможность просмотра всех взаимодействий с ИИ, чтобы понять, как люди в вашей организации используют эти приложения. Чтобы создать политику, которая проверяет все взаимодействия СИ при создании или изменении политики, выполните следующие действия:

  • Укажите расположение, чтобы включить все приложения искусственного интеллекта:

    • Microsoft Copilot интерфейсы
    • Корпоративные приложения ИИ
    • Другие приложения ИИ

  • Установите для параметра Просмотреть процент на странице Выбор условий и просмотр процентного процента значение 100 %.

  • Не устанавливайте никаких условий для полиса.

Примечание.

В зависимости от размера организации политика, которая обнаруживает все взаимодействия с генерируемым ИИ, может привести к большому объему обнаруженных сообщений. Этот том может привести к тому, что ваша организация достигнет предельного объема хранилища. Если возникает эта проблема, измените политику, чтобы уменьшить количество обнаружений.

Исправление совпадений политик и оповещений, содержащих генеривные взаимодействия ИИ

Исправьте соответствия политик и оповещения, содержащие взаимодействия с генеративным ИИ, так же, как и любое соответствие политик или оповещений в соответствии с данными. Например, вы можете пометить соответствие политике, передать его на рассмотрение, разрешить, загрузить или экспортировать. Дополнительные сведения о разрешении совпадений политик и оповещений см. в статье Соответствие требованиям к обмену данными.

Отчеты

Взаимодействия СИ, которые вы вносите в область политики соответствия требованиям к обмену данными, отображаются в отчетах о соответствии требованиям к обмену данными и данных аудита. Узнайте больше об отчетах и аудитах по соответствию коммуникациям.

См. также

  • Last updated on