Разработка и развертывание безопасных и совместимых Microsoft Foundry или пользовательских приложений ИИ

Безопасность и соответствие требованиям необходимы для внедрения корпоративного искусственного интеллекта. Корпоративные клиенты ожидают, что приложения ИИ будут защищены с помощью проектирования и соблюдения внутренних политик и внешних нормативных требований.

Неспособность соответствовать этим ожиданиям может привести к:

  • Отклонение во время проверок безопасности и соответствия требованиям.
  • Утечка данных или другое вредное поведение ИИ.
  • Потеря доверия клиентов и снижение внедрения.

Чтобы масштабировать ИИ ответственно, организации должны опираться на основу надежной безопасности и управления данными. Так как приложения ИИ все чаще обрабатывают конфиденциальные корпоративные данные, разработчики должны включать элементы управления безопасностью и соответствием в начале жизненного цикла разработки во время разработки и реализации.

Microsoft Purview предоставляет API и службы, которые позволяют Microsoft Foundry и другим платформам ИИ интегрировать элементы управления данными корпоративного уровня и управления в пользовательские приложения и агенты ИИ независимо от модели или платформы развертывания.

В этой статье объясняется, как разработчики могут интегрироваться с Microsoft Purview для поддержки требований к безопасности данных и соответствия требованиям в своих приложениях и агентах ИИ, созданных с помощью Microsoft Foundry, Agent Framework или пользовательских приложений ИИ. В следующей таблице перечислены сценарии Microsoft Purview и варианты, которые разработчики должны выбрать для каждого сценария.

Сценарий Microsoft Foundry Платформа агента API Microsoft Purview
Управление данными, используемыми во время выполнения приложениями ИИ Поддерживается Поддерживается Поддерживается
Защита от утечки данных и внутренних рисков Не поддерживается Поддерживается Поддерживается
Предотвращайте чрезмерное раскрытие данных Не поддерживается Не поддерживается Поддерживается

Управление данными, используемыми во время выполнения приложениями ИИ

Следующие Microsoft Purview функции можно использовать для управления данными для приложений ИИ:

  • Аналитика в режиме реального времени для использования конфиденциальных данных, рискованного поведения и неэтичных взаимодействий с ИИ.
  • Аудит для обеспечения прослеживаемости.
  • Соответствие требованиям к обмену данными для обнаружения вредоносного или несанкционированного содержимого.
  • Управление жизненным циклом данных и обнаружение электронных данных для юридических и нормативных потребностей.

Эти возможности Microsoft Purview можно интегрировать в Microsoft Foundry или пользовательское приложение ИИ, используя следующие параметры:

  • Встроенная интеграция Microsoft Purview с Microsoft Foundry (рекомендуется): при использовании моделей в Microsoft Foundry используйте параметры Microsoft Purview для аудита и связанных результатов управления, внедренных в Microsoft Foundry. Администраторы Azure могут включить этот параметр для любой конкретной подписки Azure. Нет никаких действий, которые разработчики должны предпринять. Этот параметр позволяет передавать данные из всех Azure приложений на основе ИИ, работающих в этой подписке, в Microsoft Purview для поддержки результатов управления и соответствия требованиям. Дополнительные сведения о включении параметра см. в статье Enable Data Security for Azure AI with Microsoft Purview.

  • Используйте API: разработчики Microsoft Foundry могут использовать API Microsoft Purview в Microsoft Graph, чтобы программно отправлять в Microsoft Purview данные о запросах и ответах из своих ИИ-приложений.

    Используйте эти API для интеграции на основе API:

    Дополнительные сведения см. в разделе "Использование API Microsoft Purview" в Microsoft Graph.

  • Agent Framework: Если вы создаете агентов с помощью Microsoft Agent Framework, вы можете добавить возможности Microsoft Purview для обеспечения безопасности ваших агентов. Эти возможности обеспечат агенту защиту данных и соответствие требованиям. В конвейер промежуточного ПО агента добавьте ПО промежуточного слоя политик Microsoft Purview:

    • Перехватывайте и передавайте запросы и ответы в Microsoft Purview.
    • Применяйте политики DLP вашей организации в Microsoft Purview.

    Дополнительные сведения см. в разделе "Использование Microsoft Purview SDK с Agent Framework".

Защита от утечки данных и внутренних рисков

Разработчики могут использовать агентную платформу или API-интерфейсы Microsoft Purview для применения политик Защита от потери данных Microsoft Purview (DLP) в своих приложениях.

Agent Framework: Если вы создаете агентов в Microsoft Agent Framework, вы можете добавить возможности Microsoft Purview, чтобы защитить своих агентов. Эти возможности добавят агенту функции обеспечения безопасности данных и соответствия требованиям. Добавьте в конвейер промежуточного ПО агента промежуточное ПО политик Microsoft Purview:

  • Перехватывайте запросы и ответы и передавайте их в Microsoft Purview.
  • Применяйте политики DLP вашей организации в Microsoft Purview.

Дополнительные сведения см. в разделе Использование Microsoft Purview SDK с Agent Framework.

Используйте API: этот параметр позволяет приложениям понимать и применять поведение в приложениях и агентах ИИ в соответствии с политиками, установленными в Microsoft Purview. Например, вы можете защитить конфиденциальную информацию, которой обмениваются с большими языковыми моделями (LLM), или контролировать конфиденциальную информацию, которой обмениваются с потенциально рискованными пользователями в ваших ИИ-приложениях.

Используйте эти API для интеграции на основе API:

Important

Чтобы настроить новую политику защиты от потери данных в Microsoft Purview для тестирования интеграции DLP, выполните командлет New-DlpComplianceRule. Дополнительные сведения см. в статье New-DlpComplianceRule.

пример кода ИИ Azure:

Предотвращение чрезмерного совместного доступа к данным

Возможность чрезмерного предоставления доступа к данным ограничивается, если к данным применяются метки конфиденциальности. Разработчики могут использовать api-интерфейсы Microsoft Purview или Поиск с использованием ИИ Azure для учета меток конфиденциальности, применяемых к данным, используемым LLMs для создания ответов. Оба этих варианта гарантируют, что созданные ИИ ответы уважают элементы управления доступом, предотвращают перехаружение данных и ограничивают пользователей контентом, который они авторизованы для просмотра, так же, как и за пределами среды приложения ИИ.

Если индексирование меток конфиденциальности Microsoft Purview включено, Поиск с использованием ИИ Azure проверяет метаданные метки документа во время запроса, применяет фильтры доступа на основе политик Microsoft Purview и возвращает только результаты, к которым разрешен доступ запрашивающий пользователь.

При создании этого сценария можно использовать любой из следующих API:

  • Last updated on