Общие сведения об управлении безопасностью ИИ

План управления конфигурацией безопасности Defender Cloud Security (CSPM) в Microsoft Defender для облака обеспечивает безопасность корпоративных, многооблачных и гибридных облачных сред. К этим средам относятся Azure, Amazon Web Services (AWS) и Google Cloud Platform (GCP) Vertex AI. План CSPM Defender защищает созданные приложения ИИ и агенты ИИ (предварительная версия) на протяжении всего жизненного цикла.

Defender для облака снижает риски для рабочих нагрузок искусственного интеллекта между облаками на основе:

  • Обнаружение спецификации материалов генеративного искусственного интеллекта (ИИ BOM), включая компоненты приложения, данные и артефакты ИИ от кода до облака.
  • Укрепление состояния безопасности приложений и создания ими с помощью встроенных рекомендаций и изучения и устранения рисков безопасности.
  • Использование анализа пути атаки для выявления и устранения рисков.

Схема жизненного цикла разработки, охватываемого управлением позицией безопасности ИИ в Defender for Cloud.

Внимание

Чтобы включить возможности управления безопасностью искусственного интеллекта в учетной записи AWS, которая уже:

  • Подключен к учетной записи Azure.
  • Включен CSPM Defender.
  • Имеет тип разрешений, заданный как минимальный доступ к привилегиям.

Чтобы включить соответствующие разрешения, необходимо перенастроить разрешения для этого соединителя, выполнив следующие действия.

  1. На портале Azure перейдите на страницу "Параметры среды" и выберите соответствующий соединитель AWS.
  2. Выберите "Настроить доступ".
  3. Убедитесь, что для типа разрешений задано значение "Минимальный доступ к привилегиям".
  4. Выполните шаги 7– 11 , чтобы завершить настройку.

Обнаружение созданных приложений ИИ

Defender для облака обнаруживает рабочие нагрузки ИИ и определяет сведения о BOM вашей организации. Эта видимость позволяет выявлять уязвимости и устранять уязвимости и защищать созданные приложения ИИ от потенциальных угроз.

Defender для облака автоматически и непрерывно обнаруживает развернутые рабочие нагрузки искусственного интеллекта в следующих службах:

  • Служба Azure OpenAI
  • Лаборатория искусственного интеллекта Azure
  • Машинное обучение Azure
  • Amazon Bedrock
  • Google Vertex AI

Defender для облака также могут обнаруживать уязвимости в зависимостях библиотеки создания ИИ, таких как TensorFlow, PyTorch и Langchain, сканируя исходный код для инфраструктуры как кода (IaC) неправильно настроенных и образов контейнеров для уязвимостей. Регулярное обновление или исправление библиотек может препятствовать эксплойтам, защите создаваемых приложений ИИ и поддержанию их целостности.

С помощью этих функций Defender для облака обеспечивает полную видимость рабочих нагрузок ИИ из кода в облако.

Обнаружение агентов ИИ (предварительная версия)

Defender for Cloud обнаруживает рабочие нагрузки агента ИИ и идентифицирует детали BOM вашей организации. Эта видимость позволяет выявлять уязвимости и устранять уязвимости и защищать приложения агента ИИ от потенциальных угроз.

Внимание

Эта функция в настоящее время доступна в предварительной версии и включена в Microsoft Defender для CSPM без дополнительных затрат. Требования к лицензированию могут измениться, когда функция станет общедоступной. Если происходит изменение цен, функция автоматически отключена, и вы получите уведомление. Чтобы продолжить использование функции, может потребоваться новая лицензия, чтобы повторно включить эту функцию.

Defender для Cloud автоматически и непрерывно обнаруживает ИИ-агенты, развернутые в следующих службах:

Если вы включите план CSPM Defender в подписке Azure, портал автоматически обнаруживает и инвентаризирует агентов ИИ, развернутых в Azure AI Foundry, и заполняет список ИИ обнаруженными агентами ИИ.

Замечание

Чтобы просмотреть предварительные версии функций на портале Defender, необходимо включить функции Microsoft Defender для облачной предварительной версии на портале Defender.

Снимок экрана: предварительный просмотр функций Defender для облака, которые включены на портале Defender.

Узнайте, как защитить агенты ИИ (предварительная версия).

Снижение рисков для создания приложений искусственного интеллекта

CSPM Defender предоставляет контекстную информацию о безопасности ИИ вашей организации. Вы можете снизить риски в рабочих нагрузках ИИ с помощью рекомендаций по безопасности и анализа путей атаки.

Изучение рисков с помощью рекомендаций

Defender для облака оценивает рабочие нагрузки ИИ. Он выдает рекомендации по вопросам идентификации, безопасности данных и интернет-экспозиции, чтобы помочь вам выявить и определить критические проблемы безопасности.

Обнаружение неправильных конфигураций IaC

Безопасность DevOps обнаруживает неправильные конфигурации IaC, которые могут подвергать приложения генеративного ИИ риску уязвимостей безопасности, таких как чрезмерно открытые средства управления доступом или непреднамеренно публично доступные службы. Эти неправильные конфигурации могут привести к нарушениям данных, несанкционированным доступом и соответствию требованиям, особенно при обработке строгих правил конфиденциальности данных.

Defender для облака оценивает конфигурацию созданных приложений ИИ и предоставляет рекомендации по обеспечению безопасности для улучшения состояния безопасности ИИ.

Чтобы предотвратить сложные проблемы позже, исправление обнаружило неправильные конфигурации в начале цикла разработки.

К текущим проверкам безопасности искусственного интеллекта IaC относятся:

  • Использование частных конечных точек службы искусственного интеллекта Azure
  • Ограничение конечных точек службы искусственного интеллекта Azure
  • Использование управляемого удостоверения для учетных записей службы ИИ Azure
  • Использование проверки подлинности на основе удостоверений для учетных записей службы ИИ Azure

Изучение рисков с помощью анализа путей атаки

Анализ пути атаки обнаруживает и устраняет риски для рабочих нагрузок ИИ. Данные могут быть подвергнуты риску во время адаптации моделей ИИ к конкретным наборам данных и при тонкой настройке предварительно обученной модели на определенном наборе данных для улучшения её производительности в связанной задаче.

Благодаря непрерывному мониторингу рабочих нагрузок ИИ анализ пути атак может выявлять слабые места и потенциальные уязвимости и выполнять рекомендации. Кроме того, она распространяется на случаи, когда данные и вычислительные ресурсы распределяются между Azure, AWS и GCP.

Связанный контент

  • Last updated on