Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Защита от угроз для служб ИИ в Microsoft Defender для Облака защищает рабочие нагрузки Microsoft Foundry в подписке Azure, предоставляя аналитические сведения об угрозах, которые могут повлиять на создаваемые приложения и агенты ИИ.
Предварительные требования
Ознакомьтесь с обзором — защита от угроз ИИ.
Вам потребуется подписка Microsoft Azure . Если у вас нет подписки Azure, вы можете зарегистрироваться для бесплатной подписки.
Включите Defender для облака в подписке Azure.
Необходимые разрешения: чтобы включить план, вам нужен уровень владельца или участника .
Включение защиты от угроз для служб ИИ
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
На странице планов Defender переключите службы ИИ на включено.
Включите компоненты плана
С включенным планом защиты от угроз служб ИИ можно контролировать, включены ли различные компоненты плана. Сюда входит следующее:
Подозрительные сигналы запроса: получение оповещений о подозрительных элементах пользовательских запросов и ответов моделей для анализа оповещений безопасности, связанных с ИИ, при этом конфиденциальные данные редактируются автоматически. Эти фрагменты подсказок отображаются на портале Defender в качестве доказательств для каждого оповещения.
Безопасность данных для взаимодействия с искусственным интеллектом: позволяет Microsoft Purview получать доступ к запросам, ответам и связанным метаданным, чтобы обеспечить безопасность данных и соответствие требованиям, такие как классификация SIT, аудит, внутренний риск, соответствие данным и обнаружение электронных данных. Это платная функция Purview и не включена в план Defender для служб искусственного интеллекта.
Безопасность модели ИИ: сканирование моделей ИИ обеспечивает четкое, единое представление всех моделей, зарегистрированных в реестрах машинного обучения Azure. Это помогает командам опережать угрозы безопасности, автоматически проверяя наличие таких проблем, как уязвимости сериализации, вредоносные программы и отсутствие необходимых сканирований. Выявляя неправильные конфигурации и обеспечивая целостную интеграцию с Defender для облака и рабочими процессами разработчиков, это решение гарантирует постоянную защиту и готовность ваших моделей ИИ к использованию в рабочей среде.
Включение функции для управления подозрительными данными запроса
С включенным планом защиты от угроз служб ИИ можно контролировать, включают ли оповещения подозрительные сегменты непосредственно из запросов пользователя или ответы модели из приложений или агентов ИИ. Включение доказательств запросов пользователя помогает выполнять триаж, классификацию оповещений и выявление намерений пользователя.
Подтверждения запроса пользователя состоят из самих запросов и ответов модели. Оба элемента считаются вашими данными. Доказательства доступны через портал Azure, портал Defender и интеграции с партнерами.
Если доказательства запроса пользователя отключены, Microsoft Defender для облака продолжает анализировать запросы и ответы на предмет обнаружения угроз, но содержимое запроса маскируется в оповещениях.
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
Найдите службы ИИ и выберите "Параметры".
Установите переключатель "Включить подтверждение действий пользователя" в Вкл.
Выберите Продолжить.
Включение безопасности данных для Microsoft Foundry с помощью Microsoft Purview
Замечание
Для этой функции требуется лицензия Microsoft Purview, которая не входит в план Microsoft Defender для Cloud для служб ИИ.
Чтобы приступить к работе с Microsoft Purview DSPM для искусственного интеллекта, см. статью "Настройка MICROSOFT Purview DSPM для искусственного интеллекта".
Включите Microsoft Purview для доступа, обработки и хранения данных запроса и ответа, включая связанные метаданные, из Microsoft Foundry. Эта интеграция поддерживает ключевые сценарии безопасности и соответствия данным, такие как:
Классификация типа конфиденциальной информации (SIT)
Аналитика и отчетность с помощью MICROSOFT Purview DSPM для искусственного интеллекта
Управление внутренними рисками
Соответствие требованиям к обмену данными
Аудит Microsoft Purview
Управление жизненным циклом данных
Электронное раскрытие данных
Эта возможность помогает организации управлять и отслеживать созданные ИИ данные в соответствии с корпоративными политиками и нормативными требованиями.
Замечание
Интеграция Microsoft Purview не включает данные или контекст из агентов Foundry. Поддержка интеграции агента Foundry недоступна в настоящее время, и информация об этом будет предоставлена в будущих обновлениях, если это будет запланировано.
Замечание
Политики безопасности данных для взаимодействий Microsoft Foundry поддерживаются только для вызовов API, использующих проверку подлинности Идентификатора Microsoft Entra с маркером контекста пользователя или для вызовов API, которые явно включают контекст пользователя. Дополнительную информацию см. в разделе Получение контекста конечных пользователей для вызовов API Azure AI. Во всех других сценариях проверки подлинности взаимодействие пользователей, записанное в Purview, отображается только в Purview Audit и DSPM для обозревателя действий искусственного интеллекта.
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
Найдите службы ИИ и выберите "Параметры".
Переключите включение безопасности данных для взаимодействия ИИ на Вкл..
Выберите Продолжить.
Troubleshooting
Если вы не видите взаимодействия пользователей Entra ID, прошедших аутентификацию, в Обозревателе действий Microsoft Purview после включения соответствующего параметра, выполните следующие действия, чтобы устранить неполадки:
Выполните следующие команды в Azure PowerShell
- Установите следующие модули Az (при необходимости):
Install-Module -Name Az -AllowClobber Import-Module Az.Accounts - Подключение к Azure PowerShell от имени администратора клиента:
Connect-AzAccount -Tenant $yourTenantIdHere - На открывающейся веб-странице войдите с помощью учетных данных администратора клиента.
- Убедитесь, что учетная запись службы Microsoft Purview находится в вашем клиенте.
Get-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a" - Если субъект-служба не существует, добавьте субъект-службу приложений Microsoft Purview в клиент:
New-AzADServicePrincipal -ApplicationId "9ec59623-ce40-4dc8-a635-ed0275b5d58a"
Включение безопасности модели ИИ
Безопасность модели искусственного интеллекта в Defender для облака обеспечивает упреждаемую защиту организаций для моделей машинного обучения (ML). Служба проверяет модели рисков безопасности, таких как внедренные вредоносные программы, небезопасные операторы и открытые секреты, прежде чем модели достигают рабочей среды.
Интегрируясь непосредственно с рабочими областями машинного обучения Azure, реестрами и конвейерами непрерывной интеграции и доставки (CI/CD), безопасность моделей ИИ предоставляет командам безопасности возможность видеть состояние безопасности и комплаенса моделей ИИ, существующих в их средах.
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
Найдите службы ИИ и выберите "Параметры".
Переключите безопасность модели ИИ на вкл.
Выберите Продолжить.
Дополнительные сведения о безопасности модели ИИ.