Прочитать на английском

Поделиться через

Управление развертыванием модели с помощью настраиваемых политик

  • Статья

При использовании моделей из служб ИИ Azure и Azure OpenAI с Azure AI Foundry может потребоваться использовать пользовательские политики для управления типом параметров развертывания , доступных пользователям или определенным моделям, которые могут развертывать пользователи. В этой статье описано, как создавать политики для управления развертываниями моделей с помощью политик Azure.

Необходимые компоненты

  • Подписка Azure. Если у вас еще нет подписки Azure, создайте бесплатную учетную запись, прежде чем начинать работу.
  • Разрешения на создание и назначение политик. Чтобы создать и назначить политики, необходимо быть владельцем или участником политики ресурсов на уровне подписки Azure или группы ресурсов.
  • Знакомство с Политика Azure. Дополнительные сведения см. в статье "Что такое Политика Azure?".

Создание настраиваемой политики

Выполните следующие действия, чтобы создать и назначить пример пользовательской политики для управления развертываниями моделей:

  1. В портал Azure выберите политику в левой части страницы. Вы также можете найти политику в строке поиска в верхней части страницы.

  2. В левой части панели мониторинга Политика Azure выберите "Разработка", "Определения", а затем выберите "+ Определение политики" в верхней части страницы.

    Снимок экрана: создание определения политики в политиках Azure.

  3. В форме определения политики используйте следующие значения:

    • Расположение определения: выберите подписку или группу управления, в которой требуется сохранить определение политики.
    • Имя: введите уникальное имя определения политики. Например, Custom allowed Azure AI services and Azure OpenAI models.
    • Описание. Введите описание определения политики.
    • Категория: можно создать новую категорию или использовать существующую. Например, "Управление моделью ИИ".

  4. В правиле политики введите сведения о правиле политики в формате JSON. Выберите сценарий, который применяется к вашему делу лучше:

    Следующая политика позволяет контролировать, какие модели и версии доступны для развертывания. Эту политику можно применить на разных уровнях в зависимости от ваших потребностей.

    {
      "mode": "All",
      "policyRule": {
        "if": {
          "allOf": [
            {
              "field": "type",
              "equals": "Microsoft.CognitiveServices/accounts/deployments"
            },
            {
              "not": {
                "value": "[concat(field('Microsoft.CognitiveServices/accounts/deployments/model.name'), ',', field('Microsoft.CognitiveServices/accounts/deployments/model.version'))]",
                "in": "[parameters('allowedModels')]"
              }
            }
          ]
        },
        "then": {
          "effect": "deny"
        }
      },
      "parameters": {
        "allowedModels": {
          "type": "Array",
          "metadata": {
            "displayName": "Allowed AI models",
            "description": "The list of allowed models to be deployed."
          }
        }
    }
}

    Совет

    Службы Искусственного интеллекта Azure изначально называются Azure Cognitive Services. Это имя по-прежнему используется внутри Azure, например настраиваемой политикой, в которой отображается значение Microsoft.CognitiveServices. Azure OpenAI является частью служб ИИ Azure, поэтому эта политика также применяется к моделям Azure OpenAI.

  5. Нажмите кнопку "Сохранить", чтобы сохранить определение политики. После сохранения перейдите на страницу обзора определения политики.

  6. На странице обзора определения политики выберите " Назначить политику ", чтобы назначить определение политики.

  7. На странице "Назначение политики" на вкладке "Основные сведения" используйте следующие значения:

    • Область. Выберите область, в которой нужно назначить политику. Область может быть группой управления, подпиской или группой ресурсов.
    • Определение политики: это поле предварительно заполнено заголовком созданного ранее определения политики.
    • Имя назначения: введите уникальное имя назначения.
    • Принудительное применение политик. Убедитесь, что для поля принудительного применения политики задано значение "Включено". Если она не включена, политика не применяется.

    Нажмите кнопку "Далее" в нижней части страницы или вкладку "Параметры " в верхней части страницы.

  8. Настройте параметры политики (если таковые есть):

    На вкладке "Параметры" задайте для допустимых моделей ИИ список моделей, которые требуется разрешить. Этот список должен быть разделен запятыми именами моделей и утвержденными версиями, окруженными квадратными скобками. Например, ["gpt-4,0613", "gpt-35-turbo,0613"].

    Совет

    Имена моделей и их версии можно найти в каталоге моделей Azure AI Foundry. Выберите модель, чтобы просмотреть сведения, а затем скопируйте имя модели и их версию в заголовке.

  9. При необходимости выберите вкладку "Сообщения о несоответствии" в верхней части страницы и задайте настраиваемое сообщение для несоответствия.

  10. Выберите "Проверка и создание вкладки" и убедитесь, что назначение политики правильно. Когда все готово, нажмите кнопку "Создать ", чтобы назначить политику.

  11. Уведомите разработчиков о том, что политика находится на месте. Они получают сообщение об ошибке, если они пытаются развернуть модель, которая не содержится в списке разрешенных моделей.

Проверка назначения политики

Чтобы убедиться, что политика назначена, перейдите к политике в портал Azure, а затем выберите "Назначения" в разделе "Разработка". Вы увидите указанную политику.

Отслеживание соответствия

Чтобы отслеживать соответствие политике, выполните следующие действия.

  1. В портал Azure выберите политику в левой части страницы. Вы также можете найти политику в строке поиска в верхней части страницы.

  2. В левой части панели мониторинга Политика Azure выберите "Соответствие". Каждое назначение политики отображается с состоянием соответствия. Чтобы просмотреть дополнительные сведения, выберите назначение политики. В следующем примере показан отчет о соответствии для политики, блокирующая развертывание типа Global Standard.

    Снимок экрана, показывающий пример отчета о соответствии политике для политики, которая блокирует номера SKU глобального развертывания уровня

Обновление назначения политики

Чтобы обновить существующее назначение политики с помощью новых моделей, выполните следующие действия.

  1. В портал Azure выберите политику в левой части страницы. Вы также можете найти политику в строке поиска в верхней части страницы.
  2. В левой части панели мониторинга Политика Azure выберите "Назначения" и найдите существующее назначение политики. Щелкните многоточие (...) рядом с назначением и нажмите кнопку "Изменить назначение".
  3. На вкладке "Параметры" обновите параметр разрешенных моделей новыми моделями.
  4. На вкладке "Рецензирование и сохранение " нажмите кнопку "Сохранить ", чтобы обновить назначение политики.

Рекомендации

  • Детализированное определение: назначение политик в соответствующей области для балансировки контроля и гибкости. Например, примените на уровне подписки для управления всеми ресурсами в подписке или примените на уровне группы ресурсов для управления ресурсами в определенной группе.
  • Именование политик. Используйте согласованное соглашение об именовании для назначений политик, чтобы упростить определение цели политики. Включите такие сведения, как назначение и область в имени.
  • Документация. Сохранение записей назначений политик и конфигураций для целей аудита. Задокументируйте все изменения, внесенные в политику с течением времени.
  • Регулярные проверки: периодически просматривайте назначения политик, чтобы обеспечить соответствие требованиям вашей организации.
  • Тестирование. Тестирование политик в непроизводной среде перед применением их к рабочим ресурсам.
  • Обмен данными. Убедитесь, что разработчики знают о политиках на месте и понимают последствия для их работы.

Связанный контент