Поделиться через

Шаги обновления для веб-служб Экземпляры контейнеров Azure для управляемых конечных точек в Сети

  • Статья

Управляемые сетевые конечные точки помогают развертывать модели машинного обучения в готовом режиме. Управляемые сетевые конечные точки работают с мощными машинами ЦП и GPU в Azure масштабируемым и полностью управляемым образом. Управляемые сетевые конечные точки отвечают за обслуживание, масштабирование, безопасность и мониторинг моделей, избавляя вас от накладных расходов на настройку и управление базовой инфраструктурой. Подробные сведения см. в статье "Развертывание и оценка модели машинного обучения" с помощью веб-конечной точки.

Вы можете развернуть непосредственно в новом целевом объекте вычислений с помощью предыдущих моделей и сред или использовать скрипты , предоставленные нами для экспорта текущих служб, а затем развернуть в новом вычислении, не затрагивая существующие службы. Если вы регулярно создаете и удаляете веб-службы Экземпляры контейнеров Azure (ACI), настоятельно рекомендуется развертывать напрямую и не использовать скрипты.

Внимание

URL-адрес оценки будет изменен после обновления. Например, URL-адрес оценки для веб-службы ACI похож http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Универсальный код ресурса (URI) оценки для управляемой сетевой конечной точки похож https://endpoint-name.westus.inference.ml.azure.com/score.

Поддерживаемые сценарии и различия

Режим проверки подлинности

Проверка подлинности не поддерживается для управляемой сетевой конечной точки. Если вы используете скрипты обновления, он преобразует его в проверку подлинности ключа. Для проверки подлинности ключей будут использоваться исходные ключи. Проверка подлинности на основе маркеров также поддерживается.

TLS

Для службы ACI, защищенной с помощью ПРОТОКОЛА HTTPS, вам больше не нужно предоставлять собственные сертификаты, все управляемые сетевые конечные точки защищены TLS.

Пользовательское DNS-имя не поддерживается.

Потребности ресурса

ContainerResourceRequirements не поддерживается, вы можете выбрать соответствующий номер SKU для вывода. Средство обновления сопоставляет требование ЦП или памяти с соответствующим номером SKU. Если вы решили повторно развернуть развертывание вручную с помощью CLI/SDK версии 2, мы также рекомендуем соответствующий номер SKU для нового развертывания.

Запрос ЦП Запрос памяти в ГБ Предлагаемый номер SKU
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" означает больше и "]" означает меньше или равно. Например, "(0, 1]" означает "больше 0 и меньше или равно 1".

Внимание

При обновлении с ACI будут внесены некоторые изменения в том, как будет взиматься плата. Ознакомьтесь с нашим блогом о грубом сравнении затрат, чтобы помочь вам выбрать правильные номера SKU виртуальных машин для рабочей нагрузки.

Сетевая изоляция

Сведения о сценариях частной рабочей области и виртуальной сети см. в статье "Использование сетевой изоляции с управляемыми сетевыми конечными точками".

Внимание

Так как для рабочей области и виртуальной сети существует множество параметров, мы настоятельно рекомендуем повторно развернуть расширение Azure CLI версии 2 для машинного обучения вместо средства скрипта.

Не поддерживается

  • ШифрованиеProperties для контейнера ACI не поддерживается.
  • Веб-службы ACI, развернутые через deploy_from_model и deploy_from_image, не поддерживаются средством обновления. Повторное развертывание вручную с помощью ИНТЕРФЕЙСА командной строки или пакета SDK версии 2.

Действия по обновлению

С помощью интерфейса командной строки или пакета SDK

Повторное развертывание вручную с помощью файлов модели и определения среды. Примеры см. в примерах azureml. В частности, это пример пакета SDK для управляемой сетевой конечной точки.

С помощью нашего средства обновления

Это средство автоматически создаст новую управляемую конечную точку в Интернете на основе существующих веб-служб. Ваши исходные службы не будут затронуты. Вы можете безопасно перенаправить трафик в новую конечную точку, а затем удалить старый.

Примечание.

Скрипт обновления — это пример скрипта и предоставляется без соглашения об уровне обслуживания (SLA).

Выполните следующие действия, чтобы запустить скрипты:

Совет

Новая конечная точка, созданная скриптами, будет создана в той же рабочей области.

  1. Используйте оболочку Bash для запуска скриптов. Например, сеанс терминала в Linux или подсистема Windows для Linux (WSL).

  2. Установите пакет SDK Для Python версии 1 для запуска скрипта Python.

  3. Установите Azure CLI.

  4. Клонируйте репозиторий в локальный env. Например, git clone https://github.com/Azure/azureml-examples.

  5. Измените следующие значения в migrate-service.sh файле. Замените значения теми, которые применяются к конфигурации.

    • <SUBSCRIPTION_ID> — Идентификатор подписки вашей подписки Azure, содержащей рабочую область.
    • <RESOURCEGROUP_NAME> — Группа ресурсов, содержащая рабочую область.
    • <WORKSPACE_NAME> — имя рабочей области.
    • <SERVICE_NAME> — имя существующей службы ACI.
    • <LOCAL_PATH> — локальный путь, в котором скачиваются ресурсы и шаблоны, используемые скриптом.
    • <NEW_ENDPOINT_NAME> — Имя новой конечной точки, которая будет создана. Рекомендуется, чтобы новое имя конечной точки отличалось от предыдущего имени службы. В противном случае исходная служба не будет отображаться при проверке конечных точек на портале.
    • <NEW_DEPLOYMENT_NAME> — имя развертывания в новой конечной точке.

  6. Запустите скрипт bash. Например, ./migrate-service.sh. Для завершения нового развертывания потребуется около 5–10 минут.

    Совет

    Если вы получаете сообщение об ошибке, что скрипт не является исполняемым, или редактор открывается при попытке запуска скрипта, используйте следующую команду, чтобы пометить скрипт как исполняемый файл:

    chmod +x migrate-service.sh

  7. После успешного завершения развертывания можно проверить конечную точку с помощью команды az ml online-endpoint invoke .

Свяжитесь с нами

Если у вас есть вопросы или отзывы по скрипту обновления, обратитесь к нам по адресу moeonboard@microsoft.com.

Следующие шаги