Прочитать на английском

Поделиться через

Развертывание и запуск контейнеров в экземпляре контейнера Azure

  • Статья

С помощью следующих шагов масштабируйте приложения служб ИИ Azure в облаке с помощью Экземпляры контейнеров Azure. Контейнеризация позволяет сосредоточиться на создании приложений, а не на управлении инфраструктурой. Дополнительные сведения об использовании контейнеров см. в разделе Функции и преимущества.

Необходимые компоненты

Рецепт работает с любым контейнером служб ИИ Azure. Перед использованием рецепта необходимо создать ресурс служб ИИ Azure. Каждая служба ИИ Azure, поддерживающая контейнеры, содержит статью "Установка" для установки и настройки службы для контейнера. Некоторым службам в качестве входных данных для контейнера требуется файл или набор файлов. Важно разобраться в работе контейнера и успешно его использовать, прежде чем приступить к использованию этого решения.

  • Ресурс Azure для используемой службы искусственного интеллекта Azure.

  • URL-адрес конечной точки ресурса службы искусственного интеллекта Azure. Просмотрите сведения о том, как установить определенную службу для контейнера, чтобы найти URL-адрес конечной точки в портал Azure и как выглядит правильный пример URL-адреса. Точный формат может меняться в зависимости от службы.

  • Ключ ресурса службы искусственного интеллекта Azure— ключи находятся на странице "Ключи" для ресурса Azure. Вам потребуется только один из двух ключей. Ключ — это строка из 84 буквенно-числовых символов.

  • Один контейнер служб ИИ Azure на локальном узле (компьютер). Убедитесь, что вы можете выполнить следующие действия.

    • Получить изображение с помощью команды docker pull.
    • Успешно запустить локальный контейнер со всеми необходимыми параметрами конфигурации с помощью команды docker run.
    • Вызвать конечную точку контейнера, получив ответ HTTP 2xx и JSON.

Все переменные в угловых скобках (<>) необходимо заменить собственными значениями. Эта замена включает угловые скобки.

Важно!

Контейнеру LUIS требуется файл модели .gz, который извлекается во время выполнения. Контейнер должен иметь возможность получить доступ к этому файлу модели путем подключения тома из экземпляра контейнера. Чтобы отправить файл модели, выполните следующие действия.

  1. Создание файлового ресурса Azure. Запишите имя учетной записи хранения Azure, ключ и имя общей папки, так как они понадобятся вам позже.
  2. Экспортируйте модель LUIS (упакованное приложение) с портала LUIS.
  3. На портале Azure перейдите на страницу Обзор ресурса учетной записи хранения и выберите Общие папки.
  4. Выберите имя общей папки, которую вы недавно создали, а затем щелкните Отправить. Затем отправьте упакованное приложение.

Создание ресурса экземпляра контейнера Azure с помощью портала Azure

  1. Перейдите на страницу Создание для Экземпляров контейнеров.

  2. На вкладке Основные сведения введите следующие данные.

    Параметр Значение
    Отток подписок Выберите свою подписку.
    Группа ресурсов Выберите доступную группу ресурсов или создайте новую, например cognitive-services.
    Имя контейнера Введите имя, например cognitive-container-instance. Имя должно быть записано в нижнем регистре.
    Расположение Выберите регион для развертывания.
    Тип изображения Если образ контейнера хранится в реестре контейнеров, который не требует учетных данных, выберите Public. Если для доступа к образу контейнера требуются учетные данные, выберите Private. Сведения о том, является ли образ контейнера Public или Private (общедоступная предварительная версия), см. в разделе о репозиториях и образах контейнеров.
    Имя образа Введите расположение контейнера служб ИИ Azure. Расположение используется в качестве аргумента команды docker pull. Сведения о доступных именах образов и соответствующих репозиториях см. в разделе о репозиториях и образах контейнеров.

    Имя образа должно быть полным и состоять из трех частей: реестр контейнеров, репозиторий и имя образа: <container-registry>/<repository>/<image-name>.

    Ниже приведен пример, mcr.microsoft.com/azure-cognitive-services/keyphrase который будет представлять образ извлечения ключевых фраз в реестре контейнеров Майкрософт в репозитории служб ИИ Azure. Еще одним примером является то, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text что представляет текстовое изображение службы "Речь" в репозитории Майкрософт реестра контейнеров предварительной версии контейнеров.
    Тип ОС Linux
    Размер Измените размер предлагаемых рекомендаций для конкретного контейнера ИИ Azure:
    2 ядра ЦП
    4 ГБ

  3. На вкладке Сеть введите следующие сведения.

    Параметр Значение
    Порты Установите для TCP-порта значение 5000. Предоставьте контейнер через порт 5000.

  4. На вкладке Дополнительно введите необходимые переменные среды для параметров выставления счетов в контейнере для ресурса экземпляра контейнера Azure:

    Ключ Значение
    ApiKey Копируется со страницы Ключи и конечная точка ресурса. Это строка 84 буквенно-цифровых символов без пробелов или дефисов. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
    Billing URL-адрес конечной точки копируется со страницы Ключи и конечная точка ресурса.
    Eula accept

  5. Выберите "Рецензирование" и "Создать"

  6. После проверки нажмите кнопку Создать, чтобы завершить процесс создания

  7. После успешного развертывания ресурс готов

Использование экземпляра контейнера.

  1. Выберите Обзор и скопируйте IP-адрес. Это будет числовой IP-адрес, например 55.55.55.55.

  2. Откройте новую вкладку браузера и используйте IP-адрес, например http://<IP-address>:5000 (http://55.55.55.55:5000. Появится домашняя страница контейнера. Это означает, что контейнер работает.

    Домашняя страница контейнера

  3. Выберите Описание API службы, чтобы просмотреть страницу Swagger для контейнера.

  4. Выберите любой из интерфейсов API POST и нажмите кнопку Попробовать. Отображаются параметры, в том числе входные данные. Заполните параметры.

  5. Выберите Выполнить, чтобы отправить запрос в экземпляр контейнера.

    Вы успешно создали и использовали контейнеры ИИ Azure в экземпляре контейнеров Azure.