Часто задаваемые вопросы о контейнерах ИИ Azure

Контейнеры искусственного интеллекта Azure позволяют разработчикам использовать те же интеллектуальные API, которые доступны в Azure, но с преимуществами контейнеризации. Некоторые контейнеры доступны в виде предварительной версии (необходим допуск), то есть для доступа к ним может потребоваться приложение. Другие контейнеры доступны в режиме предварительной версии (допуск не требуется) или общедоступны. Полный список контейнеров и их доступность можно найти в службе поддержки контейнеров в статьях служб ИИ Azure. Вы также можете просмотреть контейнеры в реестре контейнеров Майкрософт (MCR).

Контейнеры ИИ Azure являются альтернативой облаку служб ИИ Azure. Контейнеры предлагают те же возможности, что и соответствующие облачные службы. Клиенты могут развертывать контейнеры локально или в Azure. Базовая технология искусственного интеллекта, ценовые категории, ключи API и сигнатура API для контейнера и соответствующих облачных служб одинаковы. Ниже приведены возможности и преимущества контейнеров по сравнению с эквивалентными им облачными службами.

Ранее предварительные версии контейнеров (необходим допуск) размещались в репозитории containerpreview.azurecr.io. По состоянию на 22 сентября 2020 эти контейнеры размещаются на Microsoft Container Registry. Для их загрузки не требуется использовать команду docker login. Контейнер предварительной версии можно запустить, если ресурс Azure был создан с утвержденным идентификатором подписки Azure. Вы не сможете запустить контейнер, если ваша подписка Azure не была утверждена после завершения формы запроса.

Мы хотели бы сделать больше предложений служб ИИ Azure, доступных в качестве контейнеров. Обратитесь к локальному диспетчеру учетных записей Майкрософт, чтобы получить обновления о новых выпусках контейнеров и других объявлениях служб ИИ Azure.

Azure AI предоставляет соглашения об уровне обслуживания для облачных размещенных служб, которые можно просмотреть на нашей странице соглашения об уровне обслуживания.

Однако службы ИИ Azure в контейнерах не предоставляют соглашение об уровне обслуживания, так как оно является локальным программным обеспечением. Клиенты управляют конфигурациями контейнеров служб ИИ Azure, поэтому корпорация Майкрософт не может предложить соглашение об уровне обслуживания для общедоступной доступности. Клиенты могут развертывать контейнеры в локальной среде, и они определяют среды размещения.

Контейнеры Azure AI уровня "Стандартный" можно использовать в национальных облаках. Контейнеры могут запускаться и подключаться к конечной точке выставления счетов в этих облаках после авторизации, но образы контейнеров должны быть извлечены из реестра контейнеров общедоступного облака. Контейнеры, использующие языковые модели, скачанные во время выполнения, такие как переводчик или пользовательская речь, также настраиваются для извлечения моделей из общедоступных конечных точек.

Приобретение отключенных контейнеров в настоящее время не поддерживается в национальных облаках. Отключенные контейнеры, приобретенные в общедоступном облаке, вместе со всеми зависимостями, можно передать в независимые облака и запустить в инфраструктуре национальных облачных служб.

Клиенты могут выбрать время обновления развернутых контейнеров. Контейнеры помечены стандартными тегами Docker, такими как latest указание последней версии. Мы советуем клиентам получать последние версии контейнеров по мере их выпуска. Дополнительные сведения о том, как получать уведомления касательно обновления образа, см. в статье Веб-перехватчики реестра контейнеров Azure.

Файлы лицензий контейнера используются в качестве ключей для расшифровки определенных файлов в каждом образе контейнера. Если эти зашифрованные файлы будут обновлены в новом образе контейнера, файл лицензии может не запустить контейнер, даже если он работал с предыдущей версией образа контейнера. Чтобы избежать этой проблемы, рекомендуется скачать новый файл лицензии из конечной точки ресурса для контейнера, предоставленного в портал Azure после извлечения новых версий образов из mcr.microsoft.com.

Чтобы скачать новый файл лицензии, можно добавить DownloadLicense=True в команду docker run вместе с подключением лицензий, ключом API и конечной точкой выставления счетов. Подробные инструкции см. в документации по контейнеру.

Как правило, поддерживается только текущая версия контейнера. Мы рекомендуем клиентам оставаться в курсе последних исправлений и технологий.

Изменения основного номера версии говорят о том, что в сигнатуре API имеется критическое изменение. Мы ожидаем, что это указание, как правило, совпадает с основными изменениями версий в соответствующем предложении облачных служб ИИ Azure. Изменения дополнительного номера версии говорят об исправлениях ошибок, обновлениях модели или новых возможностях, которые не вносят критических изменений в сигнатуру API.

Если у вас возникли проблемы с запуском контейнера служб искусственного интеллекта Azure, можно попробовать использовать контейнер Microsoft диагностика. Используйте этот контейнер для диагностики распространенных ошибок в среде развертывания, которые могут предотвратить работу контейнеров ИИ Azure должным образом.

Чтобы получить контейнер, используйте следующую команду docker pull:

docker pull mcr.microsoft.com/azure-cognitive-services/diagnostic

Затем запустите контейнер. Замените {ENDPOINT_URI} на URI конечной точки, а {API_KEY} — на свой ключ для ресурса:

docker run --rm mcr.microsoft.com/azure-cognitive-services/diagnostic \
eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

Контейнер проверит сетевое подключение к конечной точке выставления счетов.

Если у вас нет надежного подключения к Интернету, вы хотите сэкономить на стоимости пропускной способности, у вас есть требования к низкой задержке или вы работаете с конфиденциальными данными, которые необходимо проанализировать на сайте, Azure IoT Edge с контейнерами ИИ Azure обеспечивает согласованность с облаком.

Мы не тестируем контейнеры с помощью OpenShift, но в целом контейнеры ИИ Azure должны работать на любой платформе, поддерживающей образы Docker. Если вы используете OpenShift, рекомендуется запускать контейнеры как root-user.

Клиентам рекомендуется публично заявлять о проблемах и поддерживать других пользователей, которые сталкиваются с аналогичными потенциальными вопросами. С помощью средства обратной связи можно оставлять как отзывы о продуктах, так и рекомендации касательно возможностей.

Ниже приведены сообщения о состоянии и ошибки.

Каналы поддержки клиентов совпадают с облачными API-интерфейсами служб ИИ Azure. Все контейнеры ИИ Azure включают функции ведения журнала, которые помогают нам и пользователям сообщества поддерживать. Ниже приведены параметры дополнительной поддержки.

• Найдите контактные данные в плане поддержки Azure.
• Попробуйте использовать эти области Stack Overflow, сайт вопросов и ответов для профессиональных и энтузиастов программистов:
  • Службы ИИ Azure
  • Когнитивные службы Майкрософт

Клиенты оплачиваются на основе использования, аналогичного облаку служб искусственного интеллекта Azure. Контейнеры должны быть настроены для отправки данных измерения в Azure, а счета за транзакции выставляются соответствующим образом. Ресурсы, используемые в размещенных и локальных службах, добавляются в одну квоту с многоуровневыми ценами, учитывая оба использования. Дополнительные сведения см. в разделе выставления счетов используемого контейнера .

См. пример информации, которую контейнер передает в службу контроля потребления:

usageRequestBody": {
  "id": "1234abcd-1234-56ab-ab12-1234abcd",
  "containerType": "<container-type>",
  "containerVersion": "<container-version>",
  "containerId": "<contianer-id>",
  "meter": {
    "name": "<meter-name>",
    "quantity": 0.0
  },
  "requestTime": 12345687890,
  "apiType": "<api-type>"
},

Стандартная гарантия Корпорации Майкрософт для корпоративного программного обеспечения применяется ко всем контейнерам официально объявленным как общедоступная версия (GA). Нет гарантии для предварительных версий.

Контейнеры ИИ Azure не лицензируются для запуска без подключения к Azure для измерения. Клиентам необходимо разрешить контейнерам всегда взаимодействовать со службой измерения.

Контейнеры ИИ Azure не лицензируются для запуска без подключения к Azure для измерения. Клиентам необходимо разрешить контейнерам всегда взаимодействовать со службой измерения.

Контейнеры ИИ Azure — это контейнеры на основе x64, которые могут запускать любой совместимый узел Linux, виртуальную машину и пограничное устройство, поддерживающее контейнеры Docker для Linux x64. Все они нуждаются в ЦП. Дополнительные сведения см. в разделе "Требования к контейнерам и рекомендации" используемого контейнера .

Контейнеры ИИ Azure — это контейнеры Linux, но в Windows есть некоторая поддержка контейнеров Linux. Дополнительные сведения о контейнерах Linux в Windows см. в документации по Docker.

Корпорация Майкрософт является первым поставщиком облачных служб для перемещения предварительно обученных моделей искусственного интеллекта в контейнерах с простым выставлением счетов за транзакцию, как будто клиенты используют облачную службу. Корпорация Майкрософт считает, что гибридное облако предоставляет клиентам дополнительные возможности выбора.

Контейнеры ИИ Azure не имеют сертификатов соответствия.

Контейнеры можно запускать где угодно в любом регионе, но им требуются ключ и обратная связь с Azure для отслеживания использования. Все поддерживаемые регионы для облачной службы поддерживаются для вызова с целью отслеживания использования контейнеров.

• Использование контейнеров ИИ Azure в отключенных средах