Azure AI 容器的常見問題集

一般問題

可用的內容有哪些?

Azure AI 容器可讓開發人員使用 Azure 中提供的相同智慧型 API,但同時又保有容器化的優點 (部分機器翻譯)。 某些容器是以受控管預覽形式提供,其可能需要應用程式才能存取。 其他容器則是以公開預覽的形式公開提供,或是已正式發行。 您可以在 Azure AI 服務中的容器支援一文中找到完整的容器清單及其可用性。 您也可以在 Microsoft Container Registry (MCR) 中檢視容器。

Azure AI 服務雲端與容器之間是否有任何差異?

Azure AI 容器是 Azure AI 服務雲端的替代方案。 容器提供的功能與相對應的雲端服務相同。 客戶可以在內部部署或在 Azure 中部署容器。 核心 AI 技術、定價層、API 金鑰和 API 簽章,在容器和相對應的雲端服務之間都是相同的。 相較於選擇對應的雲端服務,以下是選擇容器時可考量的功能和優點

如何存取並使用非公開的預覽容器?

先前,非公開的預覽容器是裝載於 containerpreview.azurecr.io 存放庫。 從 2020 年 9 月 22 日起,這些容器會裝載在 Microsoft Container Registry 上。 下載並不要求您使用 docker login 命令。 如果您的 Azure 資源是使用核准的 Azure 訂用帳戶識別碼建立的,即可執行非公開的預覽容器。 如果您的 Azure 訂用帳戶在完成要求表單之後尚未獲得核准,將無法執行容器。

容器是否適用所有 Azure AI 服務供應項目,以及我應期待的下一組容器為何?

我們想要讓更多 Azure AI 服務供應項目可作為容器使用。 請連絡您當地的 Microsoft 客戶經理,以取得新容器發行和其他 Azure AI 服務公告的相關更新。

Azure AI 容器的服務等級協定 (SLA) 為何?

重要

若要深入了解 Azure AI 服務的服務等級協定,請瀏覽我們的 SLA 頁面

Azure AI 為雲端託管服務提供 SLA,可在我們的 SLA 頁面上檢視。

不過,容器中的 Azure AI 服務不會提供 SLA,因為其為內部部署軟體。 客戶可控制資源的 Azure AI 服務容器設定,因此 Microsoft 不會針對正式發行 (GA) 提供 SLA。 客戶可以自行在內部部署上部署容器並定義主機環境。

這些容器可在主權雲端中使用嗎?

標準 Azure AI 服務容器可用於主權雲端。 授權後,這些容器即可執行並連線至這些雲端中的計費端點,但容器映像則必須從公用雲端容器登錄提取。 依賴執行階段所下載語言模型的容器,例如翻譯工具或自訂語音轉換文字,也會設定為從公用端點提取模型。

主權雲端目前不支援購買已中斷連線的容器。 在公用雲端中購買的已中斷連線容器和所有相依性都可以一起傳輸至主權雲端,並在主權雲端基礎結構上執行。

版本控制

容器如何更新為最新版本?

客戶可以選擇何時更新其所部署的容器。 容器會以標準的 Docker 標籤進行標記,例如 latest 表示為最新版本。 我們鼓勵客戶在發行最新版本容器時加以提取。 如需如何在映像更新時收到通知的詳細資訊,請參閱 Azure Container Registry Webhook

容器授權檔案是用於解密每個容器映像內特定檔案的金鑰。 如果這些加密檔案的更新發生在新的容器映像內,則您擁有的授權檔案可能無法啟動容器,即使它適用於以前版本的容器映像。 若要避免此問題,建議您從 mcr.microsoft.com 提取新映像版本之後,再從 Azure 入口網站中所提供的容器資源端點下載新的授權檔案。

若要下載新的授權檔案,您可以將 DownloadLicense=True 以及授權掛接、API 金鑰和計費端點一起新增至 Docker 執行命令。 如需詳細指示,請參閱容器的文件

支援哪些版本?

一般而言,僅支援容器目前的版本。 我們鼓勵客戶使用最新版本以取得最新的修補檔和技術。

更新的版本設定方式為何?

主要版本變更表示對 API 簽章做出突破性變更。 我們預期此指示通常會和相對應的 Azure AI 服務雲端供應項目的主要版本變更互相呼應。 次要版本變更表示不會對 API 簽章做出中斷性變更的錯誤修正、模型更新或新功能。

技術問題

如何診斷我的部署環境中的潛在錯誤?

如果您在執行 Azure AI 服務容器時遇到問題,可以嘗試使用 Microsoft 診斷容器。 您可以使用此容器來診斷部署環境中的常見錯誤,這些錯誤可能會導致 Azure AI 容器無法如預期般運作。

若要取得容器,請使用下列 docker pull 命令:

docker pull mcr.microsoft.com/azure-cognitive-services/diagnostic

接著執行該容器。 將 {ENDPOINT_URI} 取代為您的端點,並將 {API_KEY} 取代為您資源的金鑰:

docker run --rm mcr.microsoft.com/azure-cognitive-services/diagnostic \
eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

容器會測試帳單端點的網路連線能力。

應如何在 IoT 裝置上執行 Azure AI 容器?

無論是沒有可靠的網際網路連線、想要節省頻寬成本、有低延遲需求,或是正在處理需要在網站上分析的敏感性資料,Azure IoT Edge 搭配 Azure AI 容器都能夠運用雲端讓您獲得一致性。

這些容器是否與 OpenShift 相容?

我們並不會搭配 OpenShift 測試容器,但一般而言,Azure AI 容器應該能在支援 Docker 映像的任何平台上執行。 如果您是使用 OpenShift,建議您以 root-user 的身分執行容器。

如何提供產品意見反應和功能建議?

我們鼓勵客戶公開表達他們的疑慮,同時針對可能與您問題重疊的其他問題投出同意票。 您可以使用意見反應工具來提供產品意見反應和功能建議。

Azure AI 容器會傳回哪些狀態訊息和錯誤?

以下是狀態訊息和錯誤:

狀態 描述
Valid 您的 API 金鑰有效。 不需要採取任何動作。
Invalid 您的 API 金鑰無效。 您必須提供有效的 API 金鑰才能執行容器。 在 Azure 入口網站中 Azure AI 服務資源的 [金鑰和端點] 區段中,尋找您的 API 金鑰和服務區域。
Mismatch 您已針對不同類型的 Azure AI 服務資源提供 API 金鑰或端點。 在 Azure 入口網站中 Azure AI 服務資源的 [金鑰和端點] 區段中,尋找您的 API 金鑰和服務區域。
CouldNotConnect 容器無法連線至帳單端點。 檢查 Retry-After 值,並等候此期間結束再提出其他要求。
OutOfQuota API 金鑰已超過配額。 您可以升級定價層,或等候更多配額變為可供使用。 在 Azure 入口網站中,從 Azure AI 服務資源的 [定價層] 區段尋找您的階層。
BillingEndpointBusy 帳單端點目前忙碌中。 檢查 Retry-After 值,並等候此期間結束再提出其他要求。
ContainerUseUnauthorized 所提供的 API 金鑰未獲授權,無法與此容器搭配使用。 您很可能是使用受管制的容器,因此請提交線上要求以確定您的 Azure 訂用帳戶識別碼已獲核准。
[ERROR] Failed to download: context deadline exceeded 模型檔案下載至伺服器的要求已逾時。請確保您的網際網路連線能力強大,可在一小時內下載所有必要的檔案。 模型下載適用於文字翻譯和一些語音服務容器。
The provided license path was not found. Please ensure a volume is mounted and a directory exists at the location specified by Mounts:License 僅限已中斷連線的容器。 docker run 命令中指定的位置沒有儲存在本機的授權檔案。 您可能已不正確地掛接授權磁碟區。 請務必檢查您的本機檔案系統,並在 docker run 命令中使用 -v 引數,提供授權檔案所需的本機儲存位置的有效檔案路徑。
Unknown 伺服器目前無法處理帳單要求。

我該如何取得支援?

客戶支援通道和 Azure AI 服務雲端式 API 相同。 所有 Azure AI 容器都包括記錄功能,可協助我們和社群支援客戶。 以下是更多支援的選項:

帳單如何運作?

與 Azure AI 服務雲端類似,我們會根據耗用量向客戶收費。 容器必須設定為將計量資料傳送至 Azure,然後系統據此針對交易進行計費。 跨託管和內部部署服務所使用的資源會加到使用分層式定價的單一配額,兩種使用量都納入計算。 如需詳細資訊,請參閱您正在使用的容器的計費一節。

重要

Azure AI 容器未獲授權在未連線至 Azure 進行計量的情況下執行。 客戶必須啟用容器,才能持續和計量服務進行計費資訊的通訊。 Azure AI 容器不會將客戶資料傳送給 Microsoft。

以下是容器針對計量進行通訊的資訊範例:

usageRequestBody": {
  "id": "1234abcd-1234-56ab-ab12-1234abcd",
  "containerType": "<container-type>",
  "containerVersion": "<container-version>",
  "containerId": "<contianer-id>",
  "meter": {
    "name": "<meter-name>",
    "quantity": 0.0
  },
  "requestTime": 12345687890,
  "apiType": "<api-type>"
},

容器目前的支援瑕疵擔保為何?

Microsoft 針對企業軟體的標準瑕疵擔保適用於正式公告為正式發行 (GA) 的所有容器。 預覽版沒有任何瑕疵擔保。

當網際網路連線中斷時,Azure AI 容器會發生什麼事?

Azure AI 容器未獲授權在未連線至 Azure 進行計量的情況下執行。 客戶必須啟用容器,才能持續和計量服務進行通訊。

容器在沒有連線至 Azure 的情況下,可以運作多久的時間?

Azure AI 容器未獲授權在未連線至 Azure 進行計量的情況下執行。 客戶必須啟用容器,才能持續和計量服務進行通訊。

執行這些容器所需的硬體有哪些?

Azure AI 容器為 x64 型容器,其可執行支援 x64 Linux Docker 容器的所有相容 Linux 節點、VM 與邊緣裝置。 其都需要 CPU 處理器。 如需詳細資訊,請參閱您正在使用的容器的容器需求和建議一節。

Windows 目前是否支援這些容器?

Azure AI 容器是 Linux 容器,不過 Windows 上存在一些對 Linux 容器的支援。 如需有關 Windows 上 Linux 容器的詳細資訊,請參閱 Docker 文件

Azure AI 容器與 AWS 和 Google 的供應項目有何不同?

Microsoft 是將其預先定型的 AI 模型以容器方式移動的第一個雲端提供者,同時提供以每筆交易為單位的簡易計費方式,如同客戶是在使用雲端服務一般。 Microsoft 認為混合式雲端能為客戶提供更多選擇。

容器有哪些合規性認證?

Azure AI 容器不具有任何合規性認證。

Azure AI 容器可在哪些區域取得?

容器可以在任何區域中的任何位置執行,不過其需要金鑰及針對計量向 Azure 進行回呼。 雲端服務所支援的所有區域,也都支援進行容器計量呼叫。