在 Azure 容器執行個體上部署及執行容器

您可以執行下列步驟，使用 Azure 容器執行個體輕鬆調整雲端中的 Azure AI 服務應用程式。 容器化可協助您專注於建置應用程式，而不是管理基礎結構。 如需使用容器的詳細資訊，請參閱功能和優點。

必要條件

此配方適用於任何 Azure AI 服務容器。 使用配方之前，必須先建立 Azure AI 服務資源。 每項支援容器的 Azure AI 服務都有＜安裝方式＞一文，說明如何為容器安裝和設定服務。 某些服務需要一個檔案或一組檔案作為容器的輸入，您必須先了解並已成功使用容器，才能使用此解決方案。

• 您所使用 Azure AI 服務的 Azure 資源。

• Azure AI 服務資源端點 URL - 請檢閱特定服務用於容器的＜安裝方式＞，以了解端點 URL 在 Azure 入口網站中的位置，以及正確的 URL 範例看起來是什麼樣子。 確切格式可能會因不同的服務而有所變更。

• Azure AI 服務資源金鑰 - 這些金鑰位於 Azure 資源的 [金鑰] 頁面上。 您只需要兩個金鑰中的其中一個。 金鑰是 32 個英數字元字串。

• 本機主機 (您的電腦)上的單一 Azure AI 服務容器。 請確定您可以：

  • 使用 docker pull 命令來提取映像。
  • 使用 docker run 命令透過所有必要的組態設定來順利執行本機容器。
  • 呼叫容器的端點，以取得 HTTP 2xx 的回應和傳回的 JSON 回應。

角括弧 <> 中的所有變數都必須取代為您自己的值。 這項取代包括角括弧。

重要

LUIS 容器需要在執行階段提取的 .gz 模型檔案。 容器必須能夠透過容器執行個體的磁碟區掛接來存取此模型檔案。 若要上傳模型檔案，請遵循下列步驟：

1. 建立 Azure 檔案共用。 請記下 Azure 儲存體帳戶名稱、金鑰和檔案共用名稱，因為您稍後將會用到。
2. 從 LUIS 入口網站匯出您的 LUIS 模型 (封裝的應用程式)。
3. 在 Azure 入口網站中，瀏覽至儲存體帳戶資源的 [概觀] 頁面，然後選取 [檔案共用]。
4. 選取您最近建立的檔案共用名稱，然後選取 [上傳]。 然後上傳您封裝的應用程式。

Azure 入口網站

使用 Azure 入口網站建立 Azure 容器執行個體資源

1. 前往容器執行個體的 [建立] 頁面。

2. 在 [基本] 索引標籤上，輸入下列詳細資料：

   設定	值
   訂用帳戶	選取您的訂用帳戶。
   資源群組	選取可用的資源群組，或建立新的資源群組，例如 cognitive-services。
   容器名稱	輸入名稱，例如 cognitive-container-instance。 該名稱必須以小寫表示。
   Location	選取要部署的區域。
   影像類型	如果您的容器映像儲存在不需要認證的容器登錄中，請選擇 Public。 如果存取您的容器映像需要認證，請選擇 Private。 如需容器映像是 Public 或 Private (「公開預覽」) 的詳細資料，請參閱容器存放庫和映像。
   映像名稱	輸入 Azure AI 服務容器位置。 位置可作為 docker pull 命令的引數。 如需可用的映像名稱及其對應的存放庫，請參閱容器存放庫和映像。 映像名稱必須是指定三個部分的完整名稱。 首先是容器登錄，接著是存放庫，最後是映像名稱：<container-registry>/<repository>/<image-name>。 以下是一個範例：mcr.microsoft.com/azure-cognitive-services/keyphrase，代表 Azure AI 服務存放庫下 Microsoft Container Registry 中的關鍵片語擷取映像。 另一個範例是 containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text，代表容器預覽容器登錄之 Microsoft 存放庫中的語音轉換文字映像。
   OS 類型	Linux
   大小	變更您特定 Azure AI 容器的建議大小： 2 個 CPU 核心 4 GB

3. 在 [網路] 索引標籤上，輸入下列詳細資料：

   設定	值
   連接埠	將 TCP 通訊埠設定為 5000。 在通訊埠 5000 上公開容器。

4. 在 [進階] 索引標籤上，針對 Azure 容器執行個體資源的容器計費設定輸入必要的 [環境變數]：

   機碼	值
   ApiKey	從資源的 [金鑰與端點] 頁面複製。 其為 32 個英數字元字串，不含空格或虛線 (xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx)。
   Billing	您的端點 URL 是從資源的 [金鑰與端點] 頁面複製。
   Eula	accept

5. 選取 [檢閱並建立]

6. 通過驗證之後，按一下 [建立] 以完成建立程序

7. 當資源部署成功時，即已就緒

CLI

從 Azure CLI 建立 Azure 容器執行個體資源

下列 YAML 會定義 Azure 容器執行個體資源。 將內容複製並貼到名為 my-aci.yaml 的新檔案中，並將加上註解的值取代為您自己的值。 如需有效的 YAML，請參閱範本格式。 如需可用的映像名稱及其對應的存放庫，請參閱容器存放庫和映像。 如需容器執行個體之 YAML 參考的詳細資訊，請參閱 YAML 參考：Azure 容器執行個體。

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

注意

並非所有位置都有相同的 CPU 和記憶體可用性。 如需每個位置和 OS 的容器可用資源清單，請參閱位置和資源表格。

我們會依賴我們為 az container create 命令建立的 YAML 檔案。 從 Azure CLI 中，執行 az container create 命令，並將 <resource-group> 取代為您自己的值。 此外，若要保護 YAML 部署內的值，請參閱安全值。

az container create -g <resource-group> -f my-aci.yaml

命令的輸出為 Running...，若有效，在一段時間後，輸出會變更為 JSON 字串，代表新建立的 ACI 資源。 容器映像很可能暫時無法使用，但現在已部署資源。

提示

請密切注意公開預覽版中 Azure AI 服務的位置，因為需要據以調整 YAML 以符合該位置。

使用容器執行個體

Azure 入口網站

1. 選取 [概觀] 並複製 IP 位址。 這會是數值 IP 位址，例如 55.55.55.55。

2. 開啟新的瀏覽器索引標籤，並使用 IP 位址，例如 http://<IP-address>:5000 (http://55.55.55.55:5000。 您會看到容器的首頁，讓您知道容器正在執行。

   

3. 選取 [Service API Description] \(服務 API 描述\) 以檢視容器的 Swagger 頁面。

4. 選取任何 POST API，然後選取 [試用]。參數隨即顯示，包括輸入。 填寫參數。

5. 選取 [執行]，將要求傳送至您的容器執行個體。

   您已成功在 Azure 容器執行個體中建立並使用 Azure AI 容器。

CLI

驗證容器正在執行

有數種方式可驗證容器正在執行。 找出有問題容器的外部 IP 位址和公開的連接埠，然後開啟您最愛的網頁瀏覽器。 使用下列各項要求 URL，以驗證容器是否正在執行。 此處列出的範例要求 URL 為 http://localhost:5000，但您的特定容器可能會有所不同。 請務必依賴您容器的「外部 IP」 位址和公開的連接埠。

要求 URL	目的
http://localhost:5000/	容器會提供首頁。
http://localhost:5000/ready	以 GET 提出要求，此 URL 將會驗證容器是否已準備好接受對模型的查詢。 此要求可用來進行 Kubernetes 活躍度和整備度探查 \(英文\)。
http://localhost:5000/status	也會以 GET 提出要求，此 URL 會在不需進行端點查詢的同時，確認用來啟動容器的 API 金鑰是否有效。 此要求可用來進行 Kubernetes 活躍度和整備度探查 \(英文\)。
http://localhost:5000/swagger	容器會為端點提供一組完整的文件和立即試用功能。 使用此功能，您可以將自己的設定輸入至以 Web 為基礎的 HTML 表單並進行查詢，而無須撰寫任何程式碼。 當查詢傳回時，會提供範例 CURL 命令來示範所需的 HTTP 標頭和本文格式。

注意

如果您正在執行健康狀態容器的文字分析，請使用下列 URL 提交查詢：http://localhost:5000/text/analytics/v3.2-preview.1/entities/health