分享方式:


在 Azure 容器執行個體上部署及執行容器

您可以執行下列步驟,使用 Azure 容器執行個體輕鬆調整雲端中的 Azure AI 服務應用程式。 容器化可協助您專注於建置應用程式,而不是管理基礎結構。 如需使用容器的詳細資訊,請參閱功能和優點

必要條件

此配方適用於任何 Azure AI 服務容器。 使用配方之前,必須先建立 Azure AI 服務資源。 每項支援容器的 Azure AI 服務都有<安裝方式>一文,說明如何為容器安裝和設定服務。 某些服務需要一個檔案或一組檔案作為容器的輸入,您必須先了解並已成功使用容器,才能使用此解決方案。

  • 您所使用 Azure AI 服務的 Azure 資源。

  • Azure AI 服務資源端點 URL - 請檢閱特定服務用於容器的<安裝方式>,以了解端點 URL 在 Azure 入口網站中的位置,以及正確的 URL 範例看起來是什麼樣子。 確切格式可能會因不同的服務而有所變更。

  • Azure AI 服務資源金鑰 - 這些金鑰位於 Azure 資源的 [金鑰] 頁面上。 您只需要兩個金鑰中的其中一個。 金鑰是 32 個英數字元字串。

  • 本機主機 (您的電腦)上的單一 Azure AI 服務容器。 請確定您可以:

    • 使用 docker pull 命令來提取映像。
    • 使用 docker run 命令透過所有必要的組態設定來順利執行本機容器。
    • 呼叫容器的端點,以取得 HTTP 2xx 的回應和傳回的 JSON 回應。

角括弧 <> 中的所有變數都必須取代為您自己的值。 這項取代包括角括弧。

重要

LUIS 容器需要在執行階段提取的 .gz 模型檔案。 容器必須能夠透過容器執行個體的磁碟區掛接來存取此模型檔案。 若要上傳模型檔案,請遵循下列步驟:

  1. 建立 Azure 檔案共用。 請記下 Azure 儲存體帳戶名稱、金鑰和檔案共用名稱,因為您稍後將會用到。
  2. 從 LUIS 入口網站匯出您的 LUIS 模型 (封裝的應用程式)
  3. 在 Azure 入口網站中,瀏覽至儲存體帳戶資源的 [概觀] 頁面,然後選取 [檔案共用]
  4. 選取您最近建立的檔案共用名稱,然後選取 [上傳]。 然後上傳您封裝的應用程式。

使用 Azure 入口網站建立 Azure 容器執行個體資源

  1. 前往容器執行個體的 [建立] 頁面。

  2. 在 [基本] 索引標籤上,輸入下列詳細資料:

    設定
    訂用帳戶 選取您的訂用帳戶。
    資源群組 選取可用的資源群組,或建立新的資源群組,例如 cognitive-services
    容器名稱 輸入名稱,例如 cognitive-container-instance。 該名稱必須以小寫表示。
    Location 選取要部署的區域。
    影像類型 如果您的容器映像儲存在不需要認證的容器登錄中,請選擇 Public。 如果存取您的容器映像需要認證,請選擇 Private。 如需容器映像是 PublicPrivate (「公開預覽」) 的詳細資料,請參閱容器存放庫和映像
    映像名稱 輸入 Azure AI 服務容器位置。 位置可作為 docker pull 命令的引數。 如需可用的映像名稱及其對應的存放庫,請參閱容器存放庫和映像

    映像名稱必須是指定三個部分的完整名稱。 首先是容器登錄,接著是存放庫,最後是映像名稱:<container-registry>/<repository>/<image-name>

    以下是一個範例:mcr.microsoft.com/azure-cognitive-services/keyphrase,代表 Azure AI 服務存放庫下 Microsoft Container Registry 中的關鍵片語擷取映像。 另一個範例是 containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text,代表容器預覽容器登錄之 Microsoft 存放庫中的語音轉換文字映像。
    OS 類型 Linux
    大小 變更您特定 Azure AI 容器的建議大小:
    2 個 CPU 核心
    4 GB
  3. 在 [網路] 索引標籤上,輸入下列詳細資料:

    設定
    連接埠 將 TCP 通訊埠設定為 5000。 在通訊埠 5000 上公開容器。
  4. 在 [進階] 索引標籤上,針對 Azure 容器執行個體資源的容器計費設定輸入必要的 [環境變數]

    機碼
    ApiKey 從資源的 [金鑰與端點] 頁面複製。 其為 32 個英數字元字串,不含空格或虛線 (xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx)。
    Billing 您的端點 URL 是從資源的 [金鑰與端點] 頁面複製。
    Eula accept
  5. 選取 [檢閱並建立]

  6. 通過驗證之後,按一下 [建立] 以完成建立程序

  7. 當資源部署成功時,即已就緒

使用容器執行個體

  1. 選取 [概觀] 並複製 IP 位址。 這會是數值 IP 位址,例如 55.55.55.55

  2. 開啟新的瀏覽器索引標籤,並使用 IP 位址,例如 http://<IP-address>:5000 (http://55.55.55.55:5000。 您會看到容器的首頁,讓您知道容器正在執行。

    容器的首頁

  3. 選取 [Service API Description] \(服務 API 描述\) 以檢視容器的 Swagger 頁面。

  4. 選取任何 POST API,然後選取 [試用]。參數隨即顯示,包括輸入。 填寫參數。

  5. 選取 [執行],將要求傳送至您的容器執行個體。

    您已成功在 Azure 容器執行個體中建立並使用 Azure AI 容器。