部署模型

  • 5 分鐘

建立 Azure OpenAI 資源之後，您必須部署模型，以啟動 API 呼叫和文字生成。 使用部署 API 來選擇和部署您的模型。

部署

部署會提供端點給 Azure OpenAI 基底模型或您選擇的模型。 在部署期間，您可藉由指定內容調節模型、版本處理和部署大小來量身打造模型，以符合您的需求。

重要

部署之後，您會收到兩個主要項目：

  • 端點，這是可用來呼叫模型或提出 HTTP 要求的連結。
  • API 金鑰，其作用就像密碼一樣用來驗證對端點的要求，並授與您的帳戶存取權。

Azure OpenAI 工作室

Azure OpenAI Studio 是以 Web 為基礎的介面，可讓您與 Azure OpenAI 服務互動。 您可使用遊樂場，藉由提交提示和產生完成來實驗服務功能。 您也可使用 Azure OpenAI Studio 來管理您的部署和模型。 若要登入 Azure OpenAI Studio：

  • 直接瀏覽至介面，選取您的訂用帳戶，然後選取您的雲端資源。
    Or
  • 透過 Azure 入口網站中的雲端資源索引標籤瀏覽至網站。

您可使用 Azure OpenAI Studio 執行的動作

  • 建立和管理部署。
  • 在遊樂場中測試功能。
  • 處理用於定型的資料檔案。
  • 管理配額。
  • 篩選內容。

使用 Azure CLI 佈建模型部署

您可使用 Azure CLI，而不是 Azure 入口網站來部署雲端資源。 您也可藉由指定下列各項，使用 Azure CLI 來建立模型部署：

  • 資源名稱用以識別您要建立模型部署的帳戶。
  • 資源群組名稱，做為用以儲存所建立資源的邏輯貯體。
  • 部署名稱 (選用)，可協助識別來自相同模型的不同部署。 例如，當您以程式設計方式傳送要求時，您必須具有部署名稱。 如果未指定部署名稱，則預設值為所選模型的名稱。
  • 模型類型名稱。 根據您嘗試執行的動作，輸入特定的模型類型。 例如，輸入文字生成、聊天或產生影像。
  • 模型格式。
  • SKU 容量值 (選用)。
  • SKU 名稱 (選用)。

以下是如何建立模型部署的範例。 變更程式碼以符合您的需求。


az cognitiveservices account deployment create \ 
--name cognitiveServiceAccountName \ 
--resource-group resourceGroupName \ 
--deployment-name deploymentName \ 
--model-name gpt-35-turbo \ 
--model-version "0301" \ 
--model-format OpenAI \ 
--sku-capacity "1" \ 
--sku-name "Standard"

注意

若要從 CLI 使用新建立的部署，您需要擷取端點 URL 和 API 金鑰。 如需詳細資訊，請參閱建立及部署 Azure OpenAI 服務資源。