如何使用 Azure AI Studio 部署 Azure OpenAI 模型
重要
本文所述的部分功能可能僅適用於預覽版。 此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。 可能不支援特定功能，或可能已經限制功能。 如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。
在本文中，您將瞭解在 Azure AI Studio 中建立 Azure OpenAI 模型部署。
Azure OpenAI 服務提供具有不同功能和價格點的多種模型。 當您在 Azure AI Studio 中部署 Azure OpenAI 模型時，您可以使用提示流程或其他工具來取用部署。 模型供應情形因區域而異 若要深入了解每個模型的詳細資料，請參閱 Azure OpenAI 服務模型。
若要在 Azure AI Studio 遊樂場 中修改 Azure OpenAI 模型並與它互動，您需要先將基本 Azure OpenAI 模型部署到您的專案中。 一旦模型在您的專案中進行部署並且可用之後，您就可以按原樣取用其 REST API 端點，或使用您自己的資料和其他元件 (內嵌、索引等) 做進一步的自訂。
從模型目錄中部署 Azure OpenAI 模型
請依照下列步驟將 Azure OpenAI 模型 (例如 gpt-4) 部署到 AI Studio 模型目錄的即時端點：
登入 AI Studio，並移至「首頁」頁面。
從左側側邊列中，選取「模型目錄」。
在「集合」篩選條件中，選取「Azure OpenAI」。
從 Azure OpenAI 集合中選取模型 (例如
gpt-4)。選取「部署」以開啟部署視窗。
選取您要部署模型的中樞。 如果您沒有中樞，便可建立一個中樞。
根據您的需求指定部署名稱，並修改其他預設設定。
選取部署。
您會到達部署詳細資料頁面。 選取 [在遊樂場中開啟]。
選取 [檢視程式碼]，以取得可用來取用應用程式中已部署模型的程式碼範例。
從專案部署 Azure OpenAI 模型
或者，您可以從 AI Studio 中的專案開始起始部署。
- 移至您在 AI Studio 中的專案。
- 前往「元件」>「部署」。
- 選取「+ 建立部署」。
- 在「集合」篩選條件中，選取「Azure OpenAI」。
- 從 Azure OpenAI 集合中選取模型 (例如
gpt-4)。 - 選取「確認」以開啟部署視窗。
- 根據您的需求指定部署名稱，並修改其他預設設定。
- 選取部署。
- 您會到達部署詳細資料頁面。 選取 [在遊樂場中開啟]。
- 選取 [檢視程式碼]，以取得可用來取用應用程式中已部署模型的程式碼範例。
推斷 Azure OpenAI 模型
若要在已部署的模型上執行推斷作業，您可以使用遊樂場或程式碼範例。 遊樂場是以 Web 為基礎的介面，可讓您即時與模型互動。 您可以使用遊樂場透過不同的提示來測試模型，並查看模型的回應。
如需如何在應用程式中取用已部署模型的更多範例，請參閱下列 Azure OpenAI 快速入門：
模型的區域可用性和配額限制
針對 Azure OpenAI 模型，模型的預設配額會因模型和區域而異。 某幾個模型可能僅適用於某些區域。 如需可用性和配額限制的詳細資訊，請參閱 Azure OpenAI 服務配額和限制。
部署和推斷模型的配額
針對 Azure OpenAI 模型，部署和推斷是依每區域每模型為基礎，以每分鐘權杖 (TPM) 為單位而將取用配額指派至您的訂用帳戶中。 註冊 Azure AI Studio 時，您收到多數可用模型的預設配額。 然後，在建立部署時將 TPM 指派給每個部署，而該模型的可用配額則會隨著該數量而減少。 您可以繼續建立部署並將其指派給 TPM，直到達到配額限制為止。
達到配額限制時，建立該模型新部署的唯一方法是：
- 提交配額增加表單以要求更多配額。
- 調整其他模型部署上配置的配額，以為 azure OpenAI 入口網站上的新部署釋出權杖。
若要深入瞭解配額，請參閱 Azure AI Studio 配額以及管理 Azure OpenAI 服務配額。
相關內容
- 深入了解您可以在 Azure AI Studio 中執行的動作
- 在 Azure AI 常見問題文章中取得常見問題的解答