目前正在觀看:新 Foundry 入口版本 - 切換到經典 Foundry 入口網站版本
在這個快速入門中,你要在 Microsoft Foundry 中建立一個已配置的吞吐量部署,進行推論呼叫以確認其運作,並查看其使用率指標。
配置式吞吐量部署為您的應用程式提供專用的模型處理吞吐量,且延遲可預測。 計費是按每小時配置吞吐量單元(PTU)進行。 對於長期工作負載,相較於小時計費,Azure 保留可提供財務折扣。 如需完整的概念介紹,請參閱 什麼是 Foundry Models 的佈建輸送量?。
Prerequisites
- 具有有效付款方式的 Azure 訂用帳戶。 如果您沒有 Azure 訂用帳戶,請建立付費 Azure 帳戶以開始。
- Azure Contributor 或 Cognitive Services Contributor 角色,位於您計劃建立部署的訂用帳戶或資源群組上。
- 位於你擁有 PTU 配額之區域中的一個 Microsoft Foundry 專案。 Foundry 專案由 Foundry 資源管理。
- 若部署使用 Azure CLI,可選擇安裝 Azure CLI。
請檢查型號與地區可用性
建立部署前,請確認您的模型在目標區域中支援佈建輸送量。
- 到 模型與區域可用性表 查看你的模型是否支援目標區域的預建吞吐量部署。
- 依照你的區域篩選,並確認該模型是否出現在 配置部署 類型中。
另外也要注意模型的最低 PTU 數,因為配置部署時需要這些資訊。 最小值依模型而異,並列於 部署參數及按模型分類的吞吐量值中。
請查看PTU配額
在遵循這個快速入門前,請確認你是否有目標區域和部署類型的配額。 檢查你的配額:
-
登入 Microsoft Foundry。 確定 新鑄造廠 的開關是開啟的。 以下步驟適用於 Foundry(新)。
選取訂用帳戶,以及您具有 PTU 配額之區域中的 Foundry 資源。
在右上角的導覽中選擇 「管理 」,然後在左側窗格選擇 「配額 」。
選擇 「配置處理吞吐量單元 」以查看可用配額。 如果沒有配額,請選擇 「申請配額 」並填寫表單。 配額核准可能需要數天時間,申請獲批時會收到電子郵件通知。
Tip
您也可以使用此配額申請表的直接連結。
建立已佈建的部署
在本區,你可以使用 Foundry 入口網站或 Azure CLI 建立已配置的部署。
使用 Foundry 入口網站進行部署
在右上角的導覽中選擇 「發現 」,然後在左側窗格選擇 「型號 」。
選擇你想部署的模型以開啟其模型卡,例如
gpt-5.1。選擇 部署>自訂設定。
在部署 類型 下拉選單中,選擇已配置的部署類型: 全球配置吞吐量、 資料區配置吞吐量或 區域配置吞吐量。
填寫部署欄位:
Field Description 部署名稱 一個你自己選擇的名字。 在程式碼中使用這個名稱來呼叫模型。 型號 要部署的模型,例如: gpt-5.1。模型版本 模型的版本。 已佈建的吞吐量單位 分配的PTU數量。 必須符合模型的最小值,例如。 50選擇 「確認價格 」以查看部署的時薪。 部署一建立,便會立即開始計費,即使沒有傳送任何請求也是如此。 刪除部署即可停止計費。 如果您不確定費用,請選擇 取消 ,並在繼續前檢視 PTU 帳單及成本管理 。
確認並建立部署。
(可選)使用 Azure CLI 進行部署
或者,你也可以使用 Azure CLI 來建立你的部署。
為 GPT-5.1 建立一個配置型部署,PTU 數量為 50 個。
az cognitiveservices account deployment create \ --name <myResourceName> \ --resource-group <myResourceGroupName> \ --deployment-name <myDeploymentName> \ --model-name GPT-5.1 \ --model-version "2025-11-13" \ --model-format OpenAI \ --sku-capacity 50 \ --sku-name GlobalProvisionedManaged用你的值替換
<myResourceName>,<myResourceGroupName><myDeploymentName>, 。--sku-name指定部署類型:GlobalProvisionedManaged、、DataZoneProvisionedManaged或ProvisionedManaged。--sku-capacity是PTU的數量。 這裡設定為50。
確認部署已成功完成:
az cognitiveservices account deployment show \ --deployment-name <myDeploymentName> \ --name <myResourceName> \ --resource-group <myResourceGroupName> \ --query "properties.provisioningState" -o tsv輸出應顯示
Succeeded。 模型在配置完成後即可使用。Reference: az cognitiveservices account deployment show
REST、ARM 範本、Bicep 和 Terraform 也可用來建立部署。 參見 自動化部署 並替換 sku.name 為 GlobalProvisionedManaged、 DataZoneProvisionedManaged或 ProvisionedManaged。
進行推斷呼叫
配置部署的推論程式碼與其他部署類型相同。 參數值請使用你的部署名稱(而非模型名稱)。model
本節程式碼使用 API 金鑰驗證。 你也可以使用 Entra ID 認證。 關於在進行推論呼叫時使用Entra ID認證的詳細資訊,請參見 如何用 Microsoft Foundry 模型產生文字回應。
在執行取樣前,請設定以下環境變數:
-
AZURE_OPENAI_API_KEY: 你的資源 API 金鑰。
Important
不要在申請中硬編碼憑證。 對於生產工作負載,請使用安全憑證儲存,例如 Azure Key Vault。 請參閱 Azure AI 服務的安全性功能。
安裝 OpenAI SDK:
pip install openai設定 OpenAI 客戶端,指定部署內容,並產生回應。 請用你的 Foundry 資源名稱替換
<myResourceName>。import os from openai import OpenAI client = OpenAI( api_key=os.getenv("AZURE_OPENAI_API_KEY"), base_url="https://<myResourceName>.openai.azure.com/openai/v1/", ) response = client.responses.create( model="<myDeploymentName>", # Your deployment name, not the model name input="What is provisioned throughput?", max_output_tokens=100, ) print(response.output_text)
查看部署利用率
通話結束後,請在 Azure 入口網站檢查流量使用率,確認流量是否抵達你的部署。
- 登入 Azure 入口網站。
- 請前往你的 Foundry 資源,並在左側導覽中選擇 「指標 」。
- 選取 Provisioned-managed utilization V2 計量。
- 如果資源中有多個部署,請依部署名稱篩選以查看各部署的使用率。
在測試通話後立即看到接近 0% 的使用率讀值是正常的——此指標會在監控時間窗內更新。
關於利用率如何計算及達到 100%時該怎麼做的完整說明,請參見 「在生產環境中操作配置部署」。
考慮設定溢位
溢位會自動將溢位要求從佈建部署路由至相同 Foundry 資源中的標準部署。 當佈建部署完全使用且傳回 429 代碼時,溢位會將這些超額要求重新導向至標準部署,而不是使其失敗,協助減少流量高載期間的中斷。 欲了解更多關於啟用溢出及監控溢出請求,請參閱「 管理有溢出的流量以支援已配置部署」。
考慮購買預留方案
您的部署將按小時費率計費。 如果您計劃讓它執行超過幾天,購買 Azure Reservation 可相較於小時計費降低您的有效 $/PTU/hr 成本。
如果您計劃在建立部署後購買保留,請確認您在 Azure 訂用帳戶上具有擁有者角色或保留購買者角色。 購買保留所需的角色與建立部署所需的角色不同。 如需角色需求,請參閱佈建輸送量保留。
Important
請務必先建立並確認部署,再購買保留。 該預留必須符合您的部署類型(全球、資料區或區域)及訂閱範圍。 對於資料區與區域部署,保留區域也必須匹配。 對於全球部署,單一全球預留即可涵蓋跨多個區域的全球 PTU 部署。 承諾購買尚未確認可用容量的保留,可能會導致您無法使用的財務承諾。
關於規模調整指引、採購步驟及管理,請參見 Azure 預定吞吐量的預留。
清理資源
刪除 Foundry 資源並不會自動刪除其部署。 刪除資源前務必刪除所有部署,因為刪除資源的部署費用會持續,直到資源被清除為止。 請參閱清除資源。
Note
刪除部署不會取消 Azure 預留。 如果你已經購買了,請在Azure入口網站<
請遵循下列步驟,透過刪除部署停止小時計費。
在 Foundry 入口網站刪除部署
- 在 Foundry 入口網站中,瀏覽至您的部署。
- 選擇部署,然後選擇 刪除 並確認。
(可選)使用 Azure CLI 刪除部署
az cognitiveservices account deployment delete \
--deployment-name <myDeploymentName> \
--name <myResourceName> \
--resource-group <myResourceGroupName>
參考資料:az cognitiveservices account deployment delete