建立並部署 Microsoft Foundry Models 資源(經典版)中的 Azure OpenAI

僅適用於:Foundry(經典)入口網站。 本文尚未在新的 Foundry 入口網站提供。 了解更多關於新入口網站的資訊。

本文中的連結可能會開啟新版 Microsoft Foundry 文件的內容,而非您目前正在瀏覽的 Foundry(經典版)文件。

部署至Azure

本文說明如何開始使用 Azure OpenAI,並提供建立資源與部署模型的逐步說明。 你可以用多種方式在 Azure 中建立資源:

  • Azure入口
  • REST API、Azure CLI、PowerShell 或 client 函式庫
  • Azure Resource Manager (ARM) 模板

本文將回顧如何在 Azure 入口網站、Azure CLI 以及 PowerShell 中建立與部署資源的範例。

先決條件

建立資源

以下步驟說明如何在 Azure 入口網站建立 Azure OpenAI 資源。

識別資源

  1. 在 Azure 入口網站以你的 Azure 訂閱登入。

  2. 選擇 Create a resource 並搜尋 Azure OpenAI。 找到服務後,選擇 建立

    此截圖展示如何在 Azure 入口網站的 Microsoft Foundry Models 資源中創建新的 Microsoft Azure OpenAI。

  3. Create Azure OpenAI 頁面,請提供以下 Basics 標籤欄位的資訊:

    欄位 描述
    訂閱 你在 Azure OpenAI 入門應用程式中使用的 Azure 訂閱。
    資源團體 Azure 資源群組用來包含你的 Azure OpenAI 資源。 你可以建立新群組或使用已有的群組。
    區域 你的實例所在位置。 不同位置可能會帶來延遲,但不會影響資源的執行時可用性。
    名稱 用一個描述性名稱來形容你的 Azure OpenAI 資源,例如 MyOpenAIResource
    定價層級 資源的價格層級。 目前 Azure OpenAI 僅提供標準層。 欲了解更多價格資訊,請造訪 Azure OpenAI 定價頁面

    截圖,展示如何在Azure入口中設定 Azure OpenAI 資源。

  4. 選擇 下一步

設定網路安全

網路標籤提供三種安全類型選項:

  • 選項一: 所有網路,包括網際網路,都能存取此資源。
  • 選項二: 選擇網路,為你的 Foundry 工具資源設定網路安全。
  • 選項三: 停用,任何網路都無法存取此資源。你可以設定私有端點連線,作為存取此資源的唯一方式。

截圖,顯示Azure入口中Azure OpenAI 資源的網路安全選項。

根據你選擇的選項,你可能需要提供更多資訊。

選項一:允許所有網路

第一種選項允許所有網路,包括網際網路,存取您的資源。 這個選項是預設設定。 此選項不需要額外設定。

選項二:只允許特定網路

第二個選項可以讓你辨識出可以存取你資源的特定網路。 當您選擇此選項時,頁面會更新,新增以下必填欄位:

欄位 描述
虛擬網路 指定允許存取你資源的虛擬網路。 你可以在 Azure 入口網站編輯預設的虛擬網路名稱。
子網 指定允許存取資源的子網路。 你可以在 Azure 入口網站編輯預設子網路名稱。

截圖,顯示如何設定Azure OpenAI 資源的網路安全,只允許特定網路使用。

火牆 區塊提供一個可選的 位址範圍 欄位,可以用來設定該資源的防火牆設定。

選項三:停用網路存取

第三個選項可以讓你停用對資源的網路存取。 當你選擇此選項時,頁面會更新以包含 私有端點 資料表。

截圖,顯示如何在Azure入口中停用Azure OpenAI 資源的網路安全。

你可以選擇新增一個私有端點來存取你的資源。 選擇 新增私有端點,並完成端點設定。

確認設定並建立資源

  1. 選擇 「下一步 」,並依需求設定資源的 標籤

  2. 選擇 「下一 頁」以進入流程的最後階段: Review + 提交

  3. 確認你的設定,然後選擇 建立

  4. Azure 入口網站會在新資源可用時顯示通知。 選擇 前往資源

    截圖顯示Azure入口中前往資源按鈕。

部署模型

在你產生文字或推論之前,你需要先部署一個模型。 你可以在 Foundry 入口網站中選擇多種可用型號之一。

要部署模型,請依照以下步驟操作:

  1. 登入 Microsoft Foundry。 請確認新鑄造廠的切換開關已經關閉。 這些步驟指的是Foundry(classic)

  2. 「繼續用 Foundry 建構 」區塊中,選擇 「查看所有資源」。

  3. 尋找並選擇你的資源。

    重要

    此時你可能會被建議將 Azure OpenAI 資源升級至 Foundry。 請參閱 本頁關於兩種資源類型的比較,以及資源升級與回滾的詳細資訊。 選擇 取消 即可繼續,無需資源類型升級。 交替選擇下一步

    請參閱 本文中關於 Foundry 資源的更多資訊。

  4. 從左側窗格的「共享資源」部分選擇「部署」。 (如果你在前一步升級到 Foundry,請從左側窗格的「我的資產」區塊選擇 Models + endpoints。)

  5. 選擇 + 部署模型>部署基底模型 以開啟部署視窗。

  6. 選擇想要的型號,然後選擇 確認。 如需各區域的可用模型清單,請參閱由 Azure 銷售的 Foundry 模型區域可用性

  7. 在下一個視窗中,請設定以下欄位:

    欄位 描述
    部署名稱 請謹慎選擇名字。 部署名稱會用在你的程式碼中,透過客戶端函式庫和 REST API 來呼叫模型。
    部署類型 標準全域批次全域標準配置管理。 了解更多部署 類型的選項
    部署細節 (可選) 你可以根據資源設定可選的進階設定。
    - 對於內容篩選器,請將內容篩選器指派給您的部署。
    - 對於每分鐘代幣數限制,請調整每分鐘代幣數(TPM),以設定部署的速率上限。 你可以隨時透過 配額 選單修改這個數值。 動態配額 讓您在有額外容量時,能利用更多配額。

    重要

    當你透過 API 存取模型時,在 API 呼叫中需要參考部署名稱,而不是底層模型名稱,這是 OpenAI 和 Azure OpenAI 之間的一個主要差異。 OpenAI 只需要模型名稱。 Azure OpenAI 總是需要部署名稱,即使使用模型參數也是如此。 在我們的文件中,經常會以與模型名稱相同的方式表示部署名稱,以協助判斷哪個模型能與特定 API 端點相符。 最終,你的部署名稱可以依照最適合你使用情境的命名慣例來設定。

  8. 選擇 部署

  9. 部署 詳情 顯示你新部署的所有資訊。 部署完成後, 你的模型配置 狀態會變成 成功

先決條件

登入 Azure CLI

登入 Azure CLI,或在下列步驟中選取開啟 Cloudshell

建立 Azure 資源群組

要建立 Azure OpenAI 資源,你需要一個 Azure 資源群組。 當你透過 Azure CLI 建立新資源時,也可以建立新的資源群組,或指示 Azure 使用現有的群組。 以下範例展示了如何使用 az 群組 create 指令建立一個名為 OAIResourceGroup 的新資源群組。 資源群組是在美國東部地區建立的。

az group create \
--name OAIResourceGroup \
--location eastus

建立資源

使用 az cognitiveservices account create 指令,在資源群組中建立Azure OpenAI 資源。 以下範例中,你在 OAIResourceGroup 資源群組中建立一個名為 MyOpenAIResource 的資源。 嘗試範例時,更新程式碼,使用你想要的資源群組和資源名稱值,以及你的Azure訂閱 ID <subscriptionID>

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

檢索資源資訊

建立資源後,你可以使用不同指令在 Microsoft Foundry Models 實例中尋找關於 Azure OpenAI 的有用資訊。 以下範例示範如何取得 REST API 端點的基底 URL 及新資源的存取金鑰。

取得端點網址

使用 az cognitiveservices account show 指令來取得該資源的 REST API 端點基底 URL。 在此範例中,我們將指令輸出導向 jq JSON 處理器以定位該值。.properties.endpoint

嘗試範例時,更新程式碼,使用資源群組 <myResourceGroupName> 和資源 <myResourceName> 的值。

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

取得主要的 API 金鑰

要取得該資源的存取金鑰,請使用 az cognitiveservices account keys list 指令。 在此範例中,我們將指令輸出導向 jq JSON 處理器以定位該值。.key1

試用此範例時,請更新程式碼以使用您自己的資源群組與資源值。

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

部署模型

要部署模型,請使用 az cognitiveservices account deployment create 指令。 在以下範例中,你部署一個模型實例 gpt-4o ,並將其命名為 MyModel。 試用此範例時,請更新程式碼以使用您自己的資源群組與資源值。 你不需要改變 model-version、 或 model-formatsku-capacity、 和 sku-name 值。

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name接受以下部署類型:Standard、、 GlobalBatchGlobalStandardProvisionedManaged和 。 了解更多部署 類型的選項

重要

當你透過 API 存取模型時,在 API 呼叫中需要參考部署名稱,而不是底層模型名稱,這是 OpenAI 和 Azure OpenAI 之間的一個主要差異。 OpenAI 只需要模型名稱。 Azure OpenAI 總是需要部署名稱,即使使用模型參數也是如此。 在我們的文件中,經常會用與模型名稱相同的方式表示部署名稱,以協助判斷哪個模型能與特定 API 端點相符。 最終,你的部署名稱可以依照最適合你使用情境的命名慣例來設定。

從你的資源中刪除模型

你可以用 az cognitiveservices account deployment delete 指令刪除資源中部署的任何模型。 以下範例中,你刪除了一個名為 MyModel 的模型。 嘗試範例時,更新程式碼,使用資源群組、資源和部署模型的數值。

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

刪除資源

如果您想要在完成這些練習後清除資料,則可以透過 Azure CLI 刪除資源以移除 Azure OpenAI 資源。 你也可以刪除資源群組。 如果你選擇刪除資源群組,群組中所有資源也會被刪除。

要移除資源群組及其相關資源,請使用 az cognitiveservices account delete 指令。

如果你不打算繼續使用這些練習中產生的資源,請執行以下指令刪除你的資源群組。 請務必更新範例程式碼,以便為資源群組和資源使用您自己的值。

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

先決條件

登入 Azure PowerShell

請登入 以Azure PowerShell或選擇Open Cloudshell,步驟如下。

建立 Azure 資源群組

要建立 Azure OpenAI 資源,你需要一個 Azure 資源群組。 當你透過 Azure PowerShell 建立新資源時,也可以建立新的資源群組,或指示 Azure 使用現有的群組。 以下範例展示了如何使用 New-AzResourceGroup 指令建立一個名為 OAIResourceGroup 的新資源群組。 資源群組是在美國東部地區建立的。

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

建立資源

使用 New-AzCognitive ServicesAccount 指令在資源群組中建立一個Azure OpenAI 資源。 以下範例中,你在 OAIResourceGroup 資源群組中建立一個名為 MyOpenAIResource 的資源。 嘗試範例時,更新程式碼,使用你想要的資源群組和資源名稱值,以及你的Azure訂閱 ID <subscriptionID>

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

檢索資源資訊

建立資源後,你可以使用不同指令在 Microsoft Foundry Models 實例中尋找關於 Azure OpenAI 的有用資訊。 以下範例示範如何取得 REST API 端點的基底 URL 及新資源的存取金鑰。

取得端點網址

使用 Get-AzCognitiveServicesAccount 指令取得該資源的 REST API 端點基底 URL。 在這個範例中,我們會將指令輸出導向 Select-Object 指令碼來定位該 endpoint 值。

當你嘗試範例時,更新程式碼,使用資源群組 <myResourceGroupName> 和資源 <myResourceName>的值。

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

取得主要的 API 金鑰

要取得該資源的存取金鑰,請使用 Get-AzCognitive ServicesAccountKey 指令。 在這個範例中,我們會將指令輸出導向 Select-Object 指令碼來定位該 Key1 值。

試用此範例時,請更新程式碼以使用您自己的資源群組與資源值。

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

部署模型

要部署模型,請使用 New-AzCognitive ServicesAccountDeployment 指令。 在以下範例中,你部署一個模型實例 gpt-4o ,並將其命名為 MyModel。 試用此範例時,請更新程式碼以使用您自己的資源群組與資源值。 你不需要改變 model-version、 或 model-formatsku-capacity、 和 sku-name 值。

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Name變數的$sku性質接受以下部署類型:StandardGlobalBatchGlobalStandardProvisionedManaged和 。 了解更多部署 類型的選項

重要

當你透過 API 存取模型時,在 API 呼叫中需要參考部署名稱,而不是底層模型名稱,這是 OpenAI 和 Azure OpenAI 之間的一個主要差異。 OpenAI 只需要模型名稱。 Azure OpenAI 總是需要部署名稱,即使使用模型參數也是如此。 在我們的文件中,經常會用與模型名稱相同的方式表示部署名稱,以協助判斷哪個模型能與特定 API 端點相符。 最終,你的部署名稱可以依照最適合你使用情境的命名慣例來設定。

從你的資源中刪除模型

你可以使用 Remove-AzCognitive ServicesAccountDeployment 指令刪除資源中部署的任何模型。 以下範例中,你刪除了一個名為 MyModel 的模型。 嘗試範例時,更新程式碼,使用資源群組、資源和部署模型的數值。

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

刪除資源

如果您想要在完成這些練習後清除資料,則可以透過 Azure PowerShell 刪除資源以移除 Azure OpenAI 資源。 你也可以刪除資源群組。 如果你選擇刪除資源群組,群組中所有資源也會被刪除。

要移除資源群組及其相關資源,請使用 Remove-AzCognitive ServicesAccount 指令。

如果你不打算繼續使用這些練習中產生的資源,請執行以下指令刪除你的資源群組。 請務必更新範例程式碼,以便為資源群組和資源使用您自己的值。

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

下一步