共用方式為


建立並部署 Microsoft Foundry Models 資源(經典版)中的 Azure OpenAI

備註

本文件指的是 Microsoft Foundry(經典版) 入口網站。

🔍 請參閱 Microsoft Foundry(新)文件 以了解新入口網站。

部署至Azure

本文說明如何開始使用 Azure OpenAI,並提供建立資源與部署模型的分步指導。 你可以用多種方式在 Azure 中建立資源:

  • Azure portal
  • REST API、Azure CLI、PowerShell 或 client 函式庫
  • Azure Resource Manager (ARM) 範本

本文將回顧如何在 Azure portal、Azure CLI 以及 PowerShell 中建立與部署資源的範例。

先決條件

建立資源

以下步驟說明如何在 Azure portal 建立 Azure OpenAI 資源。

識別資源

  1. 請在 Azure portal 以你的 Azure 訂閱登入。

  2. 選擇 Create a resource 並搜尋 Azure OpenAI。 當您找到服務時,請選取 [建立]

    截圖顯示如何在 Azure 入口網站中的 Microsoft Foundry Models 資源裡建立新的 Azure OpenAI。

  3. Create Azure OpenAI 頁面,請提供以下 Basics 標籤欄位的資訊:

    領域 Description
    訂閱 你在 Azure OpenAI 入門應用程式中使用的 Azure 訂閱。
    資源群組 Azure 資源群組用來包含你的 Azure OpenAI 資源。 您可以建立新的群組,也可以使用既有群組。
    區域 您的執行個體位置。 不同位置可能會造成延遲,但不會影響資源的執行階段可用性。
    名稱 用一個描述性名稱來形容你的 Azure OpenAI 資源,例如 MyOpenAIResource
    定價層 資源的定價層。 目前 Azure OpenAI 僅提供標準層。 欲了解更多價格資訊,請造訪 Azure OpenAI 定價頁面

    截圖,展示如何在 Azure 入口網站中設定 Azure OpenAI 資源。

  4. 選取 下一步

設定網路安全性

[網路] 索引標籤會針對安全性 [類型] 顯示三個選項:

  • 選項一:所有網路,包括網際網路,都可以access此資源。
  • 選項二: 選擇網路,為你的 Foundry 工具資源設定網路安全。
  • 選項三:停用,任何網路都無法access此資源。你可以設定私有端點連線,成為access此資源的唯一方式。

顯示 Azure portal 中 Azure OpenAI 資源的網路安全選項的截圖。

視您選取的選項而定,您可能需要提供其他資訊。

選項 1:允許所有網路

第一種選項允許所有網路,包括網際網路,皆可存取你的資源。 此選項為預設設定。 此選項不需要進行額外設定。

選項 2:僅允許特定網路

第二個選項可以讓你辨識出能access你資源的特定網路。 當您選取此選項時,頁面會更新以包含下列必要欄位:

領域 Description
Virtual network 指定允許access到你的資源的虛擬網路。 你可以在 Azure portal 編輯預設的 virtual network 名稱。
子網路 指定允許訪問您資源的子網。 你可以在 Azure portal 編輯預設子網路名稱。

截圖,顯示如何設定Azure OpenAI 資源的網路安全,只允許特定網路使用。

[防火牆] 區段會提供選擇性的 [位址範圍] 欄位,以供您設定資源的防火牆設定。

選項三:停用網路存取(network access)

第三個選項可以讓你停用對資源的網路access。 當您選取此選項時,頁面會更新以包含 [私人端點] 資料表。

截圖,顯示如何在 Azure 入口網站中停用 Azure OpenAI 資源的網路安全功能。

你可以選擇新增一個私有端點來存取你的資源。 選取 [新增私人端點],然後完成端點設定。

確認設定並建立資源

  1. 選取 [下一步],並視需要為您的資源設定任何 [標籤]

  2. 選取 [下一步] 以移至此程序的最後一個階段:檢閱 + 提交

  3. 確認您的組態設定,然後選取 [建立]

  4. 當新資源可用時,Azure portal 會顯示通知。 選取 [移至資源

    <截圖顯示 Azure 入口網站中的「前往資源」按鈕>

部署模型

您必須先部署模型,才能產生文字或推斷。 你可以在 Foundry 入口網站中選擇多種可用型號之一。

若要部署模型,請遵循下列步驟:

  1. 登入 Microsoft Foundry。 確定新鑄造廠的開關是關閉的。 這些步驟指的是 Foundry (傳統版)

  2. 「繼續用 Foundry 建構 」區塊中,選擇 「查看所有資源」。

  3. 尋找並選取您的資源。

    這很重要

    此時你可能會被建議將 Azure OpenAI 資源升級至 Foundry。 請參見 本頁,了解兩種資源類型的比較及資源升級與回滾細節。 選取 [取消] 以繼續進行,而不升級資源類型。 或者,選取 [下一步]。

    請參閱 本文中關於 Foundry 資源的更多資訊。

  4. 從左窗格中的共用資源區段選取部署。 (如果你在前一步升級到 Foundry,請從左側窗格的「我的資產」區塊選擇 Models + endpoints。)

  5. 選取 [+ 部署模型>部署基底模型 ] 以開啟部署視窗。

  6. 選取所需的型號,然後選取 [確認]。 關於各區域可用模型的清單,請參見 Model 摘要表及區域可用性

  7. 在下一個視窗中,設定下列欄位:

    領域 Description
    部署名稱 請謹慎選擇名稱。 您的程式碼中會使用部署名稱,以透過用戶端程式庫和 REST API 來呼叫模型。
    部署類型 StandardGlobal-BatchGlobal-StandardProvisioned-Managed。 深入了解部署類型選項
    部署詳細資料 (選擇性) 您可以視需要為資源設定選擇性的進階設定。
    - 針對 [內容篩選],請向您的部署指派內容篩選。
    - 針對 [每分鐘權杖速率限制],請調整每分鐘權杖 (TPM) 以為您的部署設定有效的速率限制。 您可以使用配額功能表隨時修改此值。 動態配額可讓您在有額外容量時利用更多配額。

    這很重要

    當你透過 API 訪問模型時,在 API 呼叫中需要參考部署名稱,而不是底層模型名稱,這是 OpenAI 與 Azure OpenAI 之間的關鍵 差異之一。 OpenAI 只需要模型名稱。 Azure OpenAI 總是需要部署名稱,即使使用模型參數也是如此。 在我們的文件中,我們經常有範例,其中部署名稱表示為與模型名稱相同,以協助指出哪個模型適用於特定 API 端點。 您的部署名稱最終可以遵循最適合使用案例的任何命名慣例。

  8. 請選擇 部署

  9. 新部署的所有資訊將顯示在部署詳細資料中。 部署完成後, 你的模型配置 狀態會變成 成功

先決條件

登入 Azure CLI

登入進入 Azure CLI 或是選擇開啟 Cloud Shell完成以下步驟。

建立 Azure 資源群組

要建立 Azure OpenAI 資源,你需要一個 Azure 資源群組。 當你透過 Azure CLI 建立新資源時,也可以建立新的資源群組,或指示 Azure 使用現有的群組。 以下範例展示了如何使用 az group create 指令建立名為 OAIResourceGroup 的新資源群組。 此資源群組會建立在美國東部位置。

az group create \
--name OAIResourceGroup \
--location eastus

建立資源

使用 az cognitiveservices account create 指令,在資源群組中建立Azure OpenAI 資源。 在下列範例中,您會在 OAIResourceGroup 資源群組中建立名為 MyOpenAIResource 的資源。 嘗試範例時,更新程式碼,使用你想要的資源群組和資源名稱值,以及你的Azure訂閱 ID <subscriptionID>

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

擷取資源的相關資訊

建立資源後,你可以使用不同指令在 Microsoft Foundry Models 實例中尋找關於 Azure OpenAI 的有用資訊。 以下範例示範如何取得 REST API 端點的基底 URL 及新資源的 access 金鑰。

取得端點 URL

使用 az cognitiveservices account show 指令來取得該資源的 REST API 端點基址 URL。 在此範例中,我們將指令輸出導向 jq JSON 處理器,以定位 .properties.endpoint 值。

當您嘗試此範例時,請更新程式碼以便為資源群組 <myResourceGroupName> 和資源 <myResourceName> 使用您自己的值。

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

取得主要的 API 金鑰

要取得該資源的存取金鑰,請使用 az cognitiveservices account keys list 指令。 在此範例中,我們將指令輸出導向 jq JSON 處理器,以定位 .key1 值。

當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

部署模型

要部署模型,請使用 az 認知服務帳號部署 create 指令。 在下列範例中,您會部署 gpt-4o 模型的執行個體,並將其命名為 MyModel。 當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。 您不需要變更 model-versionmodel-formatsku-capacitysku-name 值。

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name 接受下列部署類型:StandardGlobalBatchGlobalStandardProvisionedManaged。 深入了解部署類型選項

這很重要

當你透過 API 訪問模型時,在 API 呼叫中需要參考部署名稱,而不是底層模型名稱,這是 OpenAI 與 Azure OpenAI 之間的關鍵 差異之一。 OpenAI 只需要模型名稱。 Azure OpenAI 總是需要部署名稱,即使使用模型參數也是如此。 在我們的文件中,通常會有一些範例,其中部署名稱會表示為與模型名稱相同,以協助指出哪個模型適用於特定 API 端點。 您的部署名稱最終可以遵循最適合使用案例的任何命名慣例。

從您的資源中刪除模型

你可以用 az 認知服務帳戶部署 delete 指令刪除從您的資源中部署的任何模型。 在下列範例中,您會刪除名為 MyModel 的模型。 當您嘗試此範例時,請更新程式碼以便為資源群組、資源和已部署的模型使用您自己的值。

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

刪除資源

如果您想在完成這些練習後進行清理,可以通過 Azure CLI 刪除 Azure OpenAI 資源以移除它。 您也可以刪除資源群組。 如果您選擇刪除資源群組,群組中包含的所有資源也會一併刪除。

要移除資源群組及其相關資源,請使用 az cognitiveservices account delete 指令。

如果您不打算繼續使用這些練習中所建立的資源,請執行下列命令以刪除您的資源群組。 請務必更新範例程式碼,以便為資源群組和資源使用您自己的值。

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

先決條件

登入 Azure PowerShell

請登入 以Azure PowerShell或選擇Open Cloudshell,步驟如下。

建立 Azure 資源群組

要建立 Azure OpenAI 資源,你需要一個 Azure 資源群組。 當你透過 Azure PowerShell 建立新資源時,也可以建立新的資源群組,或指示 Azure 使用現有的群組。 下列範例會示範如何使用 New-AzResourceGroup (部分機器翻譯) 命令建立名為 OAIResourceGroup 的新資源群組。 此資源群組會建立在美國東部位置。

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

建立資源

使用 New-AzCognitive ServicesAccount 指令在資源群組中建立一個Azure OpenAI 資源。 在下列範例中,您會在 OAIResourceGroup 資源群組中建立名為 MyOpenAIResource 的資源。 嘗試範例時,更新程式碼,使用你想要的資源群組和資源名稱值,以及你的Azure訂閱 ID <subscriptionID>

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

擷取資源的相關資訊

建立資源後,你可以使用不同指令在 Microsoft Foundry Models 實例中尋找關於 Azure OpenAI 的有用資訊。 以下範例示範如何取得 REST API 端點的基底 URL 及新資源的 access 金鑰。

取得端點 URL

使用 Get-AzCognitiveServicesAccount (部分機器翻譯) 命令可擷取資源的 REST API 端點基底 URL。 在此範例中,我們會透過 Select-Object (部分機器翻譯) Cmdlet 引導命令輸出以找到 endpoint 值。

當您嘗試此範例時,請更新程式碼以便為資源群組 <myResourceGroupName> 和資源 <myResourceName> 使用您自己的值。

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

取得主要的 API 金鑰

要取得該資源的access金鑰,請使用 Get-AzCognitiveServicesAccountKey 指令。 在此範例中,我們會透過 Select-Object (部分機器翻譯) Cmdlet 引導命令輸出以找到 Key1 值。

當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

部署模型

若要部署模型,請使用 New-AzCognitiveServicesAccountDeployment (部分機器翻譯) 命令。 在下列範例中,您會部署 gpt-4o 模型的執行個體,並將其命名為 MyModel。 當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。 您不需要變更 model-versionmodel-formatsku-capacitysku-name 值。

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Name 變數的 $sku 屬性接受下列部署類型:StandardGlobalBatchGlobalStandardProvisionedManaged。 深入了解部署類型選項

這很重要

當你透過 API 訪問模型時,在 API 呼叫中需要參考部署名稱,而不是底層模型名稱,這是 OpenAI 與 Azure OpenAI 之間的關鍵 差異之一。 OpenAI 只需要模型名稱。 Azure OpenAI 總是需要部署名稱,即使使用模型參數也是如此。 在我們的文件中,通常會有一些範例,其中部署名稱會表示為與模型名稱相同,以協助指出哪個模型適用於特定 API 端點。 您的部署名稱最終可以遵循最適合使用案例的任何命名慣例。

從您的資源中刪除模型

您可以使用 Remove-AzCognitiveServicesAccountDeployment (部分機器翻譯) 命令,從資源中刪除已部署的任何模型。 在下列範例中,您會刪除名為 MyModel 的模型。 當您嘗試此範例時,請更新程式碼以便為資源群組、資源和已部署的模型使用您自己的值。

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

刪除資源

如果你想在完成這些練習後進行清理,可以使用 Azure PowerShell 刪除 Azure OpenAI 資源。 您也可以刪除資源群組。 如果您選擇刪除資源群組,群組中包含的所有資源也會一併刪除。

若要移除資源群組及其相關聯的資源,請使用 Remove-AzCognitiveServicesAccount (部分機器翻譯) 命令。

如果您不打算繼續使用這些練習中所建立的資源,請執行下列命令以刪除您的資源群組。 請務必更新範例程式碼,以便為資源群組和資源使用您自己的值。

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

後續步驟