共用方式為


建立並部署 Azure OpenAI 在 Microsoft Foundry 模型資源

備註

本文件指的是 Microsoft Foundry(經典版) 入口網站。

🔍 請參閱 Microsoft Foundry(新)文件 以了解新入口網站。

部署至 Azure

本文說明如何開始使用 Azure OpenAI,並提供建立資源及部署模型的逐步指示。 您可以透過數種不同方式在 Azure 中建立資源:

  • Azure 入口網站
  • REST API、Azure CLI、PowerShell 或用戶端程式庫
  • Azure Resource Manager (ARM) 範本

在本文中,您將檢閱在 Azure 入口網站、使用 Azure CLI 和 PowerShell 建立和部署資源的範例。

先決條件

建立資源

下列步驟示範如何在 Azure 入口網站中建立 Azure OpenAI 資源。

識別資源

  1. 在 Azure 入口網站中,使用您的 Azure 訂用帳戶登入。

  2. 選取 [建立資源],然後搜尋 [Azure OpenAI]。 當您找到服務時,請選取 [建立]

    截圖顯示如何在 Azure 入口網站中建立新的 Azure OpenAI 及 Microsoft Foundry Models 資源。

  3. [建立 Azure OpenAI] 頁面上,針對 [基本] 索引標籤上的欄位提供下列資訊:

    領域 說明
    訂閱 Azure OpenAI 上線應用程式中使用的 Azure 訂用帳戶。
    資源群組 用來包含您 Azure OpenAI 資源的 Azure 資源群組。 您可以建立新的群組,也可以使用既有群組。
    區域 您的執行個體位置。 不同位置可能會造成延遲,但不會影響資源的執行階段可用性。
    名稱 Azure OpenAI 資源的描述性名稱,例如 MyOpenAIResource
    定價層 資源的定價層。 目前,只有標準層可供 Azure OpenAI 使用。 如需定價的詳細資訊,請瀏覽 Azure OpenAI 價格頁面

    顯示如何在 Azure 入口網站中設定 Azure OpenAI 資源的螢幕擷取畫面。

  4. 選取 下一步

設定網路安全性

[網路] 索引標籤會針對安全性 [類型] 顯示三個選項:

  • 選項 1:所有網路 (包括網際網路) 皆可存取此資源。
  • 選項二: 選擇網路,為你的 Foundry 工具資源設定網路安全。
  • 選項 3:已停用,沒有任何網路可存取此資源。您可以設定私人端點連線。此為存取此資源的專屬方式。

螢幕擷取畫面:顯示 Azure 入口網站中 Azure OpenAI 資源的網路安全性選項。

視您選取的選項而定,您可能需要提供其他資訊。

選項 1:允許所有網路

第一個選項會允許包括網際網路在內的所有網路存取您的資源。 此選項為預設設定。 此選項不需要進行額外設定。

選項 2:僅允許特定網路

第二個選項可讓您識別可存取您資源的特定網路。 當您選取此選項時,頁面會更新以包含下列必要欄位:

領域 說明
虛擬網路 指定允許存取您資源的虛擬網路。 您可以在 Azure 入口網站中編輯預設的虛擬網路名稱。
子網路 指定允許存取您資源的子網路。 您可以在 Azure 入口網站中編輯預設的子網路名稱。

螢幕擷取畫面:顯示如何設定 Azure OpenAI 資源的網路安全性以便僅允許特定網路。

[防火牆] 區段會提供選擇性的 [位址範圍] 欄位,以供您設定資源的防火牆設定。

選項 3:停用網路存取

第三個選項可讓您停用資源的網路存取權。 當您選取此選項時,頁面會更新以包含 [私人端點] 資料表。

螢幕擷取畫面:顯示如何在 Azure 入口網站中停用 Azure OpenAI 資源的網路安全性。

您可以選擇新增用於存取您資源的私人端點。 選取 [新增私人端點],然後完成端點設定。

確認設定並建立資源

  1. 選取 [下一步],並視需要為您的資源設定任何 [標籤]

  2. 選取 [下一步] 以移至此程序的最後一個階段:檢閱 + 提交

  3. 確認您的組態設定,然後選取 [建立]

  4. Azure 入口網站會在有新的資源可用時顯示通知。 選取 [移至資源

    螢幕擷取畫面:Azure 入口網站中的 [移至資源] 按鈕。

部署模型

您必須先部署模型,才能產生文字或推斷。 你可以在 Foundry 入口網站中選擇多種可用型號之一。

若要部署模型,請遵循下列步驟:

  1. 登入 Microsoft Foundry。 確定新鑄造廠的開關是關閉的。 這些步驟指的是 Foundry (傳統版)

  2. 「繼續用 Foundry 建構 」區塊中,選擇 「查看所有資源」。

  3. 尋找並選取您的資源。

    這很重要

    此時你可能會被建議將 Azure OpenAI 資源升級至 Foundry。 請參閱此 頁面的兩種資源類型之間的比較,以及資源升級和復原的詳細資料。 選取 [取消] 以繼續進行,而不升級資源類型。 或者,選取 [下一步]。

    請參閱 本文中關於 Foundry 資源的更多資訊。

  4. 從左窗格中的共用資源區段選取部署。 (如果你在前一步升級到 Foundry,請從左側窗格的「我的資產」區塊選擇 Models + endpoints。)

  5. 選取 [+ 部署模型>部署基底模型 ] 以開啟部署視窗。

  6. 選取所需的型號,然後選取 [確認]。 如需每個區域的可用模型清單,請參閱 模型摘要資料表和區域可用性

  7. 在下一個視窗中,設定下列欄位:

    領域 說明
    部署名稱 請謹慎選擇名稱。 您的程式碼中會使用部署名稱,以透過用戶端程式庫和 REST API 來呼叫模型。
    部署類型 StandardGlobal-BatchGlobal-StandardProvisioned-Managed。 深入了解部署類型選項
    部署詳細資料 (選擇性) 您可以視需要為資源設定選擇性的進階設定。
    - 針對 [內容篩選],請向您的部署指派內容篩選。
    - 針對 [每分鐘權杖速率限制],請調整每分鐘權杖 (TPM) 以為您的部署設定有效的速率限制。 您可以使用配額功能表隨時修改此值。 動態配額可讓您在有額外容量時利用更多配額。

    這很重要

    當您透過 API 存取模型時,您必須參考部署名稱,而不是 API 呼叫中的基礎模型名稱,這是 OpenAI 與 Azure OpenAI 之間的一個主要差異 (部分機器翻譯)。 OpenAI 只需要模型名稱。 即使使用模型參數,Azure OpenAI 一律需要部署名稱。 在我們的文件中,我們經常有範例,其中部署名稱表示為與模型名稱相同,以協助指出哪個模型適用於特定 API 端點。 您的部署名稱最終可以遵循最適合使用案例的任何命名慣例。

  8. 請選擇 部署

  9. 新部署的所有資訊將顯示在部署詳細資料中。 部署完成時,您的模型 [佈建] 狀態會變更為 [成功]。

先決條件

登入 Azure CLI

登入 (部分機器翻譯) Azure CLI,或在下列步驟中選取 [開啟 Cloudshell]

建立 Azure 資源群組

若要建立 Azure OpenAI 資源,您需要 Azure 資源群組。 當您透過 Azure CLI 建立新的資源時,您也可以建立新的資源群組,或指示 Azure 使用現有群組。 下列範例會示範如何使用 az group create (部分機器翻譯) 命令建立名為 OAIResourceGroup 的新資源群組。 此資源群組會建立在美國東部位置。

az group create \
--name OAIResourceGroup \
--location eastus

建立資源

使用 az cognitiveservices account create (部分機器翻譯) 命令,在資源群組中建立 Azure OpenAI 資源。 在下列範例中,您會在 OAIResourceGroup 資源群組中建立名為 MyOpenAIResource 的資源。 當您嘗試此範例時,請更新程式碼以便為資源群組和資源名稱使用您想要的值,以及使用您的 Azure 訂用帳戶識別碼 <subscriptionID>

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

擷取資源的相關資訊

建立資源後,你可以使用不同指令在 Microsoft Foundry 模型實例中尋找有關 Azure OpenAI 的有用資訊。 下列範例示範如何擷取 REST API 端點基底 URL 和新資源的存取金鑰。

取得端點 URL

使用 az cognitiveservices account show (部分機器翻譯) 命令可擷取資源的 REST API 端點基底 URL。 在此範例中,我們會透過 jq (英文) JSON 處理器引導命令輸出以找到 .properties.endpoint 值。

當您嘗試此範例時,請更新程式碼以便為資源群組 <myResourceGroupName> 和資源 <myResourceName> 使用您自己的值。

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

取得主要的 API 金鑰

若要擷取資源的存取金鑰,請使用 az cognitiveservices account keys list (部分機器翻譯) 命令。 在此範例中,我們會透過 jq (英文) JSON 處理器引導命令輸出以找到 .key1 值。

當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

部署模型

若要部署模型,請使用 az cognitiveservices account deployment create (部分機器翻譯) 命令。 在下列範例中,您會部署 gpt-4o 模型的執行個體,並將其命名為 MyModel。 當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。 您不需要變更 model-versionmodel-formatsku-capacitysku-name 值。

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name 接受下列部署類型:StandardGlobalBatchGlobalStandardProvisionedManaged。 深入了解部署類型選項

這很重要

當您透過 API 存取模型時,您必須參考部署名稱,而不是 API 呼叫中的基礎模型名稱,這是 OpenAI 與 Azure OpenAI 之間的一個主要差異 (部分機器翻譯)。 OpenAI 只需要模型名稱。 即使使用模型參數,Azure OpenAI 一律需要部署名稱。 在我們的文件中,通常會有一些範例,其中部署名稱會表示為與模型名稱相同,以協助指出哪個模型適用於特定 API 端點。 您的部署名稱最終可以遵循最適合使用案例的任何命名慣例。

從您的資源中刪除模型

您可以使用 az cognitiveservices account deployment delete (部分機器翻譯) 命令,從資源中刪除已部署的任何模型。 在下列範例中,您會刪除名為 MyModel 的模型。 當您嘗試此範例時,請更新程式碼以便為資源群組、資源和已部署的模型使用您自己的值。

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

刪除資源

如果您想要在完成這些練習後清除資料,則可以透過 Azure CLI 刪除資源以移除 Azure OpenAI 資源。 您也可以刪除資源群組。 如果您選擇刪除資源群組,群組中包含的所有資源也會一併刪除。

若要移除資源群組及其相關聯的資源,請使用 az cognitiveservices account delete (部分機器翻譯) 命令。

如果您不打算繼續使用這些練習中所建立的資源,請執行下列命令以刪除您的資源群組。 請務必更新範例程式碼,以便為資源群組和資源使用您自己的值。

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

先決條件

登入 Azure PowerShell

登入 (部分機器翻譯) Azure PowerShell,或在下列步驟中選取 [開啟 Cloudshell]

建立 Azure 資源群組

若要建立 Azure OpenAI 資源,您需要 Azure 資源群組。 當您透過 Azure PowerShell 建立新的資源時,您也可以建立新的資源群組,或指示 Azure 使用現有群組。 下列範例會示範如何使用 New-AzResourceGroup (部分機器翻譯) 命令建立名為 OAIResourceGroup 的新資源群組。 此資源群組會建立在美國東部位置。

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

建立資源

使用 New-AzCognitiveServicesAccount (部分機器翻譯) 命令,在資源群組中建立 Azure OpenAI 資源。 在下列範例中,您會在 OAIResourceGroup 資源群組中建立名為 MyOpenAIResource 的資源。 當您嘗試此範例時,請更新程式碼以便為資源群組和資源名稱使用您想要的值,以及使用您的 Azure 訂用帳戶識別碼 <subscriptionID>

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

擷取資源的相關資訊

建立資源後,你可以使用不同指令在 Microsoft Foundry 模型實例中尋找有關 Azure OpenAI 的有用資訊。 下列範例示範如何擷取 REST API 端點基底 URL 和新資源的存取金鑰。

取得端點 URL

使用 Get-AzCognitiveServicesAccount (部分機器翻譯) 命令可擷取資源的 REST API 端點基底 URL。 在此範例中,我們會透過 Select-Object (部分機器翻譯) Cmdlet 引導命令輸出以找到 endpoint 值。

當您嘗試此範例時,請更新程式碼以便為資源群組 <myResourceGroupName> 和資源 <myResourceName> 使用您自己的值。

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

取得主要的 API 金鑰

若要擷取資源的存取金鑰,請使用 Get-AzCognitiveServicesAccountKey (部分機器翻譯) 命令。 在此範例中,我們會透過 Select-Object (部分機器翻譯) Cmdlet 引導命令輸出以找到 Key1 值。

當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

部署模型

若要部署模型,請使用 New-AzCognitiveServicesAccountDeployment (部分機器翻譯) 命令。 在下列範例中,您會部署 gpt-4o 模型的執行個體,並將其命名為 MyModel。 當您嘗試此範例時,請更新程式碼以便為資源群組和資源使用您自己的值。 您不需要變更 model-versionmodel-formatsku-capacitysku-name 值。

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Name 變數的 $sku 屬性接受下列部署類型:StandardGlobalBatchGlobalStandardProvisionedManaged。 深入了解部署類型選項

這很重要

當您透過 API 存取模型時,您必須參考部署名稱,而不是 API 呼叫中的基礎模型名稱,這是 OpenAI 與 Azure OpenAI 之間的一個主要差異 (部分機器翻譯)。 OpenAI 只需要模型名稱。 即使使用模型參數,Azure OpenAI 一律需要部署名稱。 在我們的文件中,通常會有一些範例,其中部署名稱會表示為與模型名稱相同,以協助指出哪個模型適用於特定 API 端點。 您的部署名稱最終可以遵循最適合使用案例的任何命名慣例。

從您的資源中刪除模型

您可以使用 Remove-AzCognitiveServicesAccountDeployment (部分機器翻譯) 命令,從資源中刪除已部署的任何模型。 在下列範例中,您會刪除名為 MyModel 的模型。 當您嘗試此範例時,請更新程式碼以便為資源群組、資源和已部署的模型使用您自己的值。

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

刪除資源

如果您想要在完成這些練習後清除資料,則可以透過 Azure PowerShell 刪除資源以移除 Azure OpenAI 資源。 您也可以刪除資源群組。 如果您選擇刪除資源群組,群組中包含的所有資源也會一併刪除。

若要移除資源群組及其相關聯的資源,請使用 Remove-AzCognitiveServicesAccount (部分機器翻譯) 命令。

如果您不打算繼續使用這些練習中所建立的資源,請執行下列命令以刪除您的資源群組。 請務必更新範例程式碼,以便為資源群組和資源使用您自己的值。

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

後續步驟