Vytvoření a nasazení azure OpenAI v prostředku Azure AI Foundry Models

Tento článek popisuje, jak začít s Azure OpenAI a poskytuje podrobné pokyny k vytvoření prostředku a nasazení modelu. Prostředky v Azure můžete vytvářet několika různými způsoby:

• Azure Portal
• REST API rozhraní, Azure CLI, PowerShell nebo klientské knihovny
• Šablony Azure Resource Manageru (ARM)

V tomto článku si prohlédnete příklady pro vytváření a nasazování prostředků na webu Azure Portal a pomocí Azure CLI.

Požadavky

• Předplatné Azure. Vytvořte si ho zdarma.
• Přístupová oprávnění k vytváření prostředků Azure OpenAI a nasazení modelů

Vytvořte prostředek

Následující kroky ukazují, jak vytvořit prostředek Azure OpenAI na webu Azure Portal.

Identifikace prostředku

1. Přihlaste se pomocí svého předplatného Azure na webu Azure Portal.

2. Vyberte Vytvořit prostředek a vyhledejte položku Azure OpenAI. Když službu vyhledáte, vyberte Vytvořit.

   

3. Na stránce Vytvořit Azure OpenAI zadejte následující informace pro pole na kartě Základy:

   Pole	Popis
   Předplatné	Předplatné Azure použité ve vaší aplikaci onboardingu Azure OpenAI.
   Skupina prostředků	Skupina prostředků Azure, která bude obsahovat váš prostředek Azure OpenAI. Můžete vytvořit novou skupinu nebo použít již existující skupinu.
   Oblast	Umístění vaší instance. Různá umístění mohou zavádět latenci, ale nemají vliv na spolehlivost běhu vašeho prostředku.
   Název	Popisný název prostředku Azure OpenAI, například MyOpenAIResource.
   Cenová úroveň	Cenová úroveň prostředku. V současné době je pro Azure OpenAI dostupná jenom úroveň Standard. Další informace o cenách najdete na stránce s cenami Azure OpenAI.

   

4. Vyberte Další.

Konfigurace zabezpečení sítě

Karta Síť obsahuje tři možnosti pro typ zabezpečení:

• Možnost 1: K tomuto prostředku mají přístup všechny sítě, včetně internetu.
• Možnost 2: Vybrané sítě, nakonfigurujte zabezpečení sítě pro prostředek služeb Azure AI.
• Možnost 3: Zakázáno, k tomuto prostředku nemají přístup žádné sítě. Můžete nakonfigurovat připojení privátního koncového bodu, která budou výhradním způsobem přístupu k tomuto prostředku.

V závislosti na vybrané možnosti možná budete muset zadat další informace.

Možnost 1: Povolit všechny sítě

První možnost umožňuje přístup k vašemu prostředku všem sítím, včetně internetu. Tato možnost je výchozím nastavením. Pro tuto možnost nejsou vyžadována žádná další nastavení.

Možnost 2: Povolit pouze konkrétní sítě

Druhá možnost umožňuje identifikovat konkrétní sítě, které mají přístup k vašemu prostředku. Když vyberete tuto možnost, stránka se aktualizuje tak, aby obsahovala následující povinná pole:

Pole	Popis
Virtuální síť	Zadejte virtuální sítě, které mají povolený přístup k vašemu prostředku. Výchozí název virtuální sítě můžete upravit na webu Azure Portal.
Podsítě	Zadejte podsítě, které mají povolený přístup k vašemu prostředku. Výchozí název podsítě můžete upravit na webu Azure Portal.

Část firewall obsahuje volitelné pole rozsahu adres, které můžete použít ke konfiguraci nastavení firewallu pro zdroj.

Možnost 3: Zakázání síťového přístupu

Třetí možnost umožňuje zakázat síťový přístup k vašemu prostředku. Když vyberete tuto možnost, stránka se aktualizuje tak, aby zahrnovala tabulku privátních koncových bodů .

Jako možnost můžete přidat privátní koncový bod pro přístup k vašemu prostředku. Vyberte Přidat privátní koncový bod a dokončete konfiguraci koncového bodu.

Potvrďte konfiguraci a vytvořte prostředek.

1. Podle potřeby vyberte Další a nakonfigurujte všechny značky pro váš prostředek.

2. Výběrem možnosti Další přejdete do poslední fáze procesu: Zkontrolovat a odeslat.

3. Potvrďte nastavení konfigurace a vyberte Vytvořit.

4. Na webu Azure Portal se zobrazí oznámení o dostupnosti nového prostředku. Vyberte Přejít k prostředku.

   

Nasazení modelu

Než budete moct vygenerovat text nebo odvozování, musíte nasadit model. Na portálu Azure AI Foundry si můžete vybrat jeden z několika dostupných modelů.

Pokud chcete nasadit model, postupujte takto:

1. Přihlaste se k portálu Azure AI Foundry.

2. Zvolte předplatné a prostředek Azure OpenAI, se kterým chcete pracovat, a vyberte Použít prostředek.

3. V části Správa vyberte Nasazení.

4. Vyberte Vytvořit nové nasazení a nakonfigurujte následující pole:

   Pole	Popis
   Výběr modelu	Dostupnost modelů se liší podle oblasti. Seznam dostupných modelů pro každou oblast najdete v tabulce souhrnu modelů a dostupnosti oblastí.
   Název nasazení	Pečlivě zvolte jméno. Název nasazení se v kódu používá k volání modelu pomocí klientských knihoven a rozhraní REST API.
   Typ nasazení	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Přečtěte si další informace o možnostech typu nasazení.
   Upřesnit možnosti (volitelné)	Podle potřeby můžete nastavit volitelná pokročilá nastavení pro váš prostředek. Pro filtr obsahu přiřaďte filtr k vašemu nasazení. – Pro limit rychlosti tokenů za minutu upravte hodnotu tokenů za minutu (TPM), abyste nastavili efektivní limit rychlosti pro vaše nasazení. Tuto hodnotu můžete kdykoli změnit pomocí nabídky Kvóty. Dynamická kvóta umožňuje využít větší kvótu, pokud je k dispozici dodatečná kapacita.

5. V rozevíracím seznamu vyberte model.

6. Zadejte název nasazení pro identifikaci modelu.

   Důležité

   Když k modelu přistupujete přes rozhraní API, musíte místo názvu základního modelu ve voláních rozhraní API odkazovat na název nasazení, což je jeden z klíčových rozdílů mezi OpenAI a Azure OpenAI. OpenAI vyžaduje pouze název modelu. Azure OpenAI vždy vyžaduje název nasazení, i když používáte parametr modelu. V naší dokumentaci často máme příklady, kdy jsou názvy nasazení reprezentovány jako identické s názvy modelů, což pomáhá určit, který model funguje s konkrétním koncovým bodem rozhraní API. V konečném důsledku můžou názvy nasazení dodržovat jakoukoli konvenci pojmenování, která je pro váš případ použití nejvhodnější.

7. U prvního nasazení ponechte rozšířené možnosti nastavené na výchozí hodnoty.

8. Vyberte Vytvořit.

Tabulka nasazení zobrazuje novou položku, která odpovídá nově vytvořenému modelu.

Po dokončení nasazení se stav nasazení modelu změní na úspěšný.

Požadavky

• Předplatné Azure. Vytvořte si ho zdarma.
• Přístupová oprávnění k vytváření prostředků Azure OpenAI a nasazení modelů
• Azure CLI Další informace najdete v tématu Postup instalace Azure CLI.

Přihlášení k Azure CLI

Přihlaste se k Azure CLI nebo v následujících krocích vyberte Open CloudShell .

Vytvořte skupinu prostředků Azure

K vytvoření prostředku Azure OpenAI potřebujete skupinu prostředků Azure. Když vytvoříte nový prostředek prostřednictvím Azure CLI, můžete také vytvořit novou skupinu prostředků nebo dát Azure pokyn, aby používala existující skupinu. Následující příklad ukazuje, jak vytvořit novou skupinu prostředků s názvem OAIResourceGroup pomocí příkazu az group create . Skupina prostředků byla vytvořena na východě USA.

az group create \
--name OAIResourceGroup \
--location eastus

Vytvořte prostředek

Pomocí příkazu az cognitiveservices account create vytvořte prostředek Azure OpenAI ve skupině prostředků. V následujícím příkladu vytvoříte prostředek s názvem MyOpenAIResource ve skupině prostředků OAIResourceGroup . Když tento příklad vyzkoušíte, aktualizujte kód tak, aby používal požadované hodnoty pro skupinu prostředků a název prostředku spolu s ID <předplatného> Azure.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Načtení informací o prostředku

Po vytvoření prostředku můžete pomocí různých příkazů najít užitečné informace o vaší instanci Azure OpenAI v modelech Azure AI Foundry. Následující příklady ukazují, jak načíst základní adresu URL koncového bodu rozhraní REST API a přístupové klíče pro nový prostředek.

Získání adresy URL koncového bodu

Pomocí příkazu az cognitiveservices account show načtěte základní adresu URL koncového bodu rozhraní REST API pro prostředek. V tomto příkladu nasměrujeme výstup příkazu prostřednictvím procesoru jq JSON a vyhledáme hodnotu .properties.endpoint .

Když vyzkoušíte příklad, aktualizujte kód tak, aby používal vaše hodnoty pro skupinu <myResourceGroupName> a prostředek <myResourceName>.

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Získání primárního klíče rozhraní API

Pro načtení přístupových klíčů k prostředku použijte příkaz az cognitiveservices account keys list. V tomto příkladu nasměrujeme výstup příkazu prostřednictvím procesoru jq JSON a vyhledáme hodnotu .key1 .

Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal vaše hodnoty pro skupinu prostředků a prostředek.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Nasazení modelu

Pro nasazení modelu použijte příkaz az cognitiveservices account deployment create. V následujícím příkladu nasadíte instanci gpt-4o modelu a dáte jí název MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal vaše hodnoty pro skupinu prostředků a prostředek. Nemusíte měnit hodnoty model-version, model-format ani hodnoty sku-capacity a sku-name.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name přijímá následující typy nasazení: Standard, GlobalBatch, GlobalStandarda ProvisionedManaged. Přečtěte si další informace o možnostech typu nasazení.

Důležité

Když k modelu přistupujete přes rozhraní API, musíte místo názvu základního modelu ve voláních rozhraní API odkazovat na název nasazení, což je jeden z klíčových rozdílů mezi OpenAI a Azure OpenAI. OpenAI vyžaduje pouze název modelu. Azure OpenAI vždy vyžaduje název nasazení, i když používáte parametr modelu. V naší dokumentaci často máme příklady, kdy jsou názvy nasazení reprezentovány jako identické s názvy modelů, což pomáhá určit, který model funguje s konkrétním koncovým bodem rozhraní API. V konečném důsledku můžou názvy nasazení dodržovat jakoukoli konvenci pojmenování, která je pro váš případ použití nejvhodnější.

Odstraňte model z vašeho prostředku

Příkazem az cognitiveservices account deployment delete můžete odstranit libovolný model nasazený z vámi určeného prostředku. V následujícím příkladu odstraníte model s názvem MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků, prostředek a nasazený model.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Odstranit prostředek

Pokud po těchto cvičeních chcete prostředek Azure OpenAI odstranit, můžete tak učinit pomocí Azure CLI. Můžete také odstranit skupinu prostředků. Pokud se rozhodnete odstranit skupinu prostředků, odstraní se také všechny prostředky obsažené ve skupině.

Chcete-li odebrat skupinu prostředků a její přidružené prostředky, použijte příkaz az cognitiveservices account delete.

Pokud nebudete dál používat prostředky vytvořené v těchto cvičeních, odstraňte skupinu prostředků spuštěním následujícího příkazu. Nezapomeňte aktualizovat ukázkový kód tak, aby používal vaše hodnoty pro skupinu prostředků a zdroj.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Požadavky

• Předplatné Azure. Vytvořte si ho zdarma.
• Azure PowerShell: Další informace najdete v tématu Postup instalace Azure PowerShellu.
• Přístupová oprávnění k vytváření prostředků Azure OpenAI a nasazení modelů

Přihlášení k Azure PowerShellu

Přihlaste se k Azure PowerShellu nebo v následujících krocích vyberte Otevřít CloudShell .

Vytvořte skupinu prostředků Azure

K vytvoření prostředku Azure OpenAI potřebujete skupinu prostředků Azure. Když vytvoříte nový prostředek prostřednictvím Azure PowerShellu, můžete také vytvořit novou skupinu prostředků nebo dát Azure pokyn, aby používala existující skupinu. Následující příklad ukazuje, jak vytvořit novou skupinu prostředků s názvem OAIResourceGroup pomocí příkazu New-AzResourceGroup . Skupina prostředků byla vytvořena na východě USA.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Vytvořte prostředek

Pomocí příkazu New-AzCognitiveServicesAccount vytvořte prostředek Azure OpenAI ve skupině prostředků. V následujícím příkladu vytvoříte prostředek s názvem MyOpenAIResource ve skupině prostředků OAIResourceGroup . Když tento příklad vyzkoušíte, aktualizujte kód tak, aby používal požadované hodnoty pro skupinu prostředků a název prostředku spolu s ID <předplatného> Azure.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Načtení informací o prostředku

Po vytvoření prostředku můžete pomocí různých příkazů najít užitečné informace o vaší instanci Azure OpenAI v modelech Azure AI Foundry. Následující příklady ukazují, jak načíst základní adresu URL koncového bodu rozhraní REST API a přístupové klíče pro nový prostředek.

Získání adresy URL koncového bodu

Pomocí příkazu Get-AzCognitiveServicesAccount získáte URL pro základní koncový bod rozhraní REST API pro prostředek. V tomto příkladu nasměrujeme výstup příkazu pomocí rutiny Select-Object k vyhledání endpoint hodnoty.

Když zkoušíte příklad, aktualizujte kód tak, aby používal vaše hodnoty pro skupinu <myResourceGroupName> prostředků a prostředek <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Získání primárního klíče rozhraní API

K načtení přístupových klíčů pro prostředek použijte příkaz Get-AzCognitiveServicesAccountKey. V tomto příkladu nasměrujeme výstup příkazu pomocí rutiny Select-Object k vyhledání Key1 hodnoty.

Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal vaše hodnoty pro skupinu prostředků a prostředek.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Nasazení modelu

K nasazení modelu použijte příkaz New-AzCognitiveServicesAccountDeployment . V následujícím příkladu nasadíte instanci gpt-4o modelu a dáte jí název MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal vaše hodnoty pro skupinu prostředků a prostředek. Nemusíte měnit hodnoty model-version, model-format ani hodnoty sku-capacity a sku-name.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Vlastnost Name$sku proměnné přijímá následující typy nasazení: Standard, GlobalBatch, GlobalStandarda ProvisionedManaged. Přečtěte si další informace o možnostech typu nasazení.

Důležité

Když k modelu přistupujete přes rozhraní API, musíte místo názvu základního modelu ve voláních rozhraní API odkazovat na název nasazení, což je jeden z klíčových rozdílů mezi OpenAI a Azure OpenAI. OpenAI vyžaduje pouze název modelu. Azure OpenAI vždy vyžaduje název nasazení, i když používáte parametr modelu. V naší dokumentaci často máme příklady, kdy jsou názvy nasazení reprezentovány jako identické s názvy modelů, což pomáhá určit, který model funguje s konkrétním koncovým bodem rozhraní API. V konečném důsledku můžou názvy nasazení dodržovat jakoukoli konvenci pojmenování, která je pro váš případ použití nejvhodnější.

Odstraňte model z vašeho prostředku

Pomocí příkazu Remove-AzCognitiveServicesAccountDeployment můžete odstranit libovolný model nasazený z vašeho prostředku. V následujícím příkladu odstraníte model s názvem MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků, prostředek a nasazený model.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Odstranit prostředek

Pokud chcete prostředek Azure OpenAI po těchto cvičeních vyčistit, můžete ho odebrat pomocí Azure PowerShellu. Můžete také odstranit skupinu prostředků. Pokud se rozhodnete odstranit skupinu prostředků, odstraní se také všechny prostředky obsažené ve skupině.

Pokud chcete odebrat skupinu prostředků a její přidružené prostředky, použijte příkaz Remove-AzCognitiveServicesAccount .

Pokud nebudete dál používat prostředky vytvořené v těchto cvičeních, odstraňte skupinu prostředků spuštěním následujícího příkazu. Nezapomeňte aktualizovat ukázkový kód tak, aby používal vaše hodnoty pro skupinu prostředků a zdroj.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Další kroky

• Začínáme s stavebním blokem zabezpečení Azure OpenAI
• Provádějte volání rozhraní API a generujte text pomocí rychlých průvodců Azure OpenAI.
• Přečtěte si další informace o modelech Azure OpenAI.
• Informace o cenách najdete na stránce s cenami Azure OpenAI.