Azure OpenAI létrehozása és üzembe helyezése Microsoft Öntödei modellek erőforrásban (klasszikus)

Csak a következőkre vonatkozik:Öntödei (klasszikus) portál. Ez a cikk nem érhető el az új Foundry portálon. További információ az új portálról.

Megjegyzés

A cikkben szereplő hivatkozások megnyithatják a tartalmat az új Microsoft Foundry-dokumentációban a most megtekintett Foundry (klasszikus) dokumentáció helyett.

Ez a cikk az OpenAI Azure használatának első lépéseit ismerteti, és részletes útmutatást nyújt egy erőforrás létrehozásához és egy modell üzembe helyezéséhez. Az erőforrásokat többféleképpen is létrehozhatja Azure:

• A Azure portál
• A REST API-k, a Azure CLI, a PowerShell vagy az ügyfélkódtárak
• Azure Resource Manager (ARM) sablonok

Ebben a cikkben az erőforrások Azure portálon, a Azure CLI és a PowerShell használatával történő létrehozására és üzembe helyezésére vonatkozó példákat tekintheti át.

Előfeltételek

• Egy Azure előfizetés. Hozzon létre egyet ingyen.
• Hozzáférési engedélyek Azure OpenAI-erőforrások létrehozásához és modellek üzembe helyezéséhez.

Erőforrás létrehozása

Az alábbi lépések bemutatják, hogyan hozhat létre Azure OpenAI-erőforrást a Azure portálon.

Az erőforrás azonosítása

1. Jelentkezzen be Azure előfizetésével a Azure portálon.

2. Válassza Erőforrás létrehozása és keresse meg az Azure OpenAI. A szolgáltatás megkeresése után válassza a Létrehozás lehetőséget.

   

3. A A Azure OpenAI lapon adja meg a következő információkat a Basics lapon lévő mezőkről:

   Mező	Leírás
   Előfizetés	A Azure OpenAI előkészítési alkalmazásban használt Azure előfizetés.
   Erőforráscsoport	Az Azure OpenAI-erőforrást tartalmazó Azure-erőforráscsoport. Létrehozhat egy új csoportot, vagy használhat egy már meglévő csoportot.
   Régió	A példány helye. A különböző helyek késést okozhatnak, de nem befolyásolják az erőforrás futásidejének rendelkezésre állását.
   Név	A Azure OpenAI-erőforrás leíró neve, például MyOpenAIResource.
   Tarifacsomag	Az erőforrás tarifacsomagja. Jelenleg csak a Standard szint érhető el az Azure OpenAI-hoz. A díjszabásról további információt a Azure OpenAI díjszabási oldalán talál

   

4. Válassza a Tovább gombot.

Hálózati biztonság konfigurálása

A Hálózat lap a biztonsági típus három beállítását mutatja be:

• 1. lehetőség: Az összes hálózat, beleértve az internetet is, hozzáférhet ehhez az erőforráshoz.
• 2. lehetőség: Kiválasztott hálózatok, konfigurálja az Foundry Tools-erőforrás hálózati biztonságát.
• 3. lehetőség: Letiltva, egyetlen hálózat sem fér hozzá ehhez az erőforráshoz. Konfigurálhat privát végpontkapcsolatokat, amelyek kizárólagosan így férhetnek hozzá ehhez az erőforráshoz.

A választott beállítástól függően előfordulhat, hogy további információkat kell megadnia.

1. lehetőség: Az összes hálózat engedélyezése

Az első lehetőség lehetővé teszi, hogy az összes hálózat, beleértve az internetet is, hozzáférjen az erőforráshoz. Ez a beállítás az alapértelmezett beállítás. Ehhez a beállításhoz nincs szükség további beállításokra.

2. lehetőség: Csak bizonyos hálózatok engedélyezése

A második lehetőség lehetővé teszi az erőforráshoz hozzáférő konkrét hálózatok azonosítását. Ha ezt a beállítást választja, a lap a következő kötelező mezőket tartalmazza:

Mező	Leírás
Virtuális hálózat	Adja meg azokat a virtuális hálózatokat, amelyek számára engedélyezett az erőforráshoz való hozzáférés. Az alapértelmezett virtuális hálózatnevet a Azure portálon szerkesztheti.
Alhálózatok	Adja meg azokat az alhálózatokat, amelyek számára engedélyezett az erőforráshoz való hozzáférés. Az alapértelmezett alhálózatnevet a Azure portálon szerkesztheti.

A Tűzfal szakasz egy választható címtartomány-mezőt biztosít, amellyel konfigurálhatja az erőforrás tűzfalbeállítását.

3. lehetőség: Hálózati hozzáférés letiltása

A harmadik lehetőséggel letilthatja az erőforráshoz való hálózati hozzáférést. Ha ezt a lehetőséget választja, a lap frissül, hogy tartalmazza a Privát végpont táblát.

Lehetőségként hozzáadhat egy privát végpontot az erőforráshoz való hozzáféréshez. Válassza a Privát végpont hozzáadása lehetőséget, és fejezze be a végpontkonfigurációt.

A konfiguráció megerősítése és az erőforrás létrehozása

1. Válassza a Tovább lehetőséget, és igény szerint konfigurálja az erőforráshoz tartozó címkéket .

2. A Tovább gombra kattintva lépjen a folyamat utolsó szakaszára: Véleményezés + küldés.

3. Erősítse meg a konfigurációs beállításokat, és válassza a Létrehozás lehetőséget.

4. A Azure portál értesítést jelenít meg, ha az új erőforrás elérhető. Válassza az Ugrás az erőforráshoz lehetőséget.

   A képernyőkép az Azure portál "Ugrás az erőforráshoz" gombját mutatja.

Modell üzembe helyezése

Mielőtt szöveget vagy következtetést hozhat létre, üzembe kell helyeznie egy modellt. Az Foundry portálon számos elérhető modell közül választhat.

Modell üzembe helyezéséhez kövesse az alábbi lépéseket:

1. Jelentkezzen be Microsoft Foundry. Győződjön meg arról, hogy a New Foundry kapcsoló ki van kapcsolva. Ezek a lépések a Foundryre (klasszikus) vonatkoznak.

   

2. A Keep building with Foundry szakaszban válassza az Összes erőforrás megtekintése lehetőséget.

3. Keresse meg és válassza ki az erőforrást.

   Fontos

   Ebben a lépésben felajánlhatja, hogy frissítse az Azure OpenAI-erőforrást a Foundryre. Ezen a lapon megtekintheti a két erőforrástípus összehasonlítását, valamint az erőforrás-frissítés és a visszaállítás részleteit. Válassza a Mégse lehetőséget az erőforrástípus frissítése nélküli folytatáshoz. Másik lehetőségként válassza a Tovább gombot.

   Ebben a cikkben további információt talál az Foundry-erőforrásról.

4. A bal panelon válassza a Telepítések lehetőséget a Megosztott erőforrások szakaszból. (Ha az előző lépésben a Foundryre frissített, válassza a Modellek + végpontok lehetőséget a Saját objektumok szakaszból a bal oldali panelen.)

5. Válassza a + Modell üzembe helyezése>Alapmodell üzembe helyezése az üzembe helyezési ablak megnyitásához.

6. Válassza ki a kívánt modellt, majd válassza a Megerősítés lehetőséget. Az egyes régiókban elérhető modellek listáját itt találja: Az Azure által értékesített Foundry-modellek régiónkénti elérhetősége.

7. A következő ablakban konfigurálja a következő mezőket:

   Mező	Leírás
   Üzembe helyezés neve	Válasszon nevet körültekintően. A telepítés neve a kódodban szereplő elem, amely a modellt hívja meg az ügyfélkönyvtárak és a REST API-k használatával.
   Üzembe helyezés típusa	Standard, Global-Batch, Global-Standard, Provisioned-Managed. További információ az üzembe helyezési típus beállításairól.
   Üzembe helyezés részletei (nem kötelező)	Igény szerint megadhat speciális beállításokat az erőforráshoz. – A tartalomszűrőhöz rendeljen hozzá egy tartalomszűrőt az üzembe helyezéshez. - A tokensek percenkénti sebességkorlátjához állítsa be a percenkénti tokenértéket (TPM), hogy meghatározza az üzembe helyezés érvényes sebességkorlátját. Ezt az értéket bármikor módosíthatja a Kvóták menüvel. A dinamikus kvóta lehetővé teszi, hogy kihasználja a további kvótát, ha további kapacitás áll rendelkezésre.

   Fontos

   Amikor az API-n keresztül éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, amely az OpenAI és Azure OpenAI közötti kulcs-különbségek egyike. Az OpenAI csak a modell nevét igényli. Azure Az OpenAI-nak mindig szüksége van az üzembe helyezés nevére, még akkor is, ha a modellparamétert használja. Dokumentációnkban gyakran van példa arra, hogy az üzembehelyezési nevek megegyeznek a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron a telepítési nevek bármilyen elnevezési konvenciót követhetnek, amely a legjobban megfelel az Ön használati esetének.

8. Válassza az Üzembe helyezés lehetőséget.

9. Az üzembe helyezés részletei az új üzembe helyezés összes információját megjelenítik. Az üzembe helyezés befejezése után a modell kiépítési állapota sikeres lesz.

Előfeltételek

• Egy Azure előfizetés. Hozzon létre egyet ingyen.
• Hozzáférési engedélyek Azure OpenAI-erőforrások létrehozásához és modellek üzembe helyezéséhez.
• Az Azure CLI. További információ: Hogyan telepítse a Azure CLI.

Bejelentkezés a Azure CLI

Sign in to the Azure CLI, vagy válassza a Open CloudShell lehetőséget a következő lépésekben.

Azure erőforráscsoport létrehozása

Azure OpenAI-erőforrás létrehozásához Azure erőforráscsoportra van szükség. Amikor új erőforrást hoz létre a Azure CLI keresztül, létrehozhat egy új erőforráscsoportot is, vagy utasíthatja a Azure egy meglévő csoport használatára. Az alábbi példa bemutatja, hogyan hozhat létre új , OAIResourceGroup nevű erőforráscsoportot az az group create paranccsal. Az erőforráscsoport az USA keleti régiójában jön létre.

az group create \
--name OAIResourceGroup \
--location eastus

Erőforrás létrehozása

A az cognitiveservices-fiók létrehozása paranccsal hozzon létre egy Azure OpenAI-erőforrást az erőforráscsoportban. Az alábbi példában egy MyOpenAIResource nevű erőforrást hoz létre az OAIResourceGroup erőforráscsoportban. A példa kipróbálásakor frissítse a kódot úgy, hogy a kívánt értékeket használja az erőforráscsoporthoz és az erőforrás nevéhez, valamint a Azure előfizetés azonosítóját <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Az erőforrással kapcsolatos információk lekérése

Az erőforrás létrehozása után különböző parancsokkal hasznos információkat találhat Azure OpenAI-járól Microsoft Foundry Models-példányban. Az alábbi példák bemutatják, hogyan lehet lekérni a REST API-végpont alap URL-címét és az új erőforrás hozzáférési kulcsait.

A végpont URL-címének lekérése

Az az cognitiveservices account show paranccsal kérje le az erőforrás REST API-végpontjának alap URL-címét. Ebben a példában a parancs kimenetét a JQ JSON-processzoron keresztül irányítjuk az .properties.endpoint érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot a myResourceGroupName és az erőforrás myResourceName< erőforráscsoport> értékeinek használatára.<>

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Az elsődleges API-kulcs lekérése

Az erőforrás hozzáférési kulcsainak lekéréséhez használja az az cognitiveservices-fiókkulcsok listaparancsát . Ebben a példában a parancs kimenetét a JQ JSON-processzoron keresztül irányítjuk az .key1 érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Modell üzembe helyezése

Modell üzembe helyezéséhez használja az az cognitiveservices-fiók üzembe helyezési parancsát . A következő példában üzembe helyezi a gpt-4o modell egy példányát, és myModel nevet ad neki. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára. Nem kell módosítania az model-version, model-format vagy sku-capacity, és sku-name az értékeket.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name A következő üzembehelyezési típusokat fogadja el: Standard, GlobalBatch, GlobalStandardés ProvisionedManaged. További információ az üzembe helyezési típus beállításairól.

Fontos

Amikor az API-n keresztül éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, amely az OpenAI és Azure OpenAI közötti kulcs-különbségek egyike. Az OpenAI csak a modell nevét igényli. Azure Az OpenAI-nak mindig szüksége van az üzembe helyezés nevére, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron a telepítési nevek bármilyen elnevezési konvenciót követhetnek, amely a legjobban megfelel az Ön használati esetének.

Modell törlése az erőforrásból

Az erőforráson üzembe helyezett bármely modellt törölheti az az cognitiveservices account deployment delete parancs segítségével. Az alábbi példában töröl egy MyModel nevű modellt. A példa kipróbálásakor frissítse a kódot az erőforráscsoport, az erőforrás és az üzembe helyezett modell értékeinek használatára.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Erőforrás törlése

Ha a gyakorlatok után szeretne rendet rakni, eltávolíthatja az Azure OpenAI-erőforrást az erőforrásnak az Azure CLI segítségével történő törlésével. Az erőforráscsoportot is törölheti. Ha úgy dönt, hogy törli az erőforráscsoportot, a csoport összes erőforrása is törlődik.

A(z) erőforráscsoport és a hozzá tartozó erőforrások eltávolításához használja az az cognitiveservices account delete parancsot.

Ha nem fogja továbbra is használni a gyakorlatokban létrehozott erőforrásokat, futtassa az alábbi parancsot az erőforráscsoport törléséhez. Ügyeljen arra, hogy frissítse a példakódot az erőforráscsoport és az erőforrás értékeinek használatára.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Előfeltételek

• Egy Azure előfizetés. Hozzon létre egyet ingyen.
• Azure PowerShell. További információért lásd: Az Azure PowerShell telepítése.
• Hozzáférési engedélyek Azure OpenAI-erőforrások létrehozásához és modellek üzembe helyezéséhez.

Lépjen be az Azure PowerShellbe

Sign in Azure PowerShell vagy válassza a Open CloudShell lehetőséget a következő lépésekben.

Azure erőforráscsoport létrehozása

Azure OpenAI-erőforrás létrehozásához Azure erőforráscsoportra van szükség. Amikor új erőforrást hoz létre Azure PowerShell keresztül, létrehozhat egy új erőforráscsoportot, vagy utasíthatja Azure egy meglévő csoport használatára. Az alábbi példa bemutatja, hogyan hozhat létre új , OAIResourceGroup nevű erőforráscsoportot a New-AzResourceGroup paranccsal. Az erőforráscsoport az USA keleti régiójában jön létre.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Erőforrás létrehozása

Az New-AzCognitiveServicesAccount paranccsal hozzon létre egy Azure OpenAI-erőforrást az erőforráscsoportban. Az alábbi példában egy MyOpenAIResource nevű erőforrást hoz létre az OAIResourceGroup erőforráscsoportban. A példa kipróbálásakor frissítse a kódot úgy, hogy a kívánt értékeket használja az erőforráscsoporthoz és az erőforrás nevéhez, valamint a Azure előfizetés azonosítóját <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Az erőforrással kapcsolatos információk lekérése

Az erőforrás létrehozása után különböző parancsokkal hasznos információkat találhat Azure OpenAI-járól Microsoft Foundry Models-példányban. Az alábbi példák bemutatják, hogyan lehet lekérni a REST API-végpont alap URL-címét és az új erőforrás hozzáférési kulcsait.

A végpont URL-címének lekérése

A Get-AzCognitiveServicesAccount paranccsal kérje le az erőforrás REST API-végpontjának alap URL-címét. Ebben a példában a parancs kimenetét a Select-Object parancsmagon keresztül irányítjuk az endpoint érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport <myResourceGroupName> és az erőforrás <myResourceName>értékeinek használatára.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Az elsődleges API-kulcs lekérése

Az erőforrás hozzáférési kulcsainak lekéréséhez használja a Get-AzCognitiveServicesAccountKey parancsot. Ebben a példában a parancs kimenetét a Select-Object parancsmagon keresztül irányítjuk az Key1 érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Modell üzembe helyezése

Modell üzembe helyezéséhez használja a New-AzCognitiveServicesAccountDeployment parancsot. A következő példában üzembe helyezi a gpt-4o modell egy példányát, és myModel nevet ad neki. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára. Nem kell módosítania az model-version, model-format vagy sku-capacity, és sku-name az értékeket.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

A Name változó tulajdonsága a $sku következő üzembehelyezési típusokat fogadja el: Standard, GlobalBatch, GlobalStandardés ProvisionedManaged. További információ az üzembe helyezési típus beállításairól.

Fontos

Amikor az API-n keresztül éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, amely az OpenAI és Azure OpenAI közötti kulcs-különbségek egyike. Az OpenAI csak a modell nevét igényli. Azure Az OpenAI-nak mindig szüksége van az üzembe helyezés nevére, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron a telepítési nevek bármilyen elnevezési konvenciót követhetnek, amely a legjobban megfelel az Ön használati esetének.

Modell törlése az erőforrásból

Az erőforrásból üzembe helyezett bármely modellt a Remove-AzCognitiveServicesAccountDeployment paranccsal törölheti. Az alábbi példában töröl egy MyModel nevű modellt. A példa kipróbálásakor frissítse a kódot az erőforráscsoport, az erőforrás és az üzembe helyezett modell értékeinek használatára.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Erőforrás törlése

Ha a gyakorlatok befejezése után rendet szeretne tenni, akkor eltávolíthatja az Azure OpenAI-erőforrást az erőforrás Azure PowerShell segítségével történő törlésével. Az erőforráscsoportot is törölheti. Ha úgy dönt, hogy törli az erőforráscsoportot, a csoport összes erőforrása is törlődik.

Az erőforráscsoport és a hozzá tartozó erőforrások eltávolításához használja a Remove-AzCognitiveServicesAccount parancsot.

Ha nem fogja továbbra is használni a gyakorlatokban létrehozott erőforrásokat, futtassa az alábbi parancsot az erőforráscsoport törléséhez. Ügyeljen arra, hogy frissítse a példakódot az erőforráscsoport és az erőforrás értékeinek használatára.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Következő lépések

• Kezdje el az Azure OpenAI biztonsági építőelemeivel
• További információ az Azure OpenAI-modellekről.
• A díjszabással kapcsolatos információkért látogasson el a Azure OpenAI díjszabási oldalára