Azure OpenAI-szolgáltatáserőforrás létrehozása és üzembe helyezése

Ez a cikk az Azure OpenAI szolgáltatás használatának első lépéseit ismerteti, és részletes útmutatást nyújt egy erőforrás létrehozásához és egy modell üzembe helyezéséhez. Az Azure-ban többféleképpen hozhat létre erőforrásokat:

• Az Azure Portal
• A REST API-k, az Azure CLI, a PowerShell vagy az ügyfélkódtárak
• Azure Resource Manager- (ARM-) sablonok

Ebben a cikkben példákat tekinthet át az erőforrások Azure Portalon és az Azure CLI-ben való létrehozására és üzembe helyezésére.

Előfeltételek

• Azure-előfizetés. Hozzon létre egyet ingyen.
• A hozzáférést az Azure OpenAI a kívánt Azure-előfizetésen belül kapja meg.
• Hozzáférési engedélyek az Azure OpenAI-erőforrások létrehozásához és a modellek üzembe helyezéséhez.

Feljegyzés

Jelenleg be kell küldenie egy alkalmazást az Azure OpenAI szolgáltatás eléréséhez. A hozzáférés kérelmezéséhez töltse ki ezt az űrlapot. Ha segítségre van szüksége, nyisson meg egy problémát az adattárban, és lépjen kapcsolatba a Microsofttal.

Erőforrás létrehozása

Az alábbi lépések bemutatják, hogyan hozhat létre Azure OpenAI-erőforrást az Azure Portalon.

Az erőforrás azonosítása

1. Jelentkezzen be azure-előfizetésével az Azure Portalon.

2. Válassza az Erőforrás létrehozása lehetőséget, és keresse meg az Azure OpenAI-t. A szolgáltatás megkeresése után válassza a Létrehozás lehetőséget.

   

3. Az Azure OpenAI létrehozása lapon adja meg a következő információkat az Alapok lapon található mezőkről:

   Mező	Leírás
   Előfizetés	Az Azure OpenAI Szolgáltatás előkészítési alkalmazásában használt Azure-előfizetés.
   Erőforráscsoport	Az Azure OpenAI-erőforrást tartalmazó Azure-erőforráscsoport. Létrehozhat egy új csoportot, vagy használhat egy már meglévő csoportot.
   Régió	A példány helye. A különböző helyek késést okozhatnak, de nem befolyásolják az erőforrás futásidejének rendelkezésre állását.
   Név	Az Azure OpenAI-szolgáltatás erőforrásának leíró neve, például MyOpenAIResource.
   Tarifacsomag	Az erőforrás tarifacsomagja. Jelenleg csak a Standard szint érhető el az Azure OpenAI szolgáltatáshoz. A díjszabásról további információt az Azure OpenAI díjszabási oldalán talál

   

4. Válassza a Tovább lehetőséget.

Hálózati biztonság konfigurálása

A Hálózat lap a biztonsági típus három beállítását mutatja be:

• 1. lehetőség: Az összes hálózat, beleértve az internetet is, hozzáférhet ehhez az erőforráshoz.
• 2. lehetőség: Kiválasztott hálózatok, konfigurálja az Azure AI-szolgáltatások erőforrásának hálózati biztonságát.
• 3. lehetőség: Letiltva, egyetlen hálózat sem fér hozzá ehhez az erőforráshoz. Konfigurálhat privát végpontkapcsolatokat, amelyek kizárólagosan így férhetnek hozzá ehhez az erőforráshoz.

A választott beállítástól függően előfordulhat, hogy további információkat kell megadnia.

1. lehetőség: Az összes hálózat engedélyezése

Az első lehetőség lehetővé teszi, hogy az összes hálózat, beleértve az internetet is, hozzáférjen az erőforráshoz. Ez a beállítás az alapértelmezett beállítás. Ehhez a beállításhoz nincs szükség további beállításokra.

2. lehetőség: Csak bizonyos hálózatok engedélyezése

A második lehetőség lehetővé teszi az erőforráshoz hozzáférő konkrét hálózatok azonosítását. Ha ezt a beállítást választja, a lap a következő kötelező mezőket tartalmazza:

Mező	Leírás
Virtuális hálózat	Adja meg azokat a virtuális hálózatokat, amelyek számára engedélyezett az erőforráshoz való hozzáférés. Az alapértelmezett virtuális hálózatnevet az Azure Portalon szerkesztheti.
Alhálózatok	Adja meg azokat az alhálózatokat, amelyek számára engedélyezett az erőforráshoz való hozzáférés. Az alapértelmezett alhálózatnevet az Azure Portalon szerkesztheti.

A Tűzfal szakasz egy választható címtartomány-mezőt biztosít, amellyel konfigurálhatja az erőforrás tűzfalbeállítását.

3. lehetőség: Hálózati hozzáférés letiltása

A harmadik lehetőséggel letilthatja az erőforráshoz való hálózati hozzáférést. Ha ezt a lehetőséget választja, a lap frissül, hogy tartalmazza a Privát végpont táblát.

Lehetőségként hozzáadhat egy privát végpontot az erőforráshoz való hozzáféréshez. Válassza a Privát végpont hozzáadása lehetőséget, és fejezze be a végpontkonfigurációt.

A konfiguráció megerősítése és az erőforrás létrehozása

1. Válassza a Tovább lehetőséget, és igény szerint konfigurálja az erőforráshoz tartozó címkéket.

2. A Tovább gombra kattintva lépjen a folyamat utolsó szakaszára: Véleményezés + küldés.

3. Erősítse meg a konfigurációs beállításokat, és válassza a Létrehozás lehetőséget.

4. Az Azure Portal értesítést jelenít meg, ha az új erőforrás elérhető. Válassza az Erőforrás megnyitása lehetőséget.

   

Modell üzembe helyezése

Mielőtt szöveget vagy következtetést hozhat létre, üzembe kell helyeznie egy modellt. Az Azure OpenAI Studióban számos elérhető modell közül választhat.

Modell üzembe helyezéséhez kövesse az alábbi lépéseket:

1. Jelentkezzen be az Azure OpenAI Studióba.

2. Válassza ki az előfizetést és az Azure OpenAI-erőforrást, és válassza az Erőforrás használata lehetőséget.

3. A Felügyelet területen válassza a Központi telepítések lehetőséget.

4. Válassza az Új üzembe helyezés létrehozása lehetőséget, és konfigurálja a következő mezőket:

   Mező	Leírás
   Modell kiválasztása	A modellek elérhetősége régiónként változik. Az elérhető modellek régiónkénti listáját a Modellösszesítő táblázat és a régió rendelkezésre állása című témakörben találja.
   Üzembe helyezés neve	Válasszon nevet körültekintően. Az üzembe helyezés neve a kódban az ügyfélkódtárak és a REST API-k használatával hívja meg a modellt.
   Üzembe helyezés típusa	Standard, Global-Standard, Provisioned-Managed. További információ az üzembe helyezési típus beállításairól.
   Speciális beállítások (nem kötelező)	Igény szerint megadhat speciális beállításokat az erőforráshoz. – A tartalomszűrőhöz rendeljen hozzá egy tartalomszűrőt az üzembe helyezéshez. - A jogkivonatok percenkénti sebességkorlátjához módosítsa a tokenek percenkénti értékét (TPM) az üzemelő példány érvényes sebességkorlátjának beállításához. Ezt az értéket bármikor módosíthatja a Kvóták menüvel. A dinamikus kvóta lehetővé teszi, hogy kihasználja a további kvótát, ha további kapacitás áll rendelkezésre.

5. Válasszon ki egy modellt a legördülő listából.

6. Adja meg az üzembehelyezési nevet a modell azonosításához.

   Fontos

   Amikor az API-val éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, ami az OpenAI és az Azure OpenAI közötti egyik fő különbség . Az OpenAI csak a modell nevét igényli. Az Azure OpenAI-nak mindig szüksége van az üzembehelyezési névre, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron az üzemelő példányok nevei bármilyen elnevezési konvenciót követhetnek a használati esethez legjobban.

7. Az első üzembe helyezésnél hagyja meg az alapértelmezett beállításokat a Speciális beállítások beállításnál.

8. Válassza a Létrehozás lehetőséget.

Az üzembe helyezési táblázat egy új bejegyzést jelenít meg, amely megfelel az újonnan létrehozott modellnek.

Az üzembe helyezés befejezése után a modell üzembe helyezési állapota sikeres lesz.

Előfeltételek

• Azure-előfizetés. Hozzon létre egyet ingyen.
• A hozzáférést az Azure OpenAI a kívánt Azure-előfizetésen belül kapja meg.
• Hozzáférési engedélyek az Azure OpenAI-erőforrások létrehozásához és a modellek üzembe helyezéséhez.
• Az Azure CLI. További információ: Az Azure CLI telepítése.

Feljegyzés

Jelenleg be kell küldenie egy alkalmazást az Azure OpenAI szolgáltatás eléréséhez. A hozzáférés kérelmezéséhez töltse ki ezt az űrlapot. Ha segítségre van szüksége, nyisson meg egy problémát az adattárban, és lépjen kapcsolatba a Microsofttal.

Bejelentkezés az Azure CLI-be

Jelentkezzen be az Azure CLI-be, vagy válassza a CloudShell megnyitása lehetőséget az alábbi lépésekben.

Azure-erőforráscsoport létrehozása

Azure OpenAI-erőforrás létrehozásához azure-erőforráscsoportra van szükség. Amikor új erőforrást hoz létre az Azure CLI-vel, létrehozhat egy új erőforráscsoportot, vagy utasíthatja az Azure-t egy meglévő csoport használatára. Az alábbi példa bemutatja, hogyan hozhat létre új, OAIResourceGroup nevű erőforráscsoportot az az group create paranccsal. Az erőforráscsoport az USA keleti régiójában jön létre.

az group create \
--name OAIResourceGroup \
--location eastus

Erőforrás létrehozása

Az az cognitiveservices-fiók létrehozási parancsával hozzon létre egy Azure OpenAI-erőforrást az erőforráscsoportban. Az alábbi példában egy MyOpenAIResource nevű erőforrást hoz létre az OAIResourceGroup erőforráscsoportban. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrásnév kívánt értékeinek, valamint az Azure-előfizetés-azonosító <előfizetési azonosítójának> használatára.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Az erőforrással kapcsolatos információk lekérése

Az erőforrás létrehozása után különböző parancsokkal hasznos információkat találhat az Azure OpenAI-szolgáltatáspéldányról. Az alábbi példák bemutatják, hogyan lehet lekérni a REST API-végpont alap URL-címét és az új erőforrás hozzáférési kulcsait.

A végpont URL-címének lekérése

Az az cognitiveservices account show paranccsal kérje le az erőforrás REST API-végpontjának alap URL-címét. Ebben a példában a parancs kimenetét a JQ JSON-processzoron keresztül irányítjuk az .properties.endpoint érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot a myResourceGroupName és az erőforrás myResourceName>> erőforráscsoport <értékeinek használatára.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Az elsődleges API-kulcs lekérése

Az erőforrás hozzáférési kulcsainak lekéréséhez használja az az cognitiveservices-fiókkulcsok listaparancsát . Ebben a példában a parancs kimenetét a JQ JSON-processzoron keresztül irányítjuk az .key1 érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Modell üzembe helyezése

Modell üzembe helyezéséhez használja az az cognitiveservices-fiók üzembe helyezési parancsát . A következő példában üzembe helyezi a text-embedding-ada-002 modell egy példányát, és myModel nevet ad neki. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára. Nem kell módosítania az model-version, model-format vagy sku-capacity, és sku-name az értékeket.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name A következő üzembehelyezési típusokat fogadja el: Standard, GlobalStandardés ProvisionedManaged. További információ az üzembe helyezési típus beállításairól.

Fontos

Amikor az API-val éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, ami az OpenAI és az Azure OpenAI közötti egyik fő különbség . Az OpenAI csak a modell nevét igényli. Az Azure OpenAI-nak mindig szüksége van az üzembehelyezési névre, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron az üzemelő példányok nevei bármilyen elnevezési konvenciót követhetnek a használati esethez legjobban.

Modell törlése az erőforrásból

Az erőforrásból üzembe helyezett modelleket az az cognitiveservices-fiók üzembehelyezési törlési parancsával törölheti . Az alábbi példában töröl egy MyModel nevű modellt. A példa kipróbálásakor frissítse a kódot az erőforráscsoport, az erőforrás és az üzembe helyezett modell értékeinek használatára.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Erőforrások törlése

Ha törölni szeretné ezeket a gyakorlatokat, eltávolíthatja az Azure OpenAI-erőforrást úgy, hogy törli az erőforrást az Azure CLI-vel. Az erőforráscsoportot is törölheti. Ha úgy dönt, hogy törli az erőforráscsoportot, a csoport összes erőforrása is törlődik.

Az erőforráscsoport és a hozzá tartozó erőforrások eltávolításához használja az az cognitiveservices-fióktörlési parancsot.

Ha nem fogja továbbra is használni a gyakorlatokban létrehozott erőforrásokat, futtassa az alábbi parancsot az erőforráscsoport törléséhez. Ügyeljen arra, hogy frissítse a példakódot az erőforráscsoport és az erőforrás értékeinek használatára.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Előfeltételek

• Azure-előfizetés. Hozzon létre egyet ingyen.
• A hozzáférést az Azure OpenAI a kívánt Azure-előfizetésen belül kapja meg.
• Hozzáférési engedélyek az Azure OpenAI-erőforrások létrehozásához és a modellek üzembe helyezéséhez.
• Azure PowerShell. További információ: Az Azure PowerShell telepítése.

Feljegyzés

Jelenleg be kell küldenie egy alkalmazást az Azure OpenAI szolgáltatás eléréséhez. A hozzáférés kérelmezéséhez töltse ki ezt az űrlapot. Ha segítségre van szüksége, nyisson meg egy problémát az adattárban, és lépjen kapcsolatba a Microsofttal.

Bejelentkezés az Azure PowerShellbe

Jelentkezzen be az Azure PowerShellbe, vagy válassza a CloudShell megnyitása lehetőséget az alábbi lépésekben.

Azure-erőforráscsoport létrehozása

Azure OpenAI-erőforrás létrehozásához azure-erőforráscsoportra van szükség. Amikor új erőforrást hoz létre az Azure PowerShell használatával, létrehozhat egy új erőforráscsoportot, vagy utasíthatja az Azure-t egy meglévő csoport használatára. Az alábbi példa bemutatja, hogyan hozhat létre új, OAIResourceGroup nevű erőforráscsoportot a New-AzResourceGroup paranccsal. Az erőforráscsoport az USA keleti régiójában jön létre.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Erőforrás létrehozása

A New-AzCognitiveServicesAccount paranccsal hozzon létre egy Azure OpenAI-erőforrást az erőforráscsoportban. Az alábbi példában egy MyOpenAIResource nevű erőforrást hoz létre az OAIResourceGroup erőforráscsoportban. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrásnév kívánt értékeinek, valamint az Azure-előfizetés-azonosító <előfizetési azonosítójának> használatára.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Az erőforrással kapcsolatos információk lekérése

Az erőforrás létrehozása után különböző parancsokkal hasznos információkat találhat az Azure OpenAI-szolgáltatáspéldányról. Az alábbi példák bemutatják, hogyan lehet lekérni a REST API-végpont alap URL-címét és az új erőforrás hozzáférési kulcsait.

A végpont URL-címének lekérése

A Get-AzCognitiveServicesAccount paranccsal kérje le az erőforrás REST API-végpontjának alap URL-címét. Ebben a példában a parancs kimenetét a Select-Object parancsmagon keresztül irányítjuk az endpoint érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport <myResourceGroupName> és az erőforrás <myResourceName>értékeinek használatára.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Az elsődleges API-kulcs lekérése

Az erőforrás hozzáférési kulcsainak lekéréséhez használja a Get-AzCognitiveServicesAccountKey parancsot. Ebben a példában a parancs kimenetét a Select-Object parancsmagon keresztül irányítjuk az Key1 érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Modell üzembe helyezése

Modell üzembe helyezéséhez használja a New-AzCognitiveServicesAccountDeployment parancsot. A következő példában üzembe helyezi a text-embedding-ada-002 modell egy példányát, és myModel nevet ad neki. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára. Nem kell módosítania az model-version, model-format vagy sku-capacity, és sku-name az értékeket.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

A Name változó tulajdonsága a $sku következő üzembehelyezési típusokat fogadja el: Standard, GlobalStandardés ProvisionedManaged. További információ az üzembe helyezési típus beállításairól.

Fontos

Amikor az API-val éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, ami az OpenAI és az Azure OpenAI közötti egyik fő különbség . Az OpenAI csak a modell nevét igényli. Az Azure OpenAI-nak mindig szüksége van az üzembehelyezési névre, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron az üzemelő példányok nevei bármilyen elnevezési konvenciót követhetnek a használati esethez legjobban.

Modell törlése az erőforrásból

Az erőforrásból üzembe helyezett modelleket a Remove-AzCognitiveServicesAccountDeployment paranccsal törölheti. Az alábbi példában töröl egy MyModel nevű modellt. A példa kipróbálásakor frissítse a kódot az erőforráscsoport, az erőforrás és az üzembe helyezett modell értékeinek használatára.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Erőforrások törlése

Ha el szeretné távolítani ezeket a gyakorlatokat, eltávolíthatja az Azure OpenAI-erőforrást úgy, hogy törli az erőforrást az Azure PowerShell-lel. Az erőforráscsoportot is törölheti. Ha úgy dönt, hogy törli az erőforráscsoportot, a csoport összes erőforrása is törlődik.

Az erőforráscsoport és a hozzá tartozó erőforrások eltávolításához használja a Remove-AzCognitiveServicesAccount parancsot.

Ha nem fogja továbbra is használni a gyakorlatokban létrehozott erőforrásokat, futtassa az alábbi parancsot az erőforráscsoport törléséhez. Ügyeljen arra, hogy frissítse a példakódot az erőforráscsoport és az erőforrás értékeinek használatára.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Következő lépések

• API-hívások kezdeményezése és szöveg létrehozása az Azure OpenAI Service gyorsútmutatóival.
• További információ az Azure OpenAI-szolgáltatásmodellekről.
• A díjszabással kapcsolatos információkért látogasson el az Azure OpenAI díjszabási oldalára