Olvasás angol nyelven

Megosztás a következőn keresztül:

Azure OpenAI-szolgáltatáserőforrás létrehozása és üzembe helyezése

  • Cikk
Válassza ki az előnyben részesített erőforrás-létrehozási módszert

Üzembe helyezés az Azure-ban

Ez a cikk az Azure OpenAI szolgáltatás használatának első lépéseit ismerteti, és részletes útmutatást nyújt egy erőforrás létrehozásához és egy modell üzembe helyezéséhez. Az Azure-ban többféleképpen hozhat létre erőforrásokat:

  • Az Azure Portal
  • A REST API-k, az Azure CLI, a PowerShell vagy az ügyfélkódtárak
  • Azure Resource Manager- (ARM-) sablonok

Ebben a cikkben példákat tekinthet át az erőforrások Azure Portalon és az Azure CLI-ben való létrehozására és üzembe helyezésére.

Előfeltételek

Erőforrás létrehozása

Az alábbi lépések bemutatják, hogyan hozhat létre Azure OpenAI-erőforrást az Azure Portalon.

Az erőforrás azonosítása

  1. Jelentkezzen be azure-előfizetésével az Azure Portalon.

  2. Válassza az Erőforrás létrehozása lehetőséget, és keresse meg az Azure OpenAI-t. A szolgáltatás megkeresése után válassza a Létrehozás lehetőséget.

    Képernyőkép arról, hogyan hozhat létre új Azure OpenAI-szolgáltatáserőforrást az Azure Portalon.

  3. Az Azure OpenAI létrehozása lapon adja meg a következő információkat az Alapok lapon található mezőkről:

    Mező Leírás
    Előfizetés Az Azure OpenAI Szolgáltatás előkészítési alkalmazásában használt Azure-előfizetés.
    Erőforráscsoport Az Azure OpenAI-erőforrást tartalmazó Azure-erőforráscsoport. Létrehozhat egy új csoportot, vagy használhat egy már meglévő csoportot.
    Régió A példány helye. A különböző helyek késést okozhatnak, de nem befolyásolják az erőforrás futásidejének rendelkezésre állását.
    Név Az Azure OpenAI-szolgáltatás erőforrásának leíró neve, például MyOpenAIResource.
    Tarifacsomag Az erőforrás tarifacsomagja. Jelenleg csak a Standard szint érhető el az Azure OpenAI szolgáltatáshoz. A díjszabásról további információt az Azure OpenAI díjszabási oldalán talál

    Képernyőkép az Azure OpenAI-erőforrások Azure Portalon való konfigurálásáról.

  4. Válassza a Tovább lehetőséget.

Hálózati biztonság konfigurálása

A Hálózat lap a biztonsági típus három beállítását mutatja be:

  • 1. lehetőség: Az összes hálózat, beleértve az internetet is, hozzáférhet ehhez az erőforráshoz.
  • 2. lehetőség: Kiválasztott hálózatok, konfigurálja az Azure AI-szolgáltatások erőforrásának hálózati biztonságát.
  • 3. lehetőség: Letiltva, egyetlen hálózat sem fér hozzá ehhez az erőforráshoz. Konfigurálhat privát végpontkapcsolatokat, amelyek kizárólagosan így férhetnek hozzá ehhez az erőforráshoz.

Képernyőkép egy Azure OpenAI-erőforrás hálózati biztonsági beállításairól az Azure Portalon.

A választott beállítástól függően előfordulhat, hogy további információkat kell megadnia.

1. lehetőség: Az összes hálózat engedélyezése

Az első lehetőség lehetővé teszi, hogy az összes hálózat, beleértve az internetet is, hozzáférjen az erőforráshoz. Ez a beállítás az alapértelmezett beállítás. Ehhez a beállításhoz nincs szükség további beállításokra.

2. lehetőség: Csak bizonyos hálózatok engedélyezése

A második lehetőség lehetővé teszi az erőforráshoz hozzáférő konkrét hálózatok azonosítását. Ha ezt a beállítást választja, a lap a következő kötelező mezőket tartalmazza:

Mező Leírás
Virtuális hálózat Adja meg azokat a virtuális hálózatokat, amelyek számára engedélyezett az erőforráshoz való hozzáférés. Az alapértelmezett virtuális hálózatnevet az Azure Portalon szerkesztheti.
Alhálózatok Adja meg azokat az alhálózatokat, amelyek számára engedélyezett az erőforráshoz való hozzáférés. Az alapértelmezett alhálózatnevet az Azure Portalon szerkesztheti.

Képernyőkép, amely bemutatja, hogyan konfigurálhatja egy Azure OpenAI-erőforrás hálózati biztonságát, hogy csak bizonyos hálózatokat engedélyezzen.

A Tűzfal szakasz egy választható címtartomány-mezőt biztosít, amellyel konfigurálhatja az erőforrás tűzfalbeállítását.

3. lehetőség: Hálózati hozzáférés letiltása

A harmadik lehetőséggel letilthatja az erőforráshoz való hálózati hozzáférést. Ha ezt a lehetőséget választja, a lap frissül, hogy tartalmazza a Privát végpont táblát.

Képernyőkép egy Azure OpenAI-erőforrás hálózati biztonságának letiltásáról az Azure Portalon.

Lehetőségként hozzáadhat egy privát végpontot az erőforráshoz való hozzáféréshez. Válassza a Privát végpont hozzáadása lehetőséget, és fejezze be a végpontkonfigurációt.

A konfiguráció megerősítése és az erőforrás létrehozása

  1. Válassza a Tovább lehetőséget, és igény szerint konfigurálja az erőforráshoz tartozó címkéket.

  2. A Tovább gombra kattintva lépjen a folyamat utolsó szakaszára: Véleményezés + küldés.

  3. Erősítse meg a konfigurációs beállításokat, és válassza a Létrehozás lehetőséget.

  4. Az Azure Portal értesítést jelenít meg, ha az új erőforrás elérhető. Válassza az Erőforrás megnyitása lehetőséget.

    Képernyőkép az Erőforrás megnyitása gombról az Azure Portalon.

Modell üzembe helyezése

Mielőtt szöveget vagy következtetést hozhat létre, üzembe kell helyeznie egy modellt. Az Azure AI Foundry portálon számos elérhető modell közül választhat.

Modell üzembe helyezéséhez kövesse az alábbi lépéseket:

  1. Jelentkezzen be az Azure AI Foundry portálra.

  2. Válassza ki az előfizetést és az Azure OpenAI-erőforrást, és válassza az Erőforrás használata lehetőséget.

  3. A Felügyelet területen válassza a Központi telepítések lehetőséget.

  4. Válassza az Új üzembe helyezés létrehozása lehetőséget, és konfigurálja a következő mezőket:

    Mező Leírás
    Modell kiválasztása A modellek elérhetősége régiónként változik. Az elérhető modellek régiónkénti listáját a Modellösszesítő táblázat és a régió rendelkezésre állása című témakörben találja.
    Üzembe helyezés neve Válasszon nevet körültekintően. Az üzembe helyezés neve a kódban az ügyfélkódtárak és a REST API-k használatával hívja meg a modellt.
    Üzembe helyezés típusa Standard, Global-Batch, Global-Standard, Provisioned-Managed. További információ az üzembe helyezési típus beállításairól.
    Speciális beállítások (nem kötelező) Igény szerint megadhat speciális beállításokat az erőforráshoz.
    – A tartalomszűrőhöz rendeljen hozzá egy tartalomszűrőt az üzembe helyezéshez.
    - A jogkivonatok percenkénti sebességkorlátjához módosítsa a tokenek percenkénti értékét (TPM) az üzemelő példány érvényes sebességkorlátjának beállításához. Ezt az értéket bármikor módosíthatja a Kvóták menüvel. A dinamikus kvóta lehetővé teszi, hogy kihasználja a további kvótát, ha további kapacitás áll rendelkezésre.

  5. Válasszon ki egy modellt a legördülő listából.

  6. Adja meg az üzembehelyezési nevet a modell azonosításához.

    Fontos

    Amikor az API-val éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, ami az OpenAI és az Azure OpenAI közötti egyik fő különbség . Az OpenAI csak a modell nevét igényli. Az Azure OpenAI-nak mindig szüksége van az üzembehelyezési névre, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron az üzemelő példányok nevei bármilyen elnevezési konvenciót követhetnek a használati esethez legjobban.

  7. Az első üzembe helyezésnél hagyja meg az alapértelmezett beállításokat a Speciális beállítások beállításnál.

  8. Válassza a Létrehozás lehetőséget.

Az üzembe helyezési táblázat egy új bejegyzést jelenít meg, amely megfelel az újonnan létrehozott modellnek.

Az üzembe helyezés befejezése után a modell üzembe helyezési állapota sikeres lesz.

Előfeltételek

Bejelentkezés az Azure CLI-be

Jelentkezzen be az Azure CLI-be, vagy válassza a CloudShell megnyitása lehetőséget az alábbi lépésekben.

Azure-erőforráscsoport létrehozása

Azure OpenAI-erőforrás létrehozásához azure-erőforráscsoportra van szükség. Amikor új erőforrást hoz létre az Azure CLI-vel, létrehozhat egy új erőforráscsoportot, vagy utasíthatja az Azure-t egy meglévő csoport használatára. Az alábbi példa bemutatja, hogyan hozhat létre új, OAIResourceGroup nevű erőforráscsoportot az az group create paranccsal. Az erőforráscsoport az USA keleti régiójában jön létre.

Azure CLI 
az group create \
--name OAIResourceGroup \
--location eastus

Erőforrás létrehozása

Az az cognitiveservices-fiók létrehozási parancsával hozzon létre egy Azure OpenAI-erőforrást az erőforráscsoportban. Az alábbi példában egy MyOpenAIResource nevű erőforrást hoz létre az OAIResourceGroup erőforráscsoportban. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrásnév kívánt értékeinek, valamint az Azure-előfizetés-azonosító <előfizetési azonosítójának> használatára.

Azure CLI 
az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Az erőforrással kapcsolatos információk lekérése

Az erőforrás létrehozása után különböző parancsokkal hasznos információkat találhat az Azure OpenAI-szolgáltatáspéldányról. Az alábbi példák bemutatják, hogyan lehet lekérni a REST API-végpont alap URL-címét és az új erőforrás hozzáférési kulcsait.

A végpont URL-címének lekérése

Az az cognitiveservices account show paranccsal kérje le az erőforrás REST API-végpontjának alap URL-címét. Ebben a példában a parancs kimenetét a JQ JSON-processzoron keresztül irányítjuk az .properties.endpoint érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot a myResourceGroupName és az erőforrás myResourceName>> erőforráscsoport <értékeinek használatára.<

Azure CLI 
az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Az elsődleges API-kulcs lekérése

Az erőforrás hozzáférési kulcsainak lekéréséhez használja az az cognitiveservices-fiókkulcsok listaparancsát . Ebben a példában a parancs kimenetét a JQ JSON-processzoron keresztül irányítjuk az .key1 érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára.

Azure CLI 
az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Modell üzembe helyezése

Modell üzembe helyezéséhez használja az az cognitiveservices-fiók üzembe helyezési parancsát . A következő példában üzembe helyezi a text-embedding-ada-002 modell egy példányát, és myModel nevet ad neki. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára. Nem kell módosítania az model-version, model-format vagy sku-capacity, és sku-name az értékeket.

Azure CLI 
az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name A következő üzembehelyezési típusokat fogadja el: Standard, GlobalBatch, GlobalStandardés ProvisionedManaged. További információ az üzembe helyezési típus beállításairól.

Fontos

Amikor az API-val éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, ami az OpenAI és az Azure OpenAI közötti egyik fő különbség . Az OpenAI csak a modell nevét igényli. Az Azure OpenAI-nak mindig szüksége van az üzembehelyezési névre, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron az üzemelő példányok nevei bármilyen elnevezési konvenciót követhetnek a használati esethez legjobban.

Modell törlése az erőforrásból

Az erőforrásból üzembe helyezett modelleket az az cognitiveservices-fiók üzembehelyezési törlési parancsával törölheti . Az alábbi példában töröl egy MyModel nevű modellt. A példa kipróbálásakor frissítse a kódot az erőforráscsoport, az erőforrás és az üzembe helyezett modell értékeinek használatára.

Azure CLI 
az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Erőforrások törlése

Ha törölni szeretné ezeket a gyakorlatokat, eltávolíthatja az Azure OpenAI-erőforrást úgy, hogy törli az erőforrást az Azure CLI-vel. Az erőforráscsoportot is törölheti. Ha úgy dönt, hogy törli az erőforráscsoportot, a csoport összes erőforrása is törlődik.

Az erőforráscsoport és a hozzá tartozó erőforrások eltávolításához használja az az cognitiveservices-fióktörlési parancsot.

Ha nem fogja továbbra is használni a gyakorlatokban létrehozott erőforrásokat, futtassa az alábbi parancsot az erőforráscsoport törléséhez. Ügyeljen arra, hogy frissítse a példakódot az erőforráscsoport és az erőforrás értékeinek használatára.

Azure CLI 
az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Előfeltételek

Bejelentkezés az Azure PowerShellbe

Jelentkezzen be az Azure PowerShellbe, vagy válassza a CloudShell megnyitása lehetőséget az alábbi lépésekben.

Azure-erőforráscsoport létrehozása

Azure OpenAI-erőforrás létrehozásához azure-erőforráscsoportra van szükség. Amikor új erőforrást hoz létre az Azure PowerShell használatával, létrehozhat egy új erőforráscsoportot, vagy utasíthatja az Azure-t egy meglévő csoport használatára. Az alábbi példa bemutatja, hogyan hozhat létre új, OAIResourceGroup nevű erőforráscsoportot a New-AzResourceGroup paranccsal. Az erőforráscsoport az USA keleti régiójában jön létre.

Azure PowerShell 
New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Erőforrás létrehozása

A New-AzCognitiveServicesAccount paranccsal hozzon létre egy Azure OpenAI-erőforrást az erőforráscsoportban. Az alábbi példában egy MyOpenAIResource nevű erőforrást hoz létre az OAIResourceGroup erőforráscsoportban. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrásnév kívánt értékeinek, valamint az Azure-előfizetés-azonosító <előfizetési azonosítójának> használatára.

Azure PowerShell 
New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Az erőforrással kapcsolatos információk lekérése

Az erőforrás létrehozása után különböző parancsokkal hasznos információkat találhat az Azure OpenAI-szolgáltatáspéldányról. Az alábbi példák bemutatják, hogyan lehet lekérni a REST API-végpont alap URL-címét és az új erőforrás hozzáférési kulcsait.

A végpont URL-címének lekérése

A Get-AzCognitiveServicesAccount paranccsal kérje le az erőforrás REST API-végpontjának alap URL-címét. Ebben a példában a parancs kimenetét a Select-Object parancsmagon keresztül irányítjuk az endpoint érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport <myResourceGroupName> és az erőforrás <myResourceName>értékeinek használatára.

Azure PowerShell 
Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Az elsődleges API-kulcs lekérése

Az erőforrás hozzáférési kulcsainak lekéréséhez használja a Get-AzCognitiveServicesAccountKey parancsot. Ebben a példában a parancs kimenetét a Select-Object parancsmagon keresztül irányítjuk az Key1 érték megkereséséhez.

A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára.

Azure PowerShell 
Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Modell üzembe helyezése

Modell üzembe helyezéséhez használja a New-AzCognitiveServicesAccountDeployment parancsot. A következő példában üzembe helyezi a text-embedding-ada-002 modell egy példányát, és myModel nevet ad neki. A példa kipróbálásakor frissítse a kódot az erőforráscsoport és az erőforrás értékeinek használatára. Nem kell módosítania az model-version, model-format vagy sku-capacity, és sku-name az értékeket.

Azure PowerShell 
$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

A Name változó tulajdonsága a $sku következő üzembehelyezési típusokat fogadja el: Standard, GlobalBatch, GlobalStandardés ProvisionedManaged. További információ az üzembe helyezési típus beállításairól.

Fontos

Amikor az API-val éri el a modellt, az API-hívásokban az alapul szolgáló modellnév helyett az üzembe helyezés nevére kell hivatkoznia, ami az OpenAI és az Azure OpenAI közötti egyik fő különbség . Az OpenAI csak a modell nevét igényli. Az Azure OpenAI-nak mindig szüksége van az üzembehelyezési névre, még akkor is, ha a modellparamétert használja. A dokumentumainkban gyakran vannak példák arra, hogy az üzembehelyezési nevek azonosak a modellnevekkel, így jelezve, hogy melyik modell működik egy adott API-végponttal. Végső soron az üzemelő példányok nevei bármilyen elnevezési konvenciót követhetnek a használati esethez legjobban.

Modell törlése az erőforrásból

Az erőforrásból üzembe helyezett modelleket a Remove-AzCognitiveServicesAccountDeployment paranccsal törölheti. Az alábbi példában töröl egy MyModel nevű modellt. A példa kipróbálásakor frissítse a kódot az erőforráscsoport, az erőforrás és az üzembe helyezett modell értékeinek használatára.

Azure PowerShell 
Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Erőforrások törlése

Ha el szeretné távolítani ezeket a gyakorlatokat, eltávolíthatja az Azure OpenAI-erőforrást úgy, hogy törli az erőforrást az Azure PowerShell-lel. Az erőforráscsoportot is törölheti. Ha úgy dönt, hogy törli az erőforráscsoportot, a csoport összes erőforrása is törlődik.

Az erőforráscsoport és a hozzá tartozó erőforrások eltávolításához használja a Remove-AzCognitiveServicesAccount parancsot.

Ha nem fogja továbbra is használni a gyakorlatokban létrehozott erőforrásokat, futtassa az alábbi parancsot az erőforráscsoport törléséhez. Ügyeljen arra, hogy frissítse a példakódot az erőforráscsoport és az erőforrás értékeinek használatára.

Azure PowerShell 
Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Következő lépések