Modellek használata

Azure OpenAI-t Microsoft Öntödei modellekben különböző képességekkel és árpontokkal rendelkező modellek széles halmaza működteti. A modell rendelkezésre állása régiónként eltérő.

Az Azure OpenAI-erőforrással lekérheti az elérhető modellek listáját, amelyek mind az előrejelzéshez, mind a finomhangoláshoz használhatók, a Models List API segítségével.

Ez a cikk bemutatja, hogyan:

  • Automatikus modellfrissítések konfigurálása.
  • Az üzembe helyezés verziófrissítési szabályzatának megtekintése és frissítése.
  • Az üzembe helyezett modellverzió frissítése a Azure Resource Manager API használatával.
  • Kiépített üzemelő példányok áttelepítése másik modellverzióba vagy -családba.

Előfeltételek

  • Azure előfizetés Azure OpenAI-modellekkel.

Modellfrissítések

Azure OpenAI támogatja a modelltelepítések automatikus frissítéseit. Azon modellek esetében, ahol elérhető az automatikus frissítési támogatás, elérhető a modell verziófrissítési szabályzatának legördülő menüje.

További információt Azure OpenAI-modellverziókról és azok működéséről az Azure OpenAI-modellverziók cikkben talál.

Megjegyzés

Az automatikus modellfrissítések csak a standard központi telepítési típusok esetében támogatottak. A kiépített központi telepítési típusok modellfrissítéseinek és migrálásainak kezelésével kapcsolatos további információkért tekintse meg a kiépített üzembehelyezési típusok modelljeinek kezelésével foglalkozó szakaszt.

Automatikus frissítés alapértelmezettre

Amikor az automatikus frissítést alapértelmezettre állítja az ütemezésben, a modell telepítése automatikusan frissül az alapértelmezett verzió módosításától számított két héten belül. Előzetes verzió esetén automatikusan frissül, ha az új előzetes verzió két héttel az új előzetes verzió megjelenése után érhető el.

Ha még mindig a következtetési modellek korai tesztelési fázisában van, javasoljuk, hogy automatikus frissítéssel rendelkező modelleket helyezzen üzembe az alapértelmezett beállításra , amikor az elérhető.

Konkrét modellverzió

Az Azure OpenAI használata folyamatosan fejlődik, és amint elkezdesz alkalmazásokat építeni és integrálni, érdemes lehet manuálisan szabályozni a modellfrissítéseket. A frissítés előtt először tesztelheti és ellenőrizheti, hogy az alkalmazás viselkedése konzisztens-e a használati esethez.

Amikor kiválaszt egy adott modellverziót egy központi telepítéshez, ez a verzió mindaddig ki van választva, amíg manuálisan nem frissíti magát, vagy ha eléri a modell kivonási dátumát. A kivonási dátum elérésekor a modell automatikusan az alapértelmezett verzióra frissül a kivonás időpontjában.

Modell telepítési frissítési konfigurációja

A REST, a Azure CLI és a Azure PowerShell, valamint az Foundry portál használatával ellenőrizheti, hogy a korábban üzembe helyezett modellekhez milyen modellfrissítési beállítások vannak beállítva.

A megfelelő tulajdonság a REST, Azure PowerShell és Azure CLI keresztül is elérhető.

Lehetőség Olvasni Frissítés
REST Igen. Ha versionUpgradeOption nem ad vissza, az azt jelenti, hogy null Igen
Azure PowerShell Igen. VersionUpgradeOption ellenőrizhető $null Igen
Azure parancssori felület Igen. null akkor jelenik meg, ha versionUpgradeOption nincs beállítva. Nem. A verziófrissítési lehetőség jelenleg nem frissíthető.

Három különböző modelltelepítési frissítési lehetőség áll rendelkezésre:

Név Leírás
OnceNewDefaultVersionAvailable Miután az új verziót alapértelmezettként jelölte ki, a modell központi telepítése a kijelölés módosításától számított két héten belül automatikusan az alapértelmezett verzióra frissül.
OnceCurrentVersionExpired A kivonási dátum elérése után a modell üzembe helyezése automatikusan az aktuális alapértelmezett verzióra frissül.
NoAutoUpgrade A modell üzembe helyezése soha nem frissül automatikusan. A kivonási dátum elérése után a modell üzembe helyezése leáll. Frissítenie kell az üzembe helyezésre hivatkozó kódot, hogy egy lejáratlan modell üzembe helyezésére mutasson.

Megjegyzés

nullegyenértékű a .-nak.OnceCurrentVersionExpired Ha a Verziófrissítési szabályzat beállítás nem szerepel a modellfrissítéseket támogató modell tulajdonságai között, az azt jelzi, hogy az érték jelenleg nullérvényes. Miután explicit módon módosította ezt az értéket, a tulajdonság megjelenik a stúdió tulajdonságainak oldalán és a REST API-on keresztül.

Példák

Tekintse át az Azure PowerShell kezdő lépés útmutatóját az Azure PowerShell helyi telepítéséhez, vagy használhatja a Azure Cloud Shell.

Az alábbi lépések bemutatják a VersionUpgradeOption beállítástulajdonság ellenőrzését és frissítését:

# Step 1: Get deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
# Step 2: Show VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
# VersionUpgradeOption can be null. One way to check is:
$null -eq $deployment.Properties.VersionUpgradeOption
 
# Step 3: Update VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
# Repeat steps 1 and 2 to confirm the change.
# If you aren't sure about the deployment name, list all deployments under an account:
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

# Update to a new model version

# Step 1: Get deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

# Step 2: Show the current model version
$deployment.Properties.Model.Version

# Step 3: Update the model version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

# Repeat steps 1 and 2 to confirm the change.

Modellek frissítése és üzembe helyezése az API-n keresztül

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2025-06-01

Útvonal paraméterek

Paraméter Típus Szükséges? Leírás
accountName karakterlánc Szükséges A Azure OpenAI-erőforrás neve.
deploymentName karakterlánc Szükséges Az üzembe helyezési név, amelyet egy meglévő modell üzembe helyezésekor választott, vagy az a név, amelyet egy új modell üzembe helyezésekor szeretne használni.
resourceGroupName karakterlánc Szükséges A modell üzembe helyezéséhez társított erőforráscsoport neve.
subscriptionId karakterlánc Szükséges A társított előfizetés előfizetés-azonosítója.
api-version karakterlánc Szükséges A művelethez használni kívánt API-verzió. Ez az YYYY-MM-DD formátumot követi.

Támogatott verziók

Kérelem tartalma

Ez csak a rendelkezésre álló kérelemtörzs paramétereinek egy része. A paraméterek teljes listájához tekintse meg a REST API referenciadokumentációját.

Paraméter Típus Leírás
verziófrissítési lehetőség Karakterlánc Az üzembehelyezési modell verziófrissítési beállításai:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
kapacitás egész szám Ez az üzemelő példányhoz hozzárendelt kvóta mennyiségét jelöli. Az 1 érték 1000 token per minute (TPM) értékkel egyenlő

Példakérés

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2025-06-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Megjegyzés

Az engedélyezési jogkivonat több módon is létrehozható. A kezdeti tesztelés legegyszerűbb módja a Cloud Shell indítása a Azure portálról. Ezután futtassa a parancsot az account get-access-token. Ezt a jogkivonatot használhatja ideiglenes engedélyezési jogkivonatként API-teszteléshez.

Példa válasz

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Kiépített üzembehelyezési típusok modelljeinek kezelése

A kiépített telepítések különböző modellkezelési gyakorlatokat támogatnak. A kiépített üzembehelyezési modell felügyeleti eljárásainak célja, hogy a lehető legnagyobb ellenőrzést biztosítsa a modellverziók és modellcsaládok közötti migrálás időpontjára és módjára vonatkozóan. Jelenleg két megközelítés érhető el a telepített környezetek modelljeinek kezelésére: (1) helyszíni áthelyezések és (2) több telepítést érintő migrációk.

Előfeltételek

  • Ellenőrizze, hogy a célmodell verziója vagy modellcsaládja támogatott-e a meglévő üzembe helyezési típushoz. Migrációk csak azonos telepítési típusú telepített példányok között történhetnek. Az üzembe helyezési típusokkal kapcsolatos további információkért tekintse át az üzembehelyezési típus dokumentációját.
  • A migrálási kísérlet előtt ellenőrizze a kapacitás rendelkezésre állását a célmodell verziójához vagy modellcsaládjához. A kapacitás rendelkezésre állásának meghatározásával kapcsolatos további információkért tekintse át a kapacitás átláthatóságára vonatkozó dokumentációt.
  • Több üzembehelyezési migrálás esetén ellenőrizze, hogy rendelkezik-e elegendő kvótával több üzembe helyezés egyidejű támogatásához. Az egyes kiépített üzembehelyezési típusokra vonatkozó kvóta érvényesítéséről további információt a kiosztott átviteli sebesség költségdokumentációjában talál.

Helyben végzett migrációk biztosított üzemeltetési telepítésekhez

A helyszíni migrálások lehetővé teszik, hogy a központi telepítéshez rendelt modellverzió vagy modellcsalád módosítása közben ugyanazt a kiosztott üzembehelyezési nevet és méretet tartsa fenn. A helyszíni migrálások esetén Azure OpenAI gondoskodik a modellverziók vagy modellcsaládok közötti meglévő forgalom migrálásáról a migrálás során egy 20–30 perces időszakban. A migrálási időszakban a kiépített üzembe helyezés "frissítés alatt álló" állapotot jelenít meg. Az elkészített telepítést a megszokott módon továbbra is használhatja. A helyszíni migrálás befejezése után a kiépített állapot "sikeres" állapotra frissül, ami azt jelzi, hogy az összes forgalom át lett migrálva a célmodell verziójára vagy modellcsaládjára.

Helyszíni migrálás: modellverzió frissítése

Azokat a helyszíni migrálásokat, amelyek egy meglévő kiépített üzemelő példányt egy új modellverzióra szeretnének frissíteni ugyanabban a modellcsaládban, a Foundry, a REST API és a Azure CLI támogatják. Ha helyszíni migrálást szeretne végrehajtani, amely egy modellverzió frissítését célozza meg az Foundryben, válassza az Üzembe helyezés neve oszlopban lévő Központi telepítések> lehetőséget, és válassza ki a migrálni kívánt üzembe helyezés üzembehelyezési nevét.

A modell üzembe helyezésének nevére kattintva megnyílik a tulajdonságok. Ebben a nézetben válassza a Szerkesztés gombot, amely megjeleníti az Üzembe helyezés frissítése párbeszédpanelt. Válassza ki a modellverzió legördülő menüjét, ha új modellverziót szeretne beállítani a kiépített üzembe helyezéshez. Mint említettük, az előfizetési állapot "frissítésre" vált a migráció során, és a migráció befejezése után "sikeres" állapotba fog visszaállni.

Helyszíni migrálás: modellcsalád módosítása

A meglévő kiépített környezet új modellcsaládra való frissítését célzó helyszíni migrálásokat a REST API és a Azure CLI támogatja. A modellcsalád változását célzó helyszíni migrálás végrehajtásához használja az alábbi példakérést útmutatóként. A kérésben frissítenie kell a migrálni kívánt célmodell modellnevét és modellverzióját.

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment?api-version=2024-10-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"GlobalProvisionedManaged","capacity":100},"properties": {"model": {"format": "OpenAI","name": "gpt-4o-mini","version": "2024-07-18"}}}'

Példa válasz

{
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-4o-ptu-deployment",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-4o-ptu-deployment",
  "sku": {
    "name": "GlobalProvisionedManaged",
    "capacity": 100
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-4o-mini",
      "version": "2024-07-18"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "currentCapacity": 100,
    "capabilities": {
      "area": "EUR",
      "chatCompletion": "true",
      "jsonObjectResponse": "true",
      "maxContextToken": "128000",
      "maxOutputToken": "16834",
      "assistants": "true"
    },
    "provisioningState": "Updating",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 300
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2025-01-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2025-01-29T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Megjegyzés

Az engedélyezési jogkivonat több módon is létrehozható. A kezdeti tesztelés legegyszerűbb módja a Cloud Shell indítása a Azure portálról. Ezután futtassa a parancsot az account get-access-token. Ezt a jogkivonatot használhatja ideiglenes engedélyezési jogkivonatként API-teszteléshez.

Többféle üzembe helyezési migráció előzetesen létrehozott üzembe helyezésekhez

A többféle üzembehelyezési migráció lehetővé teszi, hogy jobban irányíthassa a modell migrálási folyamatát. A több üzembehelyezési migrálással megadhatja, hogy milyen gyorsan szeretné migrálni a meglévő forgalmat a célmodell verziójába vagy modellcsaládjához egy új üzembe helyezés során. Az új modellverzióra vagy modellcsaládra a több üzembe helyezési migrálási megközelítéssel történő migrálás folyamata a következő:

  • Hozzon létre egy új előkészített üzembe helyezést. Ebben az új üzembe helyezésben dönthet úgy, hogy ugyanazt a kiosztott központi telepítési típust tartja fenn, mint a meglévő üzembe helyezés, vagy igény szerint válasszon egy új üzembe helyezési típust.
  • Váltsa át a forgalmat a meglévő üzembe helyezésről az újonnan létrehozott üzembe helyezésre a célmodell verziójával vagy modellcsaládjával, amíg az összes forgalom ki nem töltődik az eredeti üzembe helyezésből.
  • Miután a forgalom át lett migrálva az új üzembe helyezésre, ellenőrizze, hogy nincsenek-e következtetési kérések az előző kiépített üzembe helyezésen, biztosítva, hogy az Azure OpenAI-kérelmek metrikája ne jelenjen meg az új üzembe helyezésbe migrált következtetési forgalomtól számított 5–10 percen belül végrehajtott API-hívásokon. A metrikával kapcsolatos további információkért tekintse meg a Monitor Azure OpenAI dokumentációját.
  • Miután meggyőződött arról, hogy nem történt következtetési hívás, törölje az eredeti üzembe helyezést.

Hibaelhárítás

401 vagy 403 választ kap a Azure Resource Manager API-tól

  • Győződjön meg arról, hogy a hozzáférési jogkivonat érvényes és nem járt le.
  • Ellenőrizze, hogy rendelkezik-e engedéllyel az erőforrás üzembe helyezésének olvasására és frissítésére.
  • Last updated on