Modellek verziói a Microsoft Foundry modellekben

Microsoft Foundry Models rendszeresen kiadja az új modellverziókat, amelyek tartalmazzák a modellszolgáltatók legújabb funkcióit és fejlesztéseit. Ez a cikk bemutatja a modell verziószámozásának működését, az üzemelő példányokhoz elérhető frissítési szabályzatokat, valamint az OpenAI és a partnermodellek Azure kezelését.

A cikk elolvasása után tudni fogja, hogy melyik frissítési szabályzatot válassza a modell üzembe helyezésekor, hogyan kezeli automatikusan Azure a verziófrissítéseket, és hogy a partnermodellek verziószámozása miben különbözik Azure OpenAI-modell verziószámozásától.

A modellverziók működése

Választhat, hogy egy adott modellverzióval kezd, és továbbra is rajta marad, vagy automatikusan frissül az új verziók megjelenésekor.

A modellek használatakor két különböző verziót érdemes figyelembe venni:

  • A modell verziója.
  • A modelltelepítéshez használt API verziója.

Modellverzió

Megjegyzés

Az alábbi frissítési útmutató csak a standard központi telepítési típusokra vonatkozik. A kiépített központi telepítési típusok frissítésével vagy migrálásával kapcsolatos útmutatásért tekintse át a modellkezelési dokumentációt.

Frissítési szabályzatokat konfigurálhat, amikor egy modellt helyez üzembe az Foundry portálon. A házirendet később az üzembe helyezési beállításokban is módosíthatja. A frissítési szabályzatok üzembe helyezésenként vannak konfigurálva, és modellenként és szolgáltatónként eltérőek .

A verziófrissítési szabályzatok a következő lehetőségeket tartalmazzák:

  • Az automatikus modellverzió-frissítések letiltására beállított üzemelő példányok manuális frissítést igényelnek, ha új verziót ad ki. A modell kivonása után ezek az üzembe helyezések leállnak.
  • Amint az új alapértelmezett verzió elérhetővé válik, a telepítések automatikusan frissítésre kerülnek, hogy az új alapértelmezett verziót használják.
  • Ha az aktuális verzió lejár, az üzemelő példányok automatikusan frissülnek, amikor az aktuális verzió kivonásra kerül.

Például a gpt-4o üzembe helyezése célozhatja a 2024-08-06 verziót. Amikor a verzió 2024-11-20 elérhetővé válik, az üzembe helyezések automatikusan az új verzióra váltanak.

Az üzembe helyezés aktuális verziójának ellenőrzéséhez használja az alábbi módszerek egyikét:

  • Foundry portál: A Foundry portálon lépjen az üzembe helyezéshez, majd nyissa meg a Részletek lapot az aktuális modellverzió megtekintéséhez.
  • REST API: Az erőforrás üzembehelyezési végpontjának lekérdezése. A válasz tartalmazza az egyes telepítésekhez tartozó modellverziót.

A modell üzembe helyezéséhez használt API verziója

Az API-verzió azt az egyezményt jelzi, amelyet a modellhez való csatlakozás során kódban használ. REST API-k használatakor az API-verziót a lekérdezési paraméterrel api-versionkell jeleznie. Azure SDK verziók általában adott API-verziókkal vannak párosítva, de megadhatja a használni kívánt API-verziót.

Egy adott modelltelepítés több API-verziót is támogathat. Az új modellverzió megjelenése nem mindig követeli meg az API-verzió frissítését, például amikor a modell súlyait frissítik. Azure fenntartja a modell korábbi főverzióját a kivonási dátumig, így szükség esetén vissza is válthat rá.

Azure OpenAI-modell frissítései

Azure szorosan együttműködik az OpenAI-val az új modellverziók kiadásához. Amikor egy modell új verzióját kiadják, azonnal tesztelheti azt új telepítésekben. Azure közzéteszi a modellek új verzióinak kiadásakor, és legalább két héttel azelőtt értesíti az ügyfeleket, hogy az új verzió lesz a modell alapértelmezett verziója. Azure a modell korábbi főverzióját is fenntartja a kivonási dátumig, így az ügyfelek igény szerint visszaállhatnak rá.

Felkészülés az Azure OpenAI-modell verziófrissítéseire

Az Azure OpenAI-modellek ügyfeleként észlelheti, hogy egy verziófrissítést követően a modell viselkedése és kompatibilitása megváltozik. Ezek a módosítások hatással lehetnek a modellekre támaszkodó alkalmazásokra és munkafolyamatokra. Az alábbiakban néhány tippet talál a verziófrissítések előkészítéséhez és a hatás minimalizálásához:

  • A változások és az új funkciók megismeréséhez olvassa el az újdonságokat és a modelleket .
  • Az Öntödei modellek üzembe helyezésével és a verziófrissítésekkel kapcsolatos dokumentációban megismerheti a modellverziók használatát.
  • Tesztelje az alkalmazásokat és munkafolyamatokat az új modellverzióval a kiadás után.
  • Frissítse a kódot és a konfigurációt az új modellverzió új funkcióinak és képességeinek használatához.

Megtörténik a modellfrissítés, ha az új modellverzió még nem érhető el ebben a régióban?

Igen, még akkor is, ha a legújabb modellverzió még nem érhető el egy régióban, Azure automatikusan frissíti az üzemelő példányokat az ütemezett frissítési időszak alatt. A mérnöki csapat a bejelentett frissítési dátumtól kezdve megkezdi az új modellverzió bevezetésének megkezdését. Ha például gpt-4o a verzió 2024-11-20 még nem érhető el Kelet-Japánban, Azure mérnöki csapat üzembe helyezi a verziót gpt-4o Kelet-Japánban a régebbi modellverziók 2024-11-20 frissítéséhez az alapértelmezett modellverzió-frissítési folyamat részeként.

Partnermodell frissítései

Azure szorosan együttműködik a modellszolgáltatókkal az új modellverziók kiadásához. Amikor egy modell új verzióját kiadják, azonnal tesztelheti azt új telepítésekben.

Az új modellverziók új modellazonosító közzétételét eredményezhetik. Például, Meta-Llama-3-70B-Instruct és Meta-Llama-3.1-70B-Instruct mindkettőt kivezették a javára Llama-3.3-70B-Instruct. Minden generáció más modellazonosítót használ. Bizonyos esetekben előfordulhat, hogy az összes modellverzió ugyanabban az API-verzióban érhető el. Más esetekben előfordulhat, hogy a modell használatához használt API-verziót is módosítania kell, mert előfordulhat, hogy az API-szerződés egyik modellről a másikra módosult.

Mi történik a modellek kivonásakor?

Amikor egy modellverzió eléri a kivonási dátumot, a következő lépés az adott üzembe helyezéshez konfigurált frissítési szabályzattól függ:

  • A modell automatikus verziófrissítéseinek letiltása: Az üzemelő példány nem fogadja el a kéréseket, és a modell kivonása után hibákat ad vissza. Frissítse az üzembe helyezést egy támogatott modellverzióra a kivonási dátum előtt a szolgáltatás megszakításának elkerülése érdekében.
  • Frissítés az új alapértelmezett verzió elérhetővé válása után: Az üzembe helyezés automatikusan frissül az aktuális alapértelmezett verzióra. Nincs szükség műveletre.
  • Az aktuális verzió lejárta után az üzembe helyezés automatikusan a következő elérhető verzióra frissül, amikor az aktuális verzió lejár.

Azure e-mailben értesíti önt a közelgő szolgáltatás-kivonásokról az előfizetés tulajdonosainak és közreműködőinek, az Azure Service Health riasztásai, valamint a Microsoft Foundry Modellek elavulási és kivonási táblázataiban.

Kapcsolódó tartalom

  • Last updated on