Áttérés a modellszolgáltatásra

Ez a cikk bemutatja, hogyan engedélyezheti a modellszolgáltatást a munkaterületen, és hogyan válthat modelljeit kiszolgáló nélküli számításra épülő modellszolgáltatásra .

Fontos

2025. augusztus 22-től az ügyfelek már nem hozhatnak létre új kiszolgáló végpontokat a Legacy MLflow Model Serving élmény használatával. 2025. szeptember 15-én a régi élmény életciklusának végére került, és az összes meglévő végpont, amely ezt a szolgáltatást használja, már nem használható.

Követelmények

Jelentős változások

  • A modellkiszolgálóban a végpontra irányuló kérés formátuma és a végpont válasza kissé eltér az örökölt MLflow modellkiszolgálótól. Az új formátumprotokoll részleteiért tekintse meg a modellvégpont pontozását.
  • A Modellkiszolgálóban a végpont URL tartalmazza a serving-endpoints-t ahelyett, hogy model-t.
  • A modellkiszolgáló teljes körű támogatást nyújt az erőforrások API-munkafolyamatokkal történő kezeléséhez.
  • A modellkiszolgálás éles üzemre kész, és az Azure Databricks SLA támogatja.

Az örökölt MLflow modellkiszolgálót használó kiszolgáló végpontok azonosítása

Az örökölt MLflow modellkiszolgálót használó modellkiszolgáló végpontok azonosítása:

  1. Navigáljon a munkaterületén található Modellek felületre.
  2. Válassza ki a munkaterületmodell beállításjegyzék-szűrőt .
  3. Válassza ki a(z) Csak az örökölt kiszolgálás engedélyezve szűrőt.

Az örökölt MLflow modellek átköltöztetése a Model Serving szolgáltatásra

Létrehozhat egy modellkiszolgáló végpontot és rugalmasan átalakíthatja a modellkiszolgáló munkafolyamatokat anélkül, hogy letiltaná a régi MLflow modellkiszolgálót.

Az alábbi lépések bemutatják, hogyan valósíthatja meg ezt a felhasználói felületen. Minden olyan modell esetében, amelyen engedélyezve van az örökölt MLflow-modell-kiszolgáló:

  1. Regisztrálja a modellt a Unity Catalogban.
  2. Lépjen a Kiszolgáló végpontok elemre a gépi tanulási munkaterület oldalsávján.
  3. Kövesse a Saját modell kiszolgálóvégpontok létrehozása című részben leírt munkafolyamatot, hogy megtudja, miként hozhat létre egy kiszolgálóvégpontot a modellel.
  4. Váltsa át az alkalmazást úgy, hogy a kiszolgáló végpont által megadott új URL-címet használja a modell lekérdezéséhez, valamint az új pontozási formátumot.
  5. A modellek átállítás után navigálhat a gépi tanulási munkaterület oldalsávján található Modellek elemre.
  6. Válassza ki azt a modellt, amelyhez le szeretné tiltani az örökölt MLflow-modell kiszolgálását.
  7. A Kiszolgálás lapon válassza a Leállításlehetőséget.
  8. Megjelenik egy üzenet, amely megerősíti. Válassza szolgáltatás leállítása lehetőséget.

Üzembe helyezett modellverziók migrálása a Modellkiszolgálóba

A Modellkiszolgáló funkció korábbi verzióiban a kiszolgálóvégpont a regisztrált modellverzió fázisa alapján lett létrehozva: Staging vagy Production. Ha át szeretné migrálni a kiszolgált modelleket ebből a felületről, replikálhatja ezt a viselkedést az új modellkiszolgálói felületen.

Ez a szakasz bemutatja, hogyan hozhat létre külön modellvégpontokat a Staging modellverziók és a Production modellverziók számára. Az alábbi lépések bemutatják, hogyan valósíthatja meg ezt az egyes kiszolgált modellekhez tartozó végpontok API-jával.

A példában a regisztrált modell neve modelA az 1-es verzióval rendelkezik a Production modell fázisában, és a 2-es verzióval rendelkezik a Staging modell fázisában.

  1. Hozzon létre két végpontot a regisztrált modellhez, egyet a modellverziókhoz Staging , egyet pedig a modellverziókhoz Production .

    Modellverziók esetén Staging :

    POST /api/2.0/serving-endpoints
  {
     "name":"modelA-Staging"
     "config":
     {
        "served_entities":
        [
           {
              "entity_name":"model-A",
              "entity_version":"2",  // Staging Model Version
              "workload_size":"Small",
              "scale_to_zero_enabled":true
           },
        ],
     },
  }

    Modellverziók esetén Production :

    POST /api/2.0/serving-endpoints
  {
     "name":"modelA-Production"
     "config":
     {
        "served_entities":
        [
           {
              "entity_name":"model-A",
              "entity_version":"1",   // Production Model Version
              "workload_size":"Small",
              "scale_to_zero_enabled":true
           },
        ],
     },
  }

  2. Ellenőrizze a végpontok állapotát.

    Átmeneti végpont esetén: GET /api/2.0/serving-endpoints/modelA-Staging

    Éles végpont esetén: GET /api/2.0/serving-endpoints/modelA-Production

  3. Miután elkészültek a végpontok, a következővel kérdezheti le a végpontot:

    Átmeneti végpont esetén: POST /serving-endpoints/modelA-Staging/invocations

    Éles végpont esetén: POST /serving-endpoints/modelA-Production/invocations

  4. Frissítse a végpontot a modellverzió-áttűnések alapján.

    Abban az esetben, amikor létrejön egy új 3. modellverzió, a 2. modellverzió áttérhet Production-ra, amíg a 3. modellverzió áttérhet Staging-re, és az 1. modellverzió Archived-re vált. Ezek a módosítások a végpontokat kiszolgáló különálló modellben az alábbiak szerint jelenhetnek meg:

    A Staging végpont esetében frissítse azt az új modellverzióra a Staging-ben.

    PUT /api/2.0/serving-endpoints/modelA-Staging/config
{
   "served_entities":
   [
      {
         "entity_name":"model-A",
         "entity_version":"3",  // New Staging model version
         "workload_size":"Small",
         "scale_to_zero_enabled":true
      },
   ],
}

    A Production végpont frissítésekor állítsa be, hogy az új modellverziót használja a Production-ben.

    PUT /api/2.0/serving-endpoints/modelA-Production/config
{
   "served_entities":
   [
      {
         "entity_name":"model-A",
         "entity_version":"2",  // New Production model version
         "workload_size":"Small",
         "scale_to_zero_enabled":true
      },
   ],
}

További erőforrások

  • Last updated on