Oktatóanyag: Tervező – gépi tanulási modell üzembe helyezése

A tervezővel gépi tanulási modellt helyezhet üzembe az autók árának előrejelzéséhez. Ez az oktatóanyag egy kétrészes sorozat második része.

Megjegyzés

Tervező kétféle összetevőt támogat, a klasszikus előre összeállított összetevőket (v1) és az egyéni összetevőket (v2). Ez a két összetevőtípus NEM kompatibilis.

A klasszikus előre összeállított összetevők előre összeállított összetevőket biztosítanak, főként adatfeldolgozási és hagyományos gépi tanulási feladatokhoz, például regresszióhoz és besoroláshoz. Ez az összetevőtípus továbbra is támogatott marad, de nem lesznek új összetevők hozzáadva.

Az egyéni összetevők lehetővé teszik a saját kód összetevőként való körbefuttatását. Támogatja az összetevők munkaterületek közötti megosztását és a közvetlen létrehozást a Studio, a CLI v2 és az SDK v2-felületek között.

Új projektek esetén javasoljuk, hogy egyéni összetevőt használjon, amely kompatibilis az AzureML V2-vel, és folyamatosan új frissítéseket fog kapni.

Ez a cikk a klasszikus előre összeállított összetevőkre vonatkozik, és nem kompatibilis a CLI v2-vel és az SDK v2-vel.

Az oktatóanyag első részében betanított egy lineáris regressziós modellt az autóárakra. A második részben üzembe helyezi a modellt, hogy mások is használhassa. Az oktatóanyag során az alábbi lépéseket fogja végrehajtani:

  • Valós idejű következtetési folyamat létrehozása.
  • Hozzon létre egy következtetési fürtöt.
  • A valós idejű végpont üzembe helyezése.
  • Tesztelje a valós idejű végpontot.

Előfeltételek

Az oktatóanyag első részében megtudhatja , hogyan taníthat be és szerezhet be egy gépi tanulási modellt a tervezőben.

Fontos

Ha nem látja a dokumentumban említett grafikus elemeket, például a studio vagy a tervező gombjait, előfordulhat, hogy nem rendelkezik a megfelelő szintű engedélyekkel a munkaterülethez. Forduljon az Azure-előfizetés rendszergazdájához, és ellenőrizze, hogy a megfelelő hozzáférési szintet kapta-e. További információk: Felhasználók és szerepkörök kezelése.

Valós idejű következtetési folyamat létrehozása

A folyamat üzembe helyezéséhez először valós idejű következtetési folyamattá kell konvertálnia a betanítási folyamatot. Ez az eljárás eltávolítja a betanítási összetevőket, és webszolgáltatási be- és kimeneteket vesz fel a kérések kezelésére.

Megjegyzés

A következtetési folyamat csak olyan betanítási folyamatokat támogat, amelyek csak a tervező beépített összetevőit tartalmazzák, és olyan összetevővel kell rendelkezniük, mint a Betanított modell betanítása , amely a betanított modellt adja ki.

Valós idejű következtetési folyamat létrehozása

  1. A folyamatfeladat részletei oldalon, a folyamatvászon felett válassza a Következtetési folyamat>létrehozása Valós idejű következtetési folyamat lehetőséget.

    A következtetési folyamat létrehozásának képernyőképe a folyamatfeladat részleteinek oldalán.

    Az új folyamat így fog kinézni:

    Képernyőkép a folyamat várható konfigurációjáról az üzembe helyezés előkészítése után.

    Ha a Következtetési folyamat létrehozása lehetőséget választja, számos dolog történik:

    • A betanított modell adathalmaz-összetevőként van tárolva az összetevőpalettán. A Saját adathalmazok területen található.
    • Az olyan betanítási összetevők, mint a Modell betanítása és az Adatok felosztása el lesznek távolítva.
    • A mentett betanított modell visszakerül a folyamatba.
    • A rendszer hozzáadja a webszolgáltatás bemeneti és webszolgáltatás-kimeneti összetevőit. Ezek az összetevők azt mutatják, hogy a felhasználói adatok hol lépnek be a folyamatba, és hol lesznek visszaadva az adatok.

    Megjegyzés

    Alapértelmezés szerint a webszolgáltatás bemenete ugyanazt az adatsémát várja, mint az összetevő kimeneti adatai, amelyek ugyanahhoz az alsóbb rétegbeli porthoz csatlakoznak, mint az. Ebben a mintában a webszolgáltatás bemeneti és autóár-adatai (Nyers) ugyanahhoz az alsóbb rétegbeli összetevőhöz csatlakoznak, ezért a Web Service Input ugyanazt az adatsémát várja el, mint az Autóáradatok (Nyers) és a célváltozó oszlop price a sémában. Általában azonban az adatok pontszámakor nem fogja tudni a célváltozó értékeit. Ilyen esetben eltávolíthatja a célváltozó oszlopot a következtetési folyamatban az Adathalmaz oszlopainak kiválasztása összetevővel. Győződjön meg arról, hogy a célváltozó oszlopot eltávolító Adathalmaz oszlopainak kiválasztása kimenete ugyanahhoz a porthoz csatlakozik, mint a webszolgáltatás bemeneti összetevőjének kimenete.

  2. Válassza a Küldés lehetőséget, és használja ugyanazt a számítási célt és kísérletet, amelyet az első részben használt.

    Ha ez az első feladat, a folyamat futása akár 20 percet is igénybe vehet. Az alapértelmezett számítási beállítások minimális csomópontmérete 0, ami azt jelenti, hogy a tervezőnek üresjárat után erőforrásokat kell lefoglalnia. Az ismétlődő folyamatfeladatok kevesebb időt vesznek igénybe, mivel a számítási erőforrások már ki vannak foglalva. Emellett a tervező gyorsítótárazott eredményeket használ az egyes összetevőkhöz a hatékonyság további javítása érdekében.

  3. Nyissa meg a valós idejű következtetési folyamat feladatának részleteit a bal oldali panel Feladat részletei hivatkozásának kiválasztásával.

  4. A feladat részletei lapon válassza az Üzembe helyezés lehetőséget.

    Képernyőkép az üzembe helyezésről a feladat részleteit tartalmazó lapon.

Következtetési fürt létrehozása

A megjelenő párbeszédpanelen bármelyik meglévő Azure Kubernetes Service (AKS-) fürt közül választhat a modell üzembe helyezéséhez. Ha nincs AKS-fürtje, az alábbi lépésekkel hozhat létre egyet.

  1. Válassza a Számítás lehetőséget a megjelenő párbeszédpanelen a Számítás lap megnyitásához.

  2. A navigációs menüszalagon válassza a Következtetésfürtök>+ Új lehetőséget.

    Képernyőkép az új következtetési fürt paneljéről.

  3. A következtetési fürt panelen konfiguráljon egy új Kubernetes-szolgáltatást.

  4. Adja meg az aks-compute nevet a Számítási névhez.

  5. Válasszon ki egy közeli régiót, amely elérhető a Régió számára.

  6. Válassza a Létrehozás lehetőséget.

    Megjegyzés

    Az új AKS-szolgáltatás létrehozása körülbelül 15 percet vesz igénybe. A kiépítési állapotot a Következtetésfürtök lapon ellenőrizheti.

A valós idejű végpont üzembe helyezése

Miután az AKS-szolgáltatás befejezte a kiépítést, térjen vissza a valós idejű következtetési folyamathoz az üzembe helyezés befejezéséhez.

  1. Válassza az Üzembe helyezés lehetőséget a vászon fölött.

  2. Válassza az Új valós idejű végpont üzembe helyezése lehetőséget.

  3. Válassza ki a létrehozott AKS-fürtöt.

    Képernyőkép egy új valós idejű végpont beállításáról.

    A valós idejű végpont Speciális beállítását is módosíthatja.

    Speciális beállítás Leírás
    Az Application Insights diagnosztikájának és adatgyűjtésének engedélyezése Engedélyezi-e, hogy Azure-alkalmazás Insights adatokat gyűjtsön az üzembe helyezett végpontokról.
    Alapértelmezés szerint: hamis.
    Pontozási időtúllépés Időtúllépés ezredmásodpercben a webszolgáltatásba irányuló pontozási hívások kényszerítéséhez.
    Alapértelmezés szerint: 60000.
    Automatikus skálázás engedélyezve Engedélyezi-e az automatikus skálázást a webszolgáltatáshoz.
    Alapértelmezés szerint igaz.
    Minimális replikák A webszolgáltatás automatikus skálázásához használandó tárolók minimális száma.
    Alapértelmezés szerint: 1.
    Replikák maximális mérete A webszolgáltatás automatikus skálázásához használandó tárolók maximális száma.
    Alapértelmezés szerint: 10.
    Cél kihasználtsága A cél kihasználtsága (a 100-ból százalékban), amelyet az automatikus skálázónak meg kell kísérelnie fenntartani ehhez a webszolgáltatáshoz.
    Alapértelmezés szerint: 70.
    Frissítési időszak Milyen gyakran (másodpercben) próbálja meg az automatikus skálázási eszköz skálázni ezt a webszolgáltatást.
    Alapértelmezés szerint: 1.
    CPU-tartalékkapacitás A webszolgáltatáshoz lefoglalandó processzormagok száma.
    Alapértelmezés szerint: 0.1.
    Memóriafoglalási kapacitás A webszolgáltatás számára lefoglalandó memória mennyisége (GB-ban).
    Alapértelmezés szerint: 0,5.
  4. Válassza az Üzembe helyezés lehetőséget.

    Az üzembe helyezés befejezése után megjelenik egy sikeres értesítés az értesítési központból. Eltarthat néhány percig.

    Képernyőkép az üzembe helyezési értesítésről.

Tipp

Az Azure Container Instance (ACI) szolgáltatásban is üzembe helyezhet, ha az Azure Container Instance for Compute (Azure Container Instance for Compute type) lehetőséget választja a valós idejű végpont beállítási mezőjében. Az Azure Container Instance teszteléshez vagy fejlesztéshez használható. Az ACI-t olyan alacsony skálázású PROCESSZORalapú számítási feladatokhoz használhatja, amelyek 48 GB-nál kevesebb RAM-ot igényelnek.

A valós idejű végpont tesztelése

Az üzembe helyezés befejezése után megtekintheti a valós idejű végpontot a Végpontok lapon.

  1. A Végpontok lapon válassza ki az üzembe helyezett végpontot.

    A Részletek lapon további információkat tekinthet meg, például a REST URI-t, a Swagger-definíciót, az állapotot és a címkéket.

    A Felhasználás lapon megtalálhatja a mintahasználati kódot, a biztonsági kulcsokat és a hitelesítési módszereket.

    Az Üzembehelyezési naplók lapon megtalálhatja a valós idejű végpont részletes üzembehelyezési naplóit.

  2. A végpont teszteléséhez lépjen a Teszt lapra. Itt megadhatja a tesztadatokat, és kiválaszthatja a Végpont kimenetének tesztelése lehetőséget.

A valós idejű végpont frissítése

Az online végpontot a tervezőben betanított új modellel frissítheti. Az online végpont részleteinek oldalán keresse meg a betanítási folyamat előző feladatát és a következtetési folyamat feladatát.

  1. A betanítási folyamat vázlatát közvetlenül megtalálhatja és módosíthatja a tervező kezdőlapjáról.

    Vagy megnyithatja a betanítási folyamat feladat hivatkozását, majd klónozhatja egy új folyamatvázlatba a szerkesztés folytatásához.

    Képernyőkép a betanítási feladat hivatkozásról a végpont részleteinek oldalán.

  2. A módosított betanítási folyamat elküldése után nyissa meg a feladat részleteit tartalmazó oldalt.

  3. Amikor a feladat befejeződött, kattintson a jobb gombbal a Modell betanítása elemre, és válassza az Adatok regisztrálása lehetőséget.

    A betanított modell adathalmazként való regisztrálását bemutató képernyőkép.

    Adja meg a bemeneti nevet, és válassza a Fájltípus lehetőséget.

    Képernyőkép az adategységként való regisztrációról, amelyen az új adategység van kiválasztva.

  4. Az adathalmaz sikeres regisztrálása után nyissa meg a következtetési folyamat piszkozatát, vagy klónozza az előző következtetési folyamat feladatát egy új piszkozatba. A következtetési folyamat piszkozatában cserélje le a modell pontozása összetevőhöz csatlakoztatott MD-XXXX csomópontként megjelenített előző betanított modellt az újonnan regisztrált adatkészletre.

    Képernyőkép a következtetési folyamat módosításáról.

  5. Ha frissítenie kell a betanítási folyamat adatelőfeldolgozási részét, és szeretné azt a következtetési folyamatba frissíteni, a feldolgozás hasonló a fenti lépésekhez.

    Csak regisztrálnia kell az átalakítási összetevő átalakítási kimenetét adathalmazként.

    Ezután manuálisan cserélje le a TD-összetevő következtetési folyamatát a regisztrált adatkészletre.

    Képernyőkép az átalakítási összetevő cseréjéről.

  6. Miután módosította a következtetési folyamatot az újonnan betanított modellel vagy átalakítással, küldje el. A feladat befejezése után helyezze üzembe a korábban üzembe helyezett meglévő online végponton.

    Képernyőkép a meglévő valós idejű végpont cseréjéről.

Korlátozások

  • Az adattár-hozzáférés korlátozása miatt, ha a következtetési folyamat adatimportálási vagy adatexportálási összetevőt tartalmaz, a rendszer automatikusan eltávolítja őket a valós idejű végponton való üzembe helyezéskor.

  • Ha adathalmazai vannak a valós idejű következtetési folyamatban, és valós idejű végponton szeretné üzembe helyezni, ez a folyamat jelenleg csak a Blob-adattárból regisztrált adathalmazokat támogatja. Ha más típusú adattárolókból származó adathalmazokat szeretne használni, az Oszlop kiválasztása paranccsal csatlakozhat a kezdeti adathalmazhoz az összes oszlop kiválasztásának beállításával, regisztrálhatja az Oszlop kiválasztása fájladatkészletként parancs kimeneteit, majd lecserélheti a valós idejű következtetési folyamatban lévő kezdeti adathalmazt ezzel az újonnan regisztrált adatkészlettel.

  • Ha a következtetési gráf tartalmazza az "Adatok manuális megadása" összetevőt, amely nincs ugyanahhoz a porthoz csatlakoztatva, mint a "Webszolgáltatás bemenete" összetevő, az "Adatok manuális megadása" összetevő nem lesz végrehajtva a HTTP-hívás feldolgozása során. Megkerülő megoldásként regisztrálja az "Adatok manuális megadása" összetevő kimeneteit adathalmazként, majd a következtetési folyamat piszkozatában cserélje le az "Adatok manuális megadása" összetevőt a regisztrált adatkészletre.

    Képernyőkép az adatok manuális bevitelét tartalmazó következtetési folyamat módosításáról.

Az erőforrások eltávolítása

Fontos

A létrehozott erőforrásokat felhasználhatja más Azure Machine Learning-oktatóanyagok és útmutatók előfeltételeiként.

Minden törlése

Ha nem tervez semmit, amit létrehozott, törölje a teljes erőforráscsoportot, hogy ne kelljen díjat fizetnie.

  1. A Azure Portal válassza az erőforráscsoportok elemet az ablak bal oldalán.

    Erőforráscsoport törlése az Azure Portalon

  2. A listában válassza ki a létrehozott erőforráscsoportot.

  3. Válassza az Erőforráscsoport törlése elemet.

Az erőforráscsoport törlése a tervezőben létrehozott összes erőforrást is törli.

Egyes objektumok törlése

Abban a tervezőben, ahol létrehozta a kísérletet, törölje az egyes objektumokat úgy, hogy kijelöli őket, majd a Törlés gombra kattint.

Az itt létrehozott számítási cél automatikusan nulla csomópontra skálázódik , ha nincs használatban. Ez a művelet a díjak minimalizálása érdekében történik. Ha törölni szeretné a számítási célt, hajtsa végre az alábbi lépéseket:

Objektumok törlése

Az adathalmazok munkaterületről való regisztrációját az egyes adathalmazok kiválasztásával és a Regisztráció törlése lehetőség kiválasztásával szüntetheti meg.

Adathalmaz regisztrációja törlése

Adathalmaz törléséhez nyissa meg a tárfiókot a Azure Portal vagy a Azure Storage Explorer használatával, majd törölje manuálisan ezeket az eszközöket.

Következő lépések

Ebben az oktatóanyagban megismerte a gépi tanulási modellek tervezőben való létrehozásának, üzembe helyezésének és felhasználásának főbb lépéseit. A tervező használatával kapcsolatos további információkért tekintse meg az alábbi hivatkozásokat: