Online végpontok monitorozása
Az Azure Machine Tanulás az Azure Monitorral való integrációt használja az online végpontok metrikáinak és naplóinak nyomon követéséhez és figyeléséhez. Megtekintheti a diagramokban szereplő metrikákat, összehasonlíthatja a végpontokat és az üzembe helyezéseket, rögzítheti az Azure Portal irányítópultjait, konfigurálhatja a riasztásokat, lekérdezéseket végezhet naplótáblákból, és leküldheti a naplókat a támogatott célokra. Az Application Elemzések használatával is elemezheti a felhasználói tárolók eseményeit.
Metrikák: A végpontszintű metrikák, például a kérések késése, a kérések percenkénti száma, az új kapcsolatok másodpercenként és a hálózati bájtok esetében lehatolással megtekintheti a részleteket az üzembe helyezés vagy az állapot szintjén. Az üzembe helyezési szintű metrikák, például a PROCESSZOR-/GPU-kihasználtság, valamint a memória- vagy lemezkihasználtság is lefúrható példányszintre. Az Azure Monitor lehetővé teszi ezeknek a metrikáknak a diagramokban való nyomon követését, valamint irányítópultok és riasztások beállítását a további elemzéshez.
Naplók: Metrikákat küldhet a Log Analytics-munkaterületre, ahol a Kusto lekérdezési szintaxisával kérdezheti le a naplókat. Metrikákat is küldhet az Azure Storage-fiókokba és/vagy az Event Hubsba további feldolgozás céljából. Emellett dedikált naplótáblákat is használhat az online végponttal kapcsolatos eseményekhez, a forgalomhoz és a konzol (tároló) naplóihoz. A Kusto-lekérdezés több tábla összetett elemzését és összekapcsolását teszi lehetővé.
Alkalmazáselemzések: A válogatott környezetek közé tartozik az Alkalmazás Elemzések integrációja, és online üzembe helyezés létrehozásakor engedélyezheti vagy letilthatja ezt az integrációt. A beépített metrikákat és naplókat az alkalmazás Elemzések küldi el, és további elemzéshez használhatja az alkalmazás Elemzések beépített funkcióit (például élő metrikákat, tranzakciókeresést, hibákat és teljesítményt).
Ebben a cikkben az alábbiakkal fog megismerkedni:
- Válassza ki a megfelelő módszert a metrikák és naplók megtekintéséhez és nyomon követéséhez
- Az online végpont metrikáinak megtekintése
- Irányítópult létrehozása a metrikákhoz
- Metrikariasztás létrehozása
- Az online végpont naplóinak megtekintése
- Metrikák és naplók nyomon követése az Alkalmazás Elemzések használatával
Előfeltételek
- Azure Machine-Tanulás online végpont üzembe helyezése.
- Legalább olvasói hozzáféréssel kell rendelkeznie a végponton.
Mérőszámok
Az Azure Portalon megtekintheti az online végpontok vagy üzemelő példányok mérőszámlapjait. Ezeknek a metrikáknak a lapjait egyszerűen elérheti az Azure Machine Tanulás Studio felhasználói felületén elérhető hivatkozásokon keresztül– különösen a végpont lapJának Részletek lapján. Ezeket a hivatkozásokat követve a végpont vagy az üzembe helyezés pontos metrikáinak lapjára léphet az Azure Portalon. Másik lehetőségként az Azure Portalon is megkeresheti a végpont vagy az üzembe helyezés metrikáinak lapját.
A metrikák lapjainak elérése a stúdióban elérhető hivatkozásokon keresztül:
Lépjen az Azure Machine Tanulás studióba.
A bal oldali navigációs sávon válassza a Végpontok lapot.
Válasszon ki egy végpontot a nevére kattintva.
Válassza a Metrikák megtekintése lehetőséget a végpont Attribútumok szakaszában a végpont metrikák lapjának megnyitásához az Azure Portalon.
Válassza a Metrikák megtekintése lehetőséget a szakaszban az egyes elérhető üzemelő példányok esetében az üzembe helyezés metrikák lapjának megnyitásához az Azure Portalon.
Metrikák elérése közvetlenül az Azure Portalról:
Jelentkezzen be az Azure Portalra.
Lépjen az online végpontra vagy az üzembehelyezési erőforrásra.
Az online végpontok és üzemelő példányok olyan Azure Resource Manager-erőforrások, amelyek a saját erőforráscsoportjukba való ugrással érhetők el. Keresse meg a Machine Tanulás online végpont és a Gép Tanulás online üzembe helyezés erőforrástípusokat.
A bal oldali oszlopban válassza a Metrikák lehetőséget.
Rendelkezésre álló metrikák
A kiválasztott erőforrástól függően a megjelenő metrikák eltérőek lesznek. A metrikák hatóköre eltérő az online végpontok és az online üzemelő példányok esetében.
Metrikák a végpont hatókörében
- Kérés késése
- Kérés késése P50 (kérés késése az 50. percentilisnél)
- Kérés késése P90 (kérés késése a 90. percentilisnél)
- Kérés késése P95 (kérés késése a 95. percentilisnél)
- Kérelem/perc
- Új kapcsolatok/másodperc
- Aktív kapcsolatok száma
- Hálózati bájtok
Felosztás az alábbi dimenziók alapján:
- Üzembe helyezés
- Állapotkód
- Állapotkódosztály
Feloszthatja például az üzembehelyezési dimenzió mentén, hogy összehasonlítsa a különböző üzembe helyezések késését egy végponton.
Sávszélesség szabályozása
A sávszélesség szabályozva lesz, ha túllépi a kvótakorlátokat a felügyelt online végpontok esetében. A korlátokról további információt az online végpontok korlátairól szóló cikkben talál. Annak megállapításához, hogy a kérelmek szabályozva vannak-e:
- A "Hálózati bájtok" metrika figyelése
- A válasz-pótkocsik a következő mezőkkel rendelkeznek:
ms-azureml-bandwidth-request-delay-msésms-azureml-bandwidth-response-delay-ms. A mezők értéke a sávszélesség szabályozásának késleltetése ezredmásodpercben. További információ: Sávszélességkorlátmal kapcsolatos problémák.
Metrikák az üzemelő példány hatókörében
- CPU-kihasználtság százalékos aránya
- Üzembehelyezési kapacitás (a kért példánytípus példányainak száma)
- Lemezhasználat
- GPU-memória kihasználtsága (csak GPU-példányokra vonatkozik)
- GPU-kihasználtság (csak GPU-példányokra vonatkozik)
- Memóriakihasználtság százalékos aránya
Felosztás az alábbi dimenzió alapján:
- Példányazonosító
Összehasonlíthatja például a processzor- és/vagy memóriakihasználtságot az online üzemelő példányok közötti különbségpéldányok között.
Irányítópultok és riasztások létrehozása
Az Azure Monitor lehetővé teszi irányítópultok és riasztások létrehozását metrikák alapján.
Irányítópultok létrehozása és lekérdezések vizualizációja
Létrehozhat egyéni irányítópultokat, és vizualizálhat metrikákat több forrásból az Azure Portalon, beleértve az online végpont metrikáit is. Az irányítópultok létrehozásáról és a lekérdezések vizualizációjáról további információt a naplóadatokat használó irányítópultok és az alkalmazásadatokat használó irányítópultok című témakörben talál.
Riasztások létrehozása
Egyéni riasztásokat is létrehozhat, hogy értesítést küldhessen az online végpont fontos állapotfrissítéseiről:
A metrikák lap jobb felső sarkában válassza az Új riasztási szabály lehetőséget.
Válasszon ki egy feltételnevet, amely megadja, hogy mikor kell aktiválni a riasztást.
Válassza a Műveletcsoportok hozzáadása műveletcsoportok> létrehozása lehetőséget, és adja meg, hogy mi történjen a riasztás aktiválásakor.
A riasztás létrehozásának befejezéséhez válassza a Riasztási szabály létrehozása lehetőséget.
További információ: Azure Monitor-riasztási szabályok létrehozása.
Naplók
Az online végpontokhoz három napló engedélyezhető:
AmlOnlineEndpointTrafficLog: Engedélyezheti a forgalmi naplókat, ha ellenőrizni szeretné a kérés adatait. Az alábbiakban néhány esetet talál:
Ha a válasz nem 200, ellenőrizze a "ResponseCodeReason" oszlop értékét a történtek megtekintéséhez. Ellenőrizze az online végpontok hibaelhárításáról szóló cikk "HTTPS-állapotkódok" című szakaszának okát is.
A modell válaszkódját és válasz okát a "ModelStatusCode" és a "ModelStatusReason" oszlopból ellenőrizheti.
Ellenőrizni szeretné a kérés időtartamát, például a teljes időtartamot, a kérés/válasz időtartamát és a hálózati szabályozás által okozott késést. A naplókból ellenőrizheti a lebontás késését.
Ha ellenőrizni szeretné, hogy hány kérelem vagy sikertelen kérés érkezett a közelmúltban. A naplókat is engedélyezheti.
AmlOnlineEndpointConsoleLog: Olyan naplókat tartalmaz, amelyeket a tárolók a konzolnak adnak ki. Az alábbiakban néhány esetet talál:
Ha a tároló nem indul el, a konzolnapló hasznos lehet a hibakereséshez.
Figyelje a tároló viselkedését, és győződjön meg arról, hogy minden kérés megfelelően van kezelve.
Kérelemazonosítók írása a konzolnaplóban. A Kérésazonosítóhoz, az AmlOnlineEndpointConsoleLoghoz és az AmlOnlineEndpointTrafficLoghoz a Log Analytics-munkaterületen csatlakozva nyomon követheti a kéréseket egy online végpont hálózati belépési pontjáról a tárolóba.
Ezt a naplót a teljesítményelemzéshez is használhatja a modell által az egyes kérések feldolgozásához szükséges idő meghatározásához.
AmlOnlineEndpointEventLog: A tároló életciklusával kapcsolatos eseményinformációkat tartalmaz. Jelenleg a következő típusú eseményekről adunk tájékoztatást:
Név Üzenet Visszalépés Sikertelen tároló újraindításának visszakapcsolása Húzta A "IMAGE_NAME>" tárolórendszerkép< már megtalálható a gépen Megölése A tároló-következtetés-kiszolgáló sikertelen élőségi mintavétele újraindul Létrehozva Tárolórendszerkép-letöltő létrehozása Létrehozva Tárolókövető kiszolgáló létrehozása Létrehozva Tárolómodell csatlakoztatása LivenessProbeFailed A Liveness-mintavétel nem sikerült: <FAILURE_CONTENT> ReadinessProbeFailed A készültségi mintavétel nem sikerült: <FAILURE_CONTENT> Első lépések A tároló lemezkép-leolvasója elindult Első lépések Elindított tárolókövetkeztetési kiszolgáló Első lépések Megkezdődött a tárolómodell csatlakoztatása Megölése Tárolókövető kiszolgáló leállítása Megölése Tárolómodell csatlakoztatásának leállítása
Naplók engedélyezése/letiltása
Fontos
A naplózás az Azure Log Analyticst használja. Ha jelenleg nincs Log Analytics-munkaterülete, létrehozhat egyet az Azure PortalOn a Log Analytics-munkaterület létrehozása című lépésekkel.
Az Azure Portalon lépjen a végpontot tartalmazó erőforráscsoportra, majd válassza ki a végpontot.
A lap bal oldalán található Figyelés szakaszban válassza a Diagnosztikai beállítások, majd a Beállítások hozzáadása lehetőséget.
Jelölje ki az engedélyezni kívánt naplókategóriákat, válassza a Küldés a Log Analytics-munkaterületre lehetőséget, majd válassza ki a használni kívánt Log Analytics-munkaterületet. Végül adja meg a diagnosztikai beállítás nevét, és válassza a Mentés lehetőséget.
Fontos
A Log Analytics-munkaterülethez való csatlakozás engedélyezése akár egy órát is igénybe vehet. Várjon egy órát, mielőtt folytatná a következő lépéseket.
Pontozási kérelmek elküldése a végpontnak. Ennek a tevékenységnek bejegyzéseket kell létrehoznia a naplókban.
Az online végpont tulajdonságai közül vagy a Log Analytics-munkaterületen válassza a Képernyő bal oldalán található Naplók lehetőséget.
Zárja be az automatikusan megnyíló Lekérdezések párbeszédpanelt, majd kattintson duplán az AmlOnlineEndpointConsoleLog parancsra. Ha nem látja, használja a Keresés mezőt.
Válassza a Futtatás lehetőséget.
Példa a lekérdezésekre
A naplók megtekintése közben a Lekérdezések lapon talál példa lekérdezéseket. Keresse meg az Online végpontot a példalekérdezések kereséséhez.
Naplóoszlop részletei
Az alábbi táblázatok az egyes naplókban tárolt adatok részleteit tartalmazzák:
AmlOnlineEndpointTrafficLog
| Tulajdonság | Leírás |
|---|---|
| Metódus | Az ügyféltől kért metódus. |
| Elérési út | Az ügyféltől kért elérési út. |
| SubscriptionId | Az online végpont gépi tanulási előfizetés-azonosítója. |
| AzureMLWorkspaceId | Az online végpont gépi tanulási munkaterület-azonosítója. |
| AzureMLWorkspaceName | Az online végpont gépi tanulási munkaterületének neve. |
| EndpointName | Az online végpont neve. |
| DeploymentName | Az online üzembe helyezés neve. |
| Protokoll | A kérelem protokollja. |
| ResponseCode | Az ügyfélnek visszaadott végső válaszkód. |
| ResponseCodeReason | Az ügyfélnek visszaadott végső válaszkód oka. |
| ModelStatusCode | A modell válaszállapotkódja. |
| ModelStatusReason | A modell válaszállapotának oka. |
| RequestPayloadSize | Az ügyféltől kapott összes bájt. |
| ResponsePayloadSize | Az ügyfélnek visszaküldött bájtok száma. |
| Useragent | A kérelem felhasználói ügynök fejléce, beleértve a megjegyzéseket, de legfeljebb 70 karakterre csonkolt. |
| XRequestId | Az Azure Machine Tanulás által létrehozott kérésazonosító a belső nyomkövetéshez. |
| XMSClientRequestId | Az ügyfél által létrehozott nyomkövetési azonosító. |
| TotalDurationMs | Időtartam ezredmásodpercben a kérelem kezdési időpontjától az ügyfélnek visszaküldött utolsó válasz bájtig. Ha az ügyfél leválasztva van, az a kezdési időponttól az ügyfél leválasztási időpontjáig méri. |
| RequestDurationMs | Időtartam ezredmásodpercben a kérelem kezdési időpontjától az ügyféltől kapott kérés utolsó bájtjára. |
| ResponseDurationMs | Időtartam ezredmásodpercben a kérelem kezdési időpontjától kezdve a modellből beolvasott első válasz bájtig. |
| RequestThrottlingDelayMs | Ezredmásodperc késleltetése a kérelmek adatátvitelében a hálózati szabályozás miatt. |
| ResponseThrottlingDelayMs | Késés ezredmásodpercben a válaszadat-átvitelben a hálózati szabályozás miatt. |
AmlOnlineEndpointConsoleLog
| Tulajdonság | Leírás |
|---|---|
| TimeGenerated | A napló létrehozásának időbélyege (UTC). |
| OperationName | A naplórekordhoz társított művelet. |
| InstanceId | A naplórekordot létrehozó példány azonosítója. |
| DeploymentName | A naplórekordhoz társított üzembe helyezés neve. |
| ContainerName | Annak a tárolónak a neve, amelyben a napló létre lett hozva. |
| Üzenet | A napló tartalma. |
AmlOnlineEndpointEventLog
| Tulajdonság | Leírás |
|---|---|
| TimeGenerated | A napló létrehozásának időbélyege (UTC). |
| OperationName | A naplórekordhoz társított művelet. |
| InstanceId | A naplórekordot létrehozó példány azonosítója. |
| DeploymentName | A naplórekordhoz társított üzembe helyezés neve. |
| Név | Az esemény neve. |
| Üzenet | Az esemény tartalma. |
Az Application Insights használata
A válogatott környezetek közé tartozik az alkalmazás Elemzések integrációja, és online üzembe helyezés létrehozásakor engedélyezheti vagy letilthatja az integrációt. A beépített metrikákat és naplókat az alkalmazás Elemzések küldi el, és további elemzéshez használhatja az alkalmazás Elemzések beépített funkcióit (például élő metrikákat, tranzakciókeresést, hibákat és teljesítményt).
További információért tekintse meg az alkalmazás Elemzések áttekintését.
A stúdióban az online végpont lapján található Figyelés lap használatával megtekintheti a felügyelt online végpont magas szintű tevékenységfigyelő gráfjait. A monitorozási lap használatához válassza az Application Insights diagnosztikai és adatgyűjtési engedélyezése lehetőséget a végpont létrehozásakor.
Kapcsolódó tartalom
- Megtudhatja, hogyan tekintheti meg az üzembe helyezett végpont költségeit.
- További információ a Metrics Explorerről.