CLI (v2) online végpont YAML-sémája
A KÖVETKEZŐRE VONATKOZIK: Azure CLI ml-bővítmény v2 (aktuális)
A forrás JSON-séma a felügyelt online végponton https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json és a Kubernetes online végpontján https://azuremlschemas.azureedge.net/latest/kubernetesOnlineEndpoint.schema.json található. A felügyelt online végpont és a Kubernetes online végpont közötti különbségeket ebben a cikkben a tulajdonságok táblázatában ismertetjük. A cikkben szereplő minta a felügyelt online végpontra összpontosít.
Feljegyzés
A dokumentumban részletezett YAML-szintaxis az ML CLI v2 bővítmény legújabb verziójának JSON-sémáján alapul. Ez a szintaxis garantáltan csak az ML CLI v2 bővítmény legújabb verziójával működik. A régebbi bővítményverziók sémáit a következő helyen https://azuremlschemasprod.azureedge.net/találja: .
Feljegyzés
A felügyelt online végpontokhoz egy teljes körűen megadott YAML-minta érhető el referenciaként
YAML-szintaxis
Kulcs | Típus | Leírás | Megengedett értékek | Alapértelmezett érték |
---|---|---|---|---|
$schema |
húr | A YAML-séma. Ha az Azure Machine Learning VS Code-bővítményt használja a YAML-fájl létrehozásához, a fájl tetején is $schema lehetővé teszi a séma és az erőforrás-kiegészítések meghívását. |
||
name |
húr | Szükséges. A végpont neve. Az Azure-régió szintjén egyedinek kell lennie. Az elnevezési szabályok végpontkorlátok alatt vannak definiálva. |
||
description |
húr | A végpont leírása. | ||
tags |
object | A végpont címkéinek szótára. | ||
auth_mode |
húr | A végpont meghívásának hitelesítési módszere (adatsík-művelet). Kulcsalapú hitelesítéshez használható key . Azure Machine Learning-jogkivonat-alapú hitelesítéshez használható aml_token . Microsoft Entra-jogkivonatalapú hitelesítéshez használható aad_token . |
key , , aml_token aad_token |
key |
compute |
húr | A végponttelepítések futtatásához szükséges számítási cél neve. Ez a mező csak az Azure Arc-kompatibilis Kubernetes-fürtök végponttelepítéseihez használható (a mezőben megadott számítási célnak rendelkeznie type: kubernetes kell). Ne adja meg ezt a mezőt, ha felügyelt online következtetést végez. |
||
identity |
object | A felügyelt identitás konfigurációja az Azure-erőforrások eléréséhez a végpontok kiépítéséhez és következtetéséhez. | ||
identity.type |
húr | A felügyelt identitás típusa. Ha a típus az user_assigned , a identity.user_assigned_identities tulajdonságot is meg kell adni. |
system_assigned , user_assigned |
|
identity.user_assigned_identities |
array | A felhasználó által hozzárendelt identitások teljes erőforrásazonosítóinak listája. | ||
traffic |
object | A forgalom a különböző üzemelő példányok által kiszolgálandó kérések százalékos arányát jelenti. A kulcs-érték párok szótára, ahol a kulcsok az üzembe helyezés nevét, az értéket pedig az adott üzembe helyezés felé történő forgalom százalékos arányát jelölik. Ez azt jelenti például, blue: 90 green: 10 hogy a rendszer 90%-os kéréseket küld a nevesített blue központi telepítésnek, 10%-át pedig az üzembe helyezésnek green . A teljes forgalomnak 0-nak vagy legfeljebb 100-nak kell lennie. A forgalomkonfiguráció működés közbeni megtekintéséhez tekintse meg az online végpontok biztonságos bevezetése című témakört. Megjegyzés: Ezt a mezőt nem állíthatja be az online végpont létrehozása során, mivel a végpont alatti központi telepítéseket a forgalom beállítása előtt létre kell hozni. Az online végpontok forgalmát az üzembe helyezések létrehozása az ml online-endpoint update után frissítheti, például az ml online-endpoint update --name <endpoint_name> --traffic "blue=90 green=10" . |
||
public_network_access |
húr | Ez a jelző szabályozza a felügyelt végpont láthatóságát. Amikor disabled bejövő pontozási kérések érkeznek az Azure Machine Learning-munkaterület privát végpontjával, és a végpont nem érhető el nyilvános hálózatokról. Ez a jelző csak felügyelt végpontokra alkalmazható |
enabled , disabled |
enabled |
mirror_traffic |
húr | Az üzemelő példányra tükrözendő élő forgalom százalékos aránya. A forgalom tükrözése nem módosítja az ügyfeleknek visszaadott eredményeket. A rendszer a forgalom tükrözött százalékát másolja és küldi el a megadott üzembe helyezéshez, hogy metrikákat és naplózásokat gyűjtsön anélkül, hogy hatással lenne az ügyfelekre. Például annak ellenőrzéséhez, hogy a késés elfogadható korlátokon belül van-e, és hogy nincsenek-e HTTP-hibák. Ezt egy egyetlen kulcs-érték párral rendelkező szótár jelöli, ahol a kulcs az üzembe helyezés nevét, az érték pedig az üzembe helyezés felé tükrözendő forgalom százalékos arányát jelöli. További információ: Az üzembe helyezés tesztelése tükrözött forgalommal. |
Megjegyzések
A az ml online-endpoint
parancsok az Azure Machine Learning online végpontjainak kezelésére használhatók.
Példák
A példák a GitHub-adattárban érhetők el. Az alábbiakban több is látható.
YAML: alapszintű
$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key
YAML: rendszer által hozzárendelt identitás
$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-sai-endpoint
auth_mode: key
YAML: felhasználó által hozzárendelt identitás
$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-uai-endpoint
auth_mode: key
identity:
type: user_assigned
user_assigned_identities:
- resource_id: user_identity_ARM_id_place_holder