Megosztás a következőn keresztül:

Webservice Osztály

Meghatározza a modellek webszolgáltatás-végpontként való üzembe helyezésének alapfunkcióit az Azure Machine Learningben.

A webszolgáltatás-konstruktor a megadott munkaterülethez társított webszolgáltatás-objektum felhőbeli ábrázolásának lekérésére szolgál. A lekért webszolgáltatás-objektum adott típusának megfelelő gyermekosztálypéldányt ad vissza. A Webservice osztály lehetővé teszi gépi tanulási modellek üzembe helyezését egy vagy Model objektumbólImage.

A webszolgáltatás használatával kapcsolatos további információkért lásd: Modellek üzembe helyezése az Azure Machine Learning használatával.

Inicializálja a webszolgáltatás-példányt.

A Webservice-konstruktor lekéri a megadott munkaterülethez társított webszolgáltatás-objektum felhőbeli ábrázolását. Egy gyermekosztály egy példányát adja vissza, amely megfelel a lekért webszolgáltatás-objektum adott típusának.

Konstruktor

Webservice(workspace, name)

Paraméterek

Name Description
workspace
Kötelező
Workspace

A lekérni kívánt Webservice objektumot tartalmazó munkaterület-objektum.
name
Kötelező
str

A lekérni kívánt Webservice-objektum neve.
workspace
Kötelező
Workspace

A lekérni kívánt Webservice objektumot tartalmazó munkaterület-objektum.
name
Kötelező
str

A lekérni kívánt Webservice-objektum neve.

Megjegyzések

Az alábbi minta az ajánlott üzembehelyezési mintát mutatja be, ahol először létrehoz egy konfigurációs objektumot a deploy_configuration Webservice gyermekosztályának metódusával (ebben az esetben AksWebservice), majd használja a konfigurációt az deployModel osztály metódusával.


   # Set the web service configuration (using default here)
   aks_config = AksWebservice.deploy_configuration()

   # # Enable token auth and disable (key) auth on the webservice
   # aks_config = AksWebservice.deploy_configuration(token_auth_enabled=True, auth_enabled=False)

Az alábbi minta bemutatja, hogyan kereshet meg egy meglévőt AciWebservice egy munkaterületen, és törölheti, ha létezik, hogy a név újra felhasználható legyen.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

A modellek webszolgáltatásként való üzembe helyezésének számos módja van, többek között az alábbiakkal:

  • deploy Model a munkaterületen már regisztrált modellek metódusát.

  • deploy_from_image metódust Webservice a modellből már létrehozott képekhez.

  • deploy_from_model Webservice a munkaterületen már regisztrált modellek esetében. Ez a metódus létrehoz egy képet.

  • deploy metódusát Webservice, amely regisztrál egy modellt, és létrehoz egy képet.

A webszolgáltatások használatával kapcsolatos információkért lásd:

A Változók szakasz a felhőalapú webszolgáltatás-objektum helyi ábrázolásának attribútumait sorolja fel. Ezeket a változókat írásvédettnek kell tekinteni. Az értékek módosítása nem jelenik meg a megfelelő felhőobjektumban.

Változók

Name Description
auth_enabled
bool

Azt jelzi, hogy a webszolgáltatás engedélyezve van-e.
compute_type
str

Milyen típusú számítási feladatra van üzembe helyezve a webszolgáltatás.
created_time
datetime

A webszolgáltatás létrehozásakor.
azureml.core.Webservice.description

A Webservice objektum leírása.
azureml.core.Webservice.tags

A Webservice objektum címkéinek szótára.
azureml.core.Webservice.name

A webszolgáltatás neve.
azureml.core.Webservice.properties

A webszolgáltatás kulcsérték-tulajdonságainak szótára. Ezek a tulajdonságok az üzembe helyezés után nem módosíthatók, de új kulcsértékpárok is hozzáadhatók.
created_by
str

A webszolgáltatást létrehozó felhasználó.
error
str

Ha a webszolgáltatás üzembe helyezése sikertelen volt, ez a hibaüzenetet fogja tartalmazni a sikertelenség okával kapcsolatban.
azureml.core.Webservice.state

A webszolgáltatás aktuális állapota.
updated_time
datetime

A webszolgáltatás legutóbbi frissítésének időpontja.
azureml.core.Webservice.workspace

A webszolgáltatást tartalmazó Azure Machine Learning-munkaterület.
token_auth_enabled
bool

Azt jelzi, hogy a webszolgáltatás rendelkezik-e engedélyezett jogkivonat-hitelesítéssel.

Metódusok

check_for_existing_webservice

Ellenőrizze, hogy létezik-e webszolgáltatás.
delete

Törölje ezt a webszolgáltatást a társított munkaterületről.

Ez a függvényhívás nem aszinkron. A hívás addig fut, amíg az erőforrás nem törlődik. A WebserviceException akkor merül fel, ha probléma merül fel a modell törlésekor a Modellkezelési szolgáltatásból.
deploy

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény regisztrálja a megadott modellfájlokat, és létrehoz egy képet a folyamatban, amelyek mindegyike a megadotthoz van társítva Workspace. Ezt a függvényt akkor használja, ha olyan modellkönyvtárral rendelkezik, amelyet korábban még nem regisztrált.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.
deploy_from_image

Webszolgáltatás üzembe helyezése objektumból Image .

Ezt a függvényt akkor használja, ha már létrehozott egy képobjektumot egy modellhez.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.
deploy_from_model

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény hasonló a modellhez deploy, de nem regisztrálja a modelleket. Ezt a függvényt akkor használja, ha már regisztrált modellobjektumokkal rendelkezik. Ez létrehoz egy lemezképet a folyamatban, amely a megadott munkaterülethez van társítva.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.
deploy_local_from_model

Egy teszteléshez készült build és üzembe helyezés LocalWebservice .

A Docker telepítését és konfigurálását igényli.
deserialize

Modellkezelési szolgáltatás válasz JSON-objektumának átalakítása webszolgáltatás-objektummá.

Sikertelen lesz, ha a megadott munkaterület nem az a munkaterület, amely alatt a webszolgáltatás regisztrálva van.
get_keys

Kérje le a webszolgáltatás hitelesítési kulcsait.
get_logs

A webszolgáltatás naplóinak lekérése.
get_token

Kérje le a webszolgáltatás hitelesítési jogkivonatát, amely az aktuális felhasználóra terjed ki.
list

Listázhatja a megfelelő Workspaceszolgáltatáshoz társított webszolgáltatásokat.

A visszaadott eredmények paraméterekkel szűrhetők.
regen_key

Hozza létre újra a webszolgáltatás egyik kulcsát, akár az "Elsődleges" vagy a "Másodlagos" kulcsot.

Ha nincs WebserviceException megadva az Akey, vagy nem elsődleges vagy másodlagos.
run

Hívja meg ezt a webszolgáltatást a megadott bemenettel.

A gyermekosztályok Webserviceáltal implementált absztrakt metódus.
serialize

Konvertálja ezt a webszolgáltatás-objektumot JSON szerializált szótárlá.

Webszolgáltatás-objektummá deserialize alakítható vissza.
update

Frissítse a webszolgáltatás paramétereit.

Ez egy absztrakt módszer, amelyet a gyermekosztályok implementálnak Webservice. A frissítés lehetséges paraméterei a Webservice gyermektípusától függően változhatnak. Az Azure Container Instances webszolgáltatásai esetében például tekintse meg update a konkrét paramétereket.
update_deployment_state

Frissítse a memóriában lévő objektum aktuális állapotát.

Végezze el az objektum tulajdonságainak helyszíni frissítését a megfelelő felhőobjektum aktuális állapota alapján. Elsősorban a létrehozási állapot manuális lekérdezéséhez hasznos.
wait_for_deployment

Automatikus lekérdezés a futó webszolgáltatás-üzembe helyezésről.

Várja meg, amíg a webszolgáltatás elér egy terminálállapotot. WebserviceException Ha nem sikeres terminálállapotba kerül, vagy túllépi a megadott időtúllépést.

check_for_existing_webservice

Ellenőrizze, hogy létezik-e webszolgáltatás.

static check_for_existing_webservice(workspace, name, overwrite=False, request_func=None, check_func=None)

Paraméterek

Name Description
workspace
Kötelező
Workspace
name
Kötelező
str
overwrite
bool
Alapértelmezett érték: False
request_func
<xref:function>

függvény a szolgáltatás kéréséhez annak ellenőrzéséhez, hogy létezik-e szolgáltatásnév

Alapértelmezett érték: None
check_func
<xref:function>

függvény a request_func választartalmának ellenőrzéséhez

Alapértelmezett érték: None

Kivételek

Típus Description
WebserviceException

delete

Törölje ezt a webszolgáltatást a társított munkaterületről.

Ez a függvényhívás nem aszinkron. A hívás addig fut, amíg az erőforrás nem törlődik. A WebserviceException akkor merül fel, ha probléma merül fel a modell törlésekor a Modellkezelési szolgáltatásból.

delete()

Kivételek

Típus Description
WebserviceException

deploy

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény regisztrálja a megadott modellfájlokat, és létrehoz egy képet a folyamatban, amelyek mindegyike a megadotthoz van társítva Workspace. Ezt a függvényt akkor használja, ha olyan modellkönyvtárral rendelkezik, amelyet korábban még nem regisztrált.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

static deploy(workspace, name, model_paths, image_config, deployment_config=None, deployment_target=None, overwrite=False)

Paraméterek

Name Description
workspace
Kötelező
Workspace

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.
name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A munkaterületen egyedinek kell lennie, csak kisbetűkből, számokból vagy kötőjelekből kell állnia, betűvel kezdődik, és 3 és 32 karakter közötti hosszúságúnak kell lennie.
model_paths
Kötelező
list[str]

A modellfájlok vagy mappák lemezen lévő elérési útjainak listája. Üres lista is lehet.
image_config
Kötelező
ImageConfig

A szükséges képtulajdonságok meghatározására használt ImageConfig-objektum.
deployment_config
WebserviceDeploymentConfiguration

A webszolgáltatás konfigurálásához használt WebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ a kívánt cél alapján.

Alapértelmezett érték: None
deployment_target
ComputeTarget

A ComputeTarget a webszolgáltatás üzembe helyezéséhez. Mivel az Azure Container Instances nincs társítva ComputeTarget, hagyja ezt a paramétert Nincs értékként az Azure Container Instancesben való üzembe helyezéshez.

Alapértelmezett érték: None
overwrite
bool

Írja felül a meglévő szolgáltatást, ha a névvel rendelkező szolgáltatás már létezik.

Alapértelmezett érték: False

Válaszok

Típus Description
Webservice

Az üzembe helyezett webszolgáltatásnak megfelelő webszolgáltatás-objektum.

Kivételek

Típus Description
WebserviceException

deploy_from_image

Webszolgáltatás üzembe helyezése objektumból Image .

Ezt a függvényt akkor használja, ha már létrehozott egy képobjektumot egy modellhez.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

static deploy_from_image(workspace, name, image, deployment_config=None, deployment_target=None, overwrite=False)

Paraméterek

Name Description
workspace
Kötelező
Workspace

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.
name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A munkaterületen egyedinek kell lennie, csak kisbetűkből, számokból vagy kötőjelekből kell állnia, betűvel kezdődik, és 3 és 32 karakter közötti hosszúságúnak kell lennie.
image
Kötelező
Image

Üzembe Image helyezendő objektum.
deployment_config
WebserviceDeploymentConfiguration

A webszolgáltatás konfigurálásához használt WebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ a kívánt cél alapján.

Alapértelmezett érték: None
deployment_target
ComputeTarget

A ComputeTarget a webszolgáltatás üzembe helyezéséhez. Mivel az Azure Container Instances nincs társítva ComputeTarget, hagyja ezt a paramétert Nincs értékként az Azure Container Instancesben való üzembe helyezéshez.

Alapértelmezett érték: None
overwrite
bool

Írja felül a meglévő szolgáltatást, ha a névvel rendelkező szolgáltatás már létezik.

Alapértelmezett érték: False

Válaszok

Típus Description
Webservice

Az üzembe helyezett webszolgáltatásnak megfelelő webszolgáltatás-objektum.

Kivételek

Típus Description
WebserviceException

deploy_from_model

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény hasonló a modellhez deploy, de nem regisztrálja a modelleket. Ezt a függvényt akkor használja, ha már regisztrált modellobjektumokkal rendelkezik. Ez létrehoz egy lemezképet a folyamatban, amely a megadott munkaterülethez van társítva.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

static deploy_from_model(workspace, name, models, image_config, deployment_config=None, deployment_target=None, overwrite=False)

Paraméterek

Name Description
workspace
Kötelező
Workspace

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.
name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A munkaterületen egyedinek kell lennie, csak kisbetűkből, számokból vagy kötőjelekből kell állnia, betűvel kezdődik, és 3 és 32 karakter közötti hosszúságúnak kell lennie.
models
Kötelező
list[Model]

Modellobjektumok listája. Üres lista is lehet.
image_config
Kötelező
ImageConfig

A szükséges képtulajdonságok meghatározására használt ImageConfig-objektum.
deployment_config
WebserviceDeploymentConfiguration

A webszolgáltatás konfigurálásához használt WebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ a kívánt cél alapján.

Alapértelmezett érték: None
deployment_target
ComputeTarget

A ComputeTarget a webszolgáltatás üzembe helyezéséhez. Mivel az ACI nincs társítva ComputeTarget, hagyja ezt a paramétert Nincs értékként az ACI-ben való üzembe helyezéshez.

Alapértelmezett érték: None
overwrite
bool

Írja felül a meglévő szolgáltatást, ha a névvel rendelkező szolgáltatás már létezik.

Alapértelmezett érték: False

Válaszok

Típus Description
Webservice

Az üzembe helyezett webszolgáltatásnak megfelelő webszolgáltatás-objektum.

Kivételek

Típus Description
WebserviceException

deploy_local_from_model

Egy teszteléshez készült build és üzembe helyezés LocalWebservice .

A Docker telepítését és konfigurálását igényli.

static deploy_local_from_model(workspace, name, models, image_config, deployment_config=None, wait=False)

Paraméterek

Name Description
workspace
Kötelező
Workspace

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.
name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A helyi gépen egyedinek kell lennie.
models
Kötelező
list[Model]

Modellobjektumok listája. Üres lista is lehet.
image_config
Kötelező
ImageConfig

A szükséges szolgáltatásrendszerkép-tulajdonságok meghatározására használt ImageConfig objektum.
deployment_config
LocalWebserviceDeploymentConfiguration

A webszolgáltatás konfigurálásához használt LocalWebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ.

Alapértelmezett érték: None
wait
bool

Várjon-e, amíg a LocalWebservice Docker-tárolója kifogástalan állapotúnak minősül. Kivételt jelez, ha a tároló összeomlik. Az alapértelmezett érték Hamis.

Alapértelmezett érték: False

Válaszok

Típus Description
LocalWebservice

Kivételek

Típus Description
WebserviceException

deserialize

Modellkezelési szolgáltatás válasz JSON-objektumának átalakítása webszolgáltatás-objektummá.

Sikertelen lesz, ha a megadott munkaterület nem az a munkaterület, amely alatt a webszolgáltatás regisztrálva van.

deserialize(workspace, webservice_payload)

Paraméterek

Name Description
cls
Kötelező

Azt jelzi, hogy ez egy osztálymetódus.
workspace
Kötelező
Workspace

A webszolgáltatás által regisztrált munkaterület-objektum.
webservice_payload
Kötelező
dict

Webszolgáltatás-objektummá alakítandó JSON-objektum.

Válaszok

Típus Description
Webservice

A megadott JSON-objektum webszolgáltatás-ábrázolása.

get_keys

Kérje le a webszolgáltatás hitelesítési kulcsait.

get_keys()

Válaszok

Típus Description
(str, str)

A webszolgáltatás hitelesítési kulcsai.

Kivételek

Típus Description
WebserviceException

get_logs

A webszolgáltatás naplóinak lekérése.

get_logs(num_lines=5000, init=False)

Paraméterek

Name Description
num_lines
int

A beolvasandó naplósorok maximális száma.

Alapértelmezett érték: 5000
init
bool

Az Init-tároló naplóinak lekérése

Alapértelmezett érték: False

Válaszok

Típus Description
str

A webszolgáltatás naplói.

Kivételek

Típus Description
WebserviceException

get_token

Kérje le a webszolgáltatás hitelesítési jogkivonatát, amely az aktuális felhasználóra terjed ki.

get_token()

Válaszok

Típus Description
str, datetime

A webszolgáltatás hitelesítési jogkivonata, és azt, hogy mikor kell frissíteni.

Kivételek

Típus Description
WebserviceException

list

Listázhatja a megfelelő Workspaceszolgáltatáshoz társított webszolgáltatásokat.

A visszaadott eredmények paraméterekkel szűrhetők.

static list(workspace, compute_type=None, image_name=None, image_id=None, model_name=None, model_id=None, tags=None, properties=None, image_digest=None)

Paraméterek

Name Description
workspace
Kötelező
Workspace

A Munkaterület objektum, amelyben listázhatja a webszolgáltatásokat.
compute_type
str

Szűrés csak bizonyos webszolgáltatás-típusok listázásához. A beállítások a következők: "ACI", "AKS".

Alapértelmezett érték: None
image_name
str

Szűrőlista, hogy csak az adott rendszerkép nevével üzembe helyezett webszolgáltatások szerepeljenek.

Alapértelmezett érték: None
image_id
str

Szűrje a listát, hogy csak az adott rendszerkép-azonosítóval üzembe helyezett webszolgáltatások szerepeljenek.

Alapértelmezett érték: None
model_name
str

Szűrési lista, amely csak az adott modellnévvel üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None
model_id
str

Szűrési lista, amely csak az adott modellazonosítóval üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None
tags
list

Szűrjön a megadott lista alapján, "kulcs" vagy "[kulcs, érték]" szerint. Pl. "key", "key2", "key2 value"]

Alapértelmezett érték: None
properties
list

Szűrjön a megadott lista alapján, "kulcs" vagy "[kulcs, érték]" szerint. Pl. "key", "key2", "key2 value"]

Alapértelmezett érték: None
image_digest
str

Szűrési lista, hogy csak az adott rendszerkép-kivonattal üzembe helyezett webszolgáltatások szerepeljenek.

Alapértelmezett érték: None

Válaszok

Típus Description
list[Webservice]

A webszolgáltatások szűrt listája a megadott munkaterületen.

Kivételek

Típus Description
WebserviceException

regen_key

Hozza létre újra a webszolgáltatás egyik kulcsát, akár az "Elsődleges" vagy a "Másodlagos" kulcsot.

Ha nincs WebserviceException megadva az Akey, vagy nem elsődleges vagy másodlagos.

regen_key(key, set_key=None)

Paraméterek

Name Description
key
Kötelező
str

Az újragenerálandó kulcs. A beállítások az "Elsődleges" vagy a "Másodlagos".
set_key
str

Felhasználó által megadott érték, amely lehetővé teszi a kulcs értékének manuális meghatározását

Alapértelmezett érték: None

Kivételek

Típus Description
WebserviceException

run

Hívja meg ezt a webszolgáltatást a megadott bemenettel.

A gyermekosztályok Webserviceáltal implementált absztrakt metódus.

abstract run(input)

Paraméterek

Name Description
input
Kötelező
<xref:varies>

A webszolgáltatás meghívásához használandó bemeneti adatok. Ez az adat, amelyet a gépi tanulási modell bemenetként vár az előrejelzések futtatásához.

Válaszok

Típus Description
dict

A webszolgáltatás meghívásának eredménye. Ez a gépi tanulási modellből futtatott előrejelzéseket ad vissza.

Kivételek

Típus Description
WebserviceException

serialize

Konvertálja ezt a webszolgáltatás-objektumot JSON szerializált szótárlá.

Webszolgáltatás-objektummá deserialize alakítható vissza.

serialize()

Válaszok

Típus Description
dict

A webszolgáltatás JSON-ábrázolása.

update

Frissítse a webszolgáltatás paramétereit.

Ez egy absztrakt módszer, amelyet a gyermekosztályok implementálnak Webservice. A frissítés lehetséges paraméterei a Webservice gyermektípusától függően változhatnak. Az Azure Container Instances webszolgáltatásai esetében például tekintse meg update a konkrét paramétereket.

abstract update(*args)

Paraméterek

Name Description
args
Kötelező
<xref:varies>

Frissítendő értékek.

Kivételek

Típus Description
WebserviceException

update_deployment_state

Frissítse a memóriában lévő objektum aktuális állapotát.

Végezze el az objektum tulajdonságainak helyszíni frissítését a megfelelő felhőobjektum aktuális állapota alapján. Elsősorban a létrehozási állapot manuális lekérdezéséhez hasznos.

update_deployment_state()

wait_for_deployment

Automatikus lekérdezés a futó webszolgáltatás-üzembe helyezésről.

Várja meg, amíg a webszolgáltatás elér egy terminálállapotot. WebserviceException Ha nem sikeres terminálállapotba kerül, vagy túllépi a megadott időtúllépést.

wait_for_deployment(show_output=False, timeout_sec=None)

Paraméterek

Name Description
show_output
bool

Azt jelzi, hogy részletesebb kimenetet szeretne-e nyomtatni.

Alapértelmezett érték: False
timeout_sec
float

Kivételt képez, ha az üzembe helyezés túllépi a megadott időtúllépést.

Alapértelmezett érték: None

Kivételek

Típus Description
WebserviceException