Megosztás a következőn keresztül:


Webservice Osztály

Meghatározza a modellek webszolgáltatás-végpontként való üzembe helyezésének alapfunkcióit az Azure Machine Learningben.

A webszolgáltatás-konstruktor a megadott munkaterülethez társított webszolgáltatási objektum felhőbeli ábrázolásának lekérésére szolgál. Egy gyermekosztály egy példányát adja vissza, amely megfelel a lekért webszolgáltatás-objektum adott típusának. A Webservice osztály lehetővé teszi gépi tanulási modellek üzembe helyezését egy Model vagy Image objektumból.

A webszolgáltatással kapcsolatos további információkért lásd: Modellek üzembe helyezése az Azure Machine Learning használatával.

Inicializálja a Webservice-példányt.

A Webszolgáltatás-konstruktor lekéri a megadott munkaterülethez társított webszolgáltatás-objektum felhőbeli ábrázolását. Egy gyermekosztály egy példányát adja vissza, amely megfelel a lekért webszolgáltatás-objektum adott típusának.

Öröklődés
Webservice

Konstruktor

Webservice(workspace, name)

Paraméterek

Name Description
workspace
Kötelező

A lekérni kívánt Webservice objektumot tartalmazó munkaterület-objektum.

name
Kötelező
str

A lekérni kívánt Webservice objektum neve.

workspace
Kötelező

A lekérni kívánt Webservice objektumot tartalmazó munkaterület-objektum.

name
Kötelező
str

A lekérni kívánt Webservice objektum neve.

Megjegyzések

Az alábbi minta az ajánlott üzembehelyezési mintát mutatja be, ahol először létre kell hoznia egy konfigurációs objektumot a deploy_configuration Webservice gyermekosztályának metódusával (ebben az esetbenAksWebservice), majd a konfigurációt az Modeldeploy osztály metódusával kell használnia.


   # Set the web service configuration (using default here)
   aks_config = AksWebservice.deploy_configuration()

   # # Enable token auth and disable (key) auth on the webservice
   # aks_config = AksWebservice.deploy_configuration(token_auth_enabled=True, auth_enabled=False)

A teljes minta a következő forrásból érhető el: https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/production-deploy-to-aks/production-deploy-to-aks.ipynb

Az alábbi minta bemutatja, hogyan kereshet meg egy meglévőt AciWebservice egy munkaterületen, és törölheti, ha létezik, hogy a név újra felhasználható legyen.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

A modellek webszolgáltatásként többféleképpen is üzembe helyezhetők, többek között az alábbiakkal:

  • deploy metódusát a Model munkaterületen már regisztrált modellek esetében.

  • deploy_from_image metódust Webservice a modellből már létrehozott képekhez.

  • deploy_from_model metódust Webservice a munkaterületen már regisztrált modellek esetében. Ez a metódus létrehoz egy lemezképet.

  • deploy metódusa Webservice, amely regisztrál egy modellt, és létrehoz egy rendszerképet.

A webszolgáltatások használatával kapcsolatos információkért lásd:

A Változók szakasz a felhőalapú webszolgáltatás-objektum helyi reprezentációjának attribútumait sorolja fel. Ezeket a változókat írásvédettnek kell tekinteni. Az értékek módosítása nem jelenik meg a megfelelő felhőobjektumban.

Változók

Name Description
auth_enabled

Azt jelzi, hogy a webszolgáltatás engedélyezve van-e.

compute_type
str

Milyen típusú számítási feladatokra van üzembe helyezve a webszolgáltatás.

created_time

A webszolgáltatás létrehozásakor.

azureml.core.Webservice.description

A Webservice objektum leírása.

azureml.core.Webservice.tags

A Webservice objektum címkéinek szótára.

azureml.core.Webservice.name

A webszolgáltatás neve.

azureml.core.Webservice.properties

A webszolgáltatás kulcsérték-tulajdonságainak szótára. Ezek a tulajdonságok az üzembe helyezés után nem módosíthatók, de új kulcsértékpárok is hozzáadhatók.

created_by
str

A webszolgáltatást létrehozó felhasználó.

error
str

Ha a webszolgáltatás üzembe helyezése nem sikerült, ez a hibaüzenetet fogja tartalmazni a sikertelenség okával kapcsolatban.

azureml.core.Webservice.state

A webszolgáltatás aktuális állapota.

updated_time

A webszolgáltatás legutóbbi frissítésének időpontja.

azureml.core.Webservice.workspace

A webszolgáltatást tartalmazó Azure Machine Learning-munkaterület.

token_auth_enabled

Azt jelzi, hogy a webszolgáltatásban engedélyezve van-e a jogkivonat-hitelesítés.

Metódusok

check_for_existing_webservice

Ellenőrizze, hogy létezik-e webszolgáltatás.

delete

Törölje ezt a webszolgáltatást a társított munkaterületről.

Ez a függvényhívás nem aszinkron. A hívás az erőforrás törléséig fut. A WebserviceException akkor merül fel, ha probléma merül fel a modell a Modellkezelési szolgáltatásból való törlésekor.

deploy

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény regisztrálja a megadott modellfájlokat, és létrehoz egy rendszerképet a folyamatban, amelyek mindegyike a megadotthoz Workspacevan társítva. Ezt a függvényt akkor használja, ha olyan modellek könyvtárával rendelkezik, amelyeket korábban még nem regisztráltak.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

deploy_from_image

Webszolgáltatás üzembe helyezése objektumból Image .

Akkor használja ezt a függvényt, ha már létrehozott egy Kép objektumot egy modellhez.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

deploy_from_model

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény hasonló a függvényhez, deployde nem regisztrálja a modelleket. Ezt a függvényt akkor használja, ha már regisztrált modellobjektumokkal rendelkezik. Ezzel létrehoz egy rendszerképet a folyamatban, amely a megadott munkaterülethez van társítva.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

deploy_local_from_model

Buildelés és üzembe helyezés LocalWebservice teszteléshez.

A Docker telepítését és konfigurálását igényli.

deserialize

Modellkezelési szolgáltatás válasz JSON-objektumának átalakítása webszolgáltatás-objektummá.

Sikertelen lesz, ha a megadott munkaterület nem az a munkaterület, amely alatt a webszolgáltatás regisztrálva van.

get_keys

Kérje le a webszolgáltatás hitelesítési kulcsait.

get_logs

A webszolgáltatás naplóinak lekérése.

get_token

Kérje le a webszolgáltatás hitelesítési jogkivonatát, amely az aktuális felhasználóra terjed ki.

list

Listázhatja a megfelelő Workspacewebszolgáltatáshoz társított webszolgáltatásokat.

A visszaadott eredmények paraméterekkel szűrhetők.

regen_key

Hozza létre újra a webszolgáltatás egyik kulcsát, az "Elsődleges" vagy a "Másodlagos" kulcsot.

Az A WebserviceException akkor jön létre, ha key nincs megadva, vagy nem "Elsődleges" vagy "Másodlagos".

run

Hívja meg ezt a webszolgáltatást a megadott bemenettel.

A gyermekosztályai Webserviceáltal implementált absztrakt metódus.

serialize

Konvertálja ezt a webszolgáltatás-objektumot JSON szerializált szótárlá.

A használatával deserialize visszaalakulhat webszolgáltatás-objektummá.

update

Frissítse a webszolgáltatás paramétereit.

Ez egy absztrakt metódus, amelyet a gyermekosztályai implementálnak Webservice. A lehetséges frissítési paraméterek a webszolgáltatás gyermektípusától függően változhatnak. Például Azure Container Instances webszolgáltatások esetében tekintse meg update az adott paramétereket.

update_deployment_state

Frissítse a memóriában lévő objektum aktuális állapotát.

Végezze el az objektum tulajdonságainak helyben történő frissítését a megfelelő felhőobjektum aktuális állapota alapján. Elsősorban a létrehozási állapot manuális lekérdezéséhez hasznos.

wait_for_deployment

Automatikus lekérdezés a futó webszolgáltatás-üzembe helyezésről.

Várjon, amíg a webszolgáltatás eléri a terminálállapotot. Egy hibát ad, WebserviceException ha nem sikeres terminálállapotba kerül, vagy túllépi a megadott időtúllépést.

check_for_existing_webservice

Ellenőrizze, hogy létezik-e webszolgáltatás.

static check_for_existing_webservice(workspace, name, overwrite=False, request_func=None, check_func=None)

Paraméterek

Name Description
workspace
Kötelező
name
Kötelező
str
overwrite
Alapértelmezett érték: False
request_func
<xref:function>

függvény a szolgáltatás kéréséhez annak ellenőrzéséhez, hogy létezik-e szolgáltatásnév

Alapértelmezett érték: None
check_func
<xref:function>

függvény a request_func választartalmának ellenőrzéséhez

Alapértelmezett érték: None

Kivételek

Típus Description

delete

Törölje ezt a webszolgáltatást a társított munkaterületről.

Ez a függvényhívás nem aszinkron. A hívás az erőforrás törléséig fut. A WebserviceException akkor merül fel, ha probléma merül fel a modell a Modellkezelési szolgáltatásból való törlésekor.

delete()

Kivételek

Típus Description

deploy

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény regisztrálja a megadott modellfájlokat, és létrehoz egy rendszerképet a folyamatban, amelyek mindegyike a megadotthoz Workspacevan társítva. Ezt a függvényt akkor használja, ha olyan modellek könyvtárával rendelkezik, amelyeket korábban még nem regisztráltak.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

static deploy(workspace, name, model_paths, image_config, deployment_config=None, deployment_target=None, overwrite=False)

Paraméterek

Name Description
workspace
Kötelező

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.

name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A munkaterületnek egyedinek kell lennie, csak kisbetűkből, számokból vagy kötőjelekből kell állnia, betűvel kell kezdődnie, és 3–32 karakter hosszúságúnak kell lennie.

model_paths
Kötelező

A modellfájlok vagy mappák lemezen lévő elérési útjainak listája. Lehet egy üres lista.

image_config
Kötelező

A szükséges képtulajdonságok meghatározására használt ImageConfig objektum.

deployment_config

A webszolgáltatás konfigurálásához használt WebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ a kívánt cél alapján.

Alapértelmezett érték: None
deployment_target

A ComputeTarget a webszolgáltatás üzembe helyezéséhez. Mivel Azure Container Instances nincs társítvaComputeTarget, hagyja ezt a paramétert Nincs értéken a Azure Container Instances üzembe helyezéséhez.

Alapértelmezett érték: None
overwrite

Írja felül a meglévő szolgáltatást, ha a nevű szolgáltatás már létezik.

Alapértelmezett érték: False

Válaszok

Típus Description

Az üzembe helyezett webszolgáltatásnak megfelelő webszolgáltatási objektum.

Kivételek

Típus Description

deploy_from_image

Webszolgáltatás üzembe helyezése objektumból Image .

Akkor használja ezt a függvényt, ha már létrehozott egy Kép objektumot egy modellhez.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

static deploy_from_image(workspace, name, image, deployment_config=None, deployment_target=None, overwrite=False)

Paraméterek

Name Description
workspace
Kötelező

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.

name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A munkaterületnek egyedinek kell lennie, csak kisbetűkből, számokból vagy kötőjelekből kell állnia, betűvel kell kezdődnie, és 3–32 karakter hosszúságúnak kell lennie.

image
Kötelező

Üzembe Image helyezendő objektum.

deployment_config

A webszolgáltatás konfigurálásához használt WebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ a kívánt cél alapján.

Alapértelmezett érték: None
deployment_target

A ComputeTarget a webszolgáltatás üzembe helyezéséhez. Mivel Azure Container Instances nincs társítvaComputeTarget, hagyja ezt a paramétert Nincs értéken a Azure Container Instances üzembe helyezéséhez.

Alapértelmezett érték: None
overwrite

Írja felül a meglévő szolgáltatást, ha a nevű szolgáltatás már létezik.

Alapértelmezett érték: False

Válaszok

Típus Description

Az üzembe helyezett webszolgáltatásnak megfelelő webszolgáltatási objektum.

Kivételek

Típus Description

deploy_from_model

Webszolgáltatás üzembe helyezése nulla vagy több Model objektumból.

Ez a függvény hasonló a függvényhez, deployde nem regisztrálja a modelleket. Ezt a függvényt akkor használja, ha már regisztrált modellobjektumokkal rendelkezik. Ezzel létrehoz egy rendszerképet a folyamatban, amely a megadott munkaterülethez van társítva.

Az eredményként kapott webszolgáltatás egy valós idejű végpont, amely következtetési kérelmekhez használható. További információ: Webszolgáltatásként üzembe helyezett modell felhasználása.

static deploy_from_model(workspace, name, models, image_config, deployment_config=None, deployment_target=None, overwrite=False)

Paraméterek

Name Description
workspace
Kötelező

Egy munkaterület-objektum, amellyel társítani szeretné a webszolgáltatást.

name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A munkaterületnek egyedinek kell lennie, csak kisbetűkből, számokból vagy kötőjelekből kell állnia, betűvel kell kezdődnie, és 3–32 karakter hosszúságúnak kell lennie.

models
Kötelező

Modellobjektumok listája. Lehet egy üres lista.

image_config
Kötelező

A szükséges képtulajdonságok meghatározására használt ImageConfig objektum.

deployment_config

A webszolgáltatás konfigurálásához használt WebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ a kívánt cél alapján.

Alapértelmezett érték: None
deployment_target

A ComputeTarget a webszolgáltatás üzembe helyezéséhez. Mivel az ACI nincs társítva ComputeTarget, hagyja ezt a paramétert Nincs értéken az ACI-ben való üzembe helyezéshez.

Alapértelmezett érték: None
overwrite

Írja felül a meglévő szolgáltatást, ha a nevű szolgáltatás már létezik.

Alapértelmezett érték: False

Válaszok

Típus Description

Az üzembe helyezett webszolgáltatásnak megfelelő webszolgáltatási objektum.

Kivételek

Típus Description

deploy_local_from_model

Buildelés és üzembe helyezés LocalWebservice teszteléshez.

A Docker telepítését és konfigurálását igényli.

static deploy_local_from_model(workspace, name, models, image_config, deployment_config=None, wait=False)

Paraméterek

Name Description
workspace
Kötelező

Egy munkaterület-objektum, amellyel társítani kell a webszolgáltatást.

name
Kötelező
str

Az üzembe helyezett szolgáltatás nevét adja meg. A helyi gépen egyedinek kell lennie.

models
Kötelező

Modellobjektumok listája. Lehet egy üres lista.

image_config
Kötelező

A szükséges szolgáltatásrendszerkép-tulajdonságok meghatározására használt ImageConfig objektum.

deployment_config

A webszolgáltatás konfigurálásához használt LocalWebserviceDeploymentConfiguration. Ha nincs megadva, a rendszer egy üres konfigurációs objektumot használ.

Alapértelmezett érték: None
wait

Várjon-e, amíg a LocalWebservice Docker-tárolója kifogástalan állapotúként jelent. Kivételt jelez, ha a tároló összeomlik. Az alapértelmezett érték a Hamis.

Alapértelmezett érték: False

Válaszok

Típus Description

Kivételek

Típus Description

deserialize

Modellkezelési szolgáltatás válasz JSON-objektumának átalakítása webszolgáltatás-objektummá.

Sikertelen lesz, ha a megadott munkaterület nem az a munkaterület, amely alatt a webszolgáltatás regisztrálva van.

deserialize(workspace, webservice_payload)

Paraméterek

Name Description
cls
Kötelező

Azt jelzi, hogy ez egy osztálymetódus.

workspace
Kötelező

A webszolgáltatás által regisztrált munkaterület-objektum.

webservice_payload
Kötelező

Egy webszolgáltatás-objektummá konvertálandó JSON-objektum.

Válaszok

Típus Description

A megadott JSON-objektum webszolgáltatás-ábrázolása.

Kivételek

Típus Description

get_keys

Kérje le a webszolgáltatás hitelesítési kulcsait.

get_keys()

Válaszok

Típus Description
(str, str)

A webszolgáltatás hitelesítési kulcsai.

Kivételek

Típus Description

get_logs

A webszolgáltatás naplóinak lekérése.

get_logs(num_lines=5000, init=False)

Paraméterek

Name Description
num_lines
int

A beolvasandó naplósorok maximális száma.

Alapértelmezett érték: 5000
init

Az Init-tároló naplóinak lekérése

Alapértelmezett érték: False

Válaszok

Típus Description
str

A webszolgáltatás naplói.

Kivételek

Típus Description

get_token

Kérje le a webszolgáltatás hitelesítési jogkivonatát, amely az aktuális felhasználóra terjed ki.

get_token()

Válaszok

Típus Description

A webszolgáltatás hitelesítési jogkivonata, és azt követően, hogy mikor kell frissíteni.

Kivételek

Típus Description

list

Listázhatja a megfelelő Workspacewebszolgáltatáshoz társított webszolgáltatásokat.

A visszaadott eredmények paraméterekkel szűrhetők.

static list(workspace, compute_type=None, image_name=None, image_id=None, model_name=None, model_id=None, tags=None, properties=None, image_digest=None)

Paraméterek

Name Description
workspace
Kötelező

A webszolgáltatások listázásához használandó Workspace objektum.

compute_type
str

Szűrés csak bizonyos webszolgáltatás-típusok listázásához. A beállítások a következők: "ACI", "AKS".

Alapértelmezett érték: None
image_name
str

Szűrőlista, amely csak az adott rendszerképnévvel üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None
image_id
str

Szűrőlista, amely csak az adott rendszerkép-azonosítóval üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None
model_name
str

Szűrőlista, amely csak az adott modellnévvel üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None
model_id
str

Szűrőlista, amely csak az adott modellazonosítóval üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None
tags

Szűrjön a megadott lista alapján a "key" vagy a "[key, value]" alapján. Pl. .key', ['key2', 'key2 value]]

Alapértelmezett érték: None
properties

Szűrjön a megadott lista alapján a "key" vagy a "[key, value]" alapján. Pl. .key', ['key2', 'key2 value]]

Alapértelmezett érték: None
image_digest
str

Szűrőlista, amely csak az adott rendszerkép-kivonattal üzembe helyezett webszolgáltatásokat tartalmazza.

Alapértelmezett érték: None

Válaszok

Típus Description

A webszolgáltatások szűrt listája a megadott munkaterületen.

Kivételek

Típus Description

regen_key

Hozza létre újra a webszolgáltatás egyik kulcsát, az "Elsődleges" vagy a "Másodlagos" kulcsot.

Az A WebserviceException akkor jön létre, ha key nincs megadva, vagy nem "Elsődleges" vagy "Másodlagos".

regen_key(key, set_key=None)

Paraméterek

Name Description
key
Kötelező
str

Az újragenerálandó kulcs. A beállítások az "Elsődleges" vagy a "Másodlagos".

set_key
str

Egy felhasználó által megadott érték, amely lehetővé teszi a kulcs értékének manuális meghatározását

Alapértelmezett érték: None

Kivételek

Típus Description

run

Hívja meg ezt a webszolgáltatást a megadott bemenettel.

A gyermekosztályai Webserviceáltal implementált absztrakt metódus.

abstract run(input)

Paraméterek

Name Description
input
Kötelező
<xref:varies>

A webszolgáltatás meghívásához szükséges bemeneti adatok. Ez az adat, amelyet a gépi tanulási modell az előrejelzések futtatásának bemeneteként vár.

Válaszok

Típus Description

A webszolgáltatás meghívásának eredménye. Ez a gépi tanulási modellből futtatott előrejelzéseket ad vissza.

Kivételek

Típus Description

serialize

Konvertálja ezt a webszolgáltatás-objektumot JSON szerializált szótárlá.

A használatával deserialize visszaalakulhat webszolgáltatás-objektummá.

serialize()

Válaszok

Típus Description

A webszolgáltatás JSON-reprezentációja.

Kivételek

Típus Description

update

Frissítse a webszolgáltatás paramétereit.

Ez egy absztrakt metódus, amelyet a gyermekosztályai implementálnak Webservice. A lehetséges frissítési paraméterek a webszolgáltatás gyermektípusától függően változhatnak. Például Azure Container Instances webszolgáltatások esetében tekintse meg update az adott paramétereket.

abstract update(*args)

Paraméterek

Name Description
args
Kötelező
<xref:varies>

Frissítendő értékek.

Kivételek

Típus Description

update_deployment_state

Frissítse a memóriában lévő objektum aktuális állapotát.

Végezze el az objektum tulajdonságainak helyben történő frissítését a megfelelő felhőobjektum aktuális állapota alapján. Elsősorban a létrehozási állapot manuális lekérdezéséhez hasznos.

update_deployment_state()

Kivételek

Típus Description

wait_for_deployment

Automatikus lekérdezés a futó webszolgáltatás-üzembe helyezésről.

Várjon, amíg a webszolgáltatás eléri a terminálállapotot. Egy hibát ad, WebserviceException ha nem sikeres terminálállapotba kerül, vagy túllépi a megadott időtúllépést.

wait_for_deployment(show_output=False, timeout_sec=None)

Paraméterek

Name Description
show_output

Azt jelzi, hogy részletesebb kimenetet szeretne-e nyomtatni.

Alapértelmezett érték: False
timeout_sec

Kivételt jelez, ha az üzembe helyezés túllépi a megadott időtúllépést.

Alapértelmezett érték: None

Kivételek

Típus Description