AksWebservice Osztály

Referencia

Webszolgáltatás-végpontként üzembe helyezett gépi tanulási modellt jelöl a Azure Kubernetes Service.

Az üzembe helyezett szolgáltatás modellből, szkriptből és társított fájlokból jön létre. Az eredményként kapott webszolgáltatás egy elosztott terhelésű HTTP-végpont REST API-val. Adatokat küldhet erre az API-ra, és megkaphatja a modell által visszaadott előrejelzést.

Az AksWebservice egyetlen szolgáltatást helyez üzembe egyetlen végponton. Ha több szolgáltatást szeretne üzembe helyezni egy végponton, használja az osztályt AksEndpoint .

További információ: Modell üzembe helyezése Azure Kubernetes Service fürtön.

Inicializálja a webszolgáltatás-példányt.

A Webservice-konstruktor lekéri a megadott munkaterülethez társított webszolgáltatás-objektum felhőbeli ábrázolását. Egy gyermekosztály egy példányát adja vissza, amely megfelel a lekért webszolgáltatás-objektum adott típusának.

Öröklődés: Webservice

AksWebservice

Konstruktor

AksWebservice(workspace, name)

Paraméterek

Name	Description
workspace Kötelező	Workspace A lekérni kívánt Webservice objektumot tartalmazó munkaterület-objektum.
name Kötelező	str A lekérni kívánt Webservice objektum neve.

Megjegyzések

Az ajánlott üzembehelyezési minta egy üzembehelyezési konfigurációs objektum létrehozása a deploy_configuration metódussal, majd az osztály metódusával deploy való használata az Model alább látható módon.


   # Set the web service configuration (using default here)
   aks_config = AksWebservice.deploy_configuration()

   # # Enable token auth and disable (key) auth on the webservice
   # aks_config = AksWebservice.deploy_configuration(token_auth_enabled=True, auth_enabled=False)

A teljes minta a következő forrásból érhető el: https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/production-deploy-to-aks/production-deploy-to-aks.ipynb

A modellek webszolgáltatásként való üzembe helyezésének számos módja van, többek között az alábbiakkal:

deploy Model a munkaterületen már regisztrált modellek metódusát.
deploy_from_image metódusa Webservice.
deploy_from_model metódust Webservice a munkaterületen már regisztrált modellekhez. Ez a metódus létrehoz egy képet.
deploy metódusa Webservice, amely regisztrál egy modellt, és létrehoz egy képet.

A webszolgáltatások használatával kapcsolatos információkért lásd:

A Változók szakasz a felhőbeli AksWebservice objektum helyi reprezentációjának attribútumait sorolja fel. Ezeket a változókat írásvédettnek kell tekinteni. Az értékek módosítása nem jelenik meg a megfelelő felhőobjektumban.

Változók

Name	Description
enable_app_insights	bool Azt jelzi, hogy az AppInsights naplózása engedélyezve van-e a webszolgáltatáshoz.
autoscaler	AutoScaler A webszolgáltatás automatikus skálázási objektuma.
compute_name	str Annak a ComputeTargetnek a neve, amelybe a webszolgáltatás telepítve van.
container_resource_requirements	ContainerResourceRequirements A webszolgáltatás tárolóerőforrás-követelményei.
liveness_probe_requirements	LivenessProbeRequirements A webszolgáltatás élettartam-mintavételi követelményei.
data_collection	DataCollection A webszolgáltatás DataCollection objektuma.
max_concurrent_requests_per_container	int A webszolgáltatás tárolónkénti egyidejű kéréseinek maximális száma.
max_request_wait_time	int A webszolgáltatás maximális kérés-várakozási ideje ezredmásodpercben.
num_replicas	int A webszolgáltatás replikáinak száma. Minden replika egy AKS-podnak felel meg.
scoring_timeout_ms	int A webszolgáltatás pontozási időtúllépése ezredmásodpercben.
azureml.core.webservice.AksWebservice.scoring_uri	str A webszolgáltatás pontozási végpontja
is_default	bool Ha a webszolgáltatás a szülő AksEndpoint alapértelmezett verziója.
traffic_percentile	int A webszolgáltatásra a szülő AksEndpointban átirányítandó forgalom hány százaléka.
version_type	VersionType A webszolgáltatás verziótípusa a szülő AksEndpointban.
token_auth_enabled	bool Azt jelzi, hogy a jogkivonat hitelesítése engedélyezve van-e a webszolgáltatáshoz.
environment	Environment A webszolgáltatás létrehozásához használt Környezeti objektum.
azureml.core.webservice.AksWebservice.models	list[Model] A webszolgáltatásban üzembe helyezett modellek listája.
deployment_status	str A webszolgáltatás üzembehelyezési állapota.
namespace	str A webszolgáltatás AKS-névtere.
azureml.core.webservice.AksWebservice.swagger_uri	str A webszolgáltatás swagger végpontja.

Metódusok

add_properties	Adjon hozzá kulcsértékpárokat a webszolgáltatás tulajdonságszótárához.
add_tags	Adjon hozzá kulcsértékpárokat a webszolgáltatás címkeszótárához. Egy elemet WebserviceExceptionemel ki.
deploy_configuration	Hozzon létre egy konfigurációs objektumot egy AKS számítási célon való üzembe helyezéshez.
get_access_token	A webszolgáltatás hitelesítési jogkivonatának lekérése.
get_token	ELAVULT. Használja `get_access_token` inkább a metódust. A webszolgáltatás hitelesítési jogkivonatának lekérése.
remove_tags	Távolítsa el a megadott kulcsokat a webszolgáltatás címkékből álló szótárából.
run	Hívja meg ezt a webszolgáltatást a megadott bemenettel.
serialize	Konvertálja ezt a webszolgáltatást JSON szerializált szótárlá.
update	Frissítse a webszolgáltatást a megadott tulajdonságokkal. A Nincs érték változatlan marad ebben a webszolgáltatásban.

add_properties

Adjon hozzá kulcsértékpárokat a webszolgáltatás tulajdonságszótárához.

add_properties(properties)

Paraméterek

Name	Description
properties Kötelező	dict[str, str] A hozzáadni kívánt tulajdonságok szótára.

add_tags

Adjon hozzá kulcsértékpárokat a webszolgáltatás címkeszótárához.

Egy elemet WebserviceExceptionemel ki.

add_tags(tags)

Paraméterek

Name	Description
tags Kötelező	dict[str, str] A hozzáadni kívánt címkék szótára.

Kivételek

Típus	Description
WebserviceException

deploy_configuration

Hozzon létre egy konfigurációs objektumot egy AKS számítási célon való üzembe helyezéshez.

static deploy_configuration(autoscale_enabled=None, autoscale_min_replicas=None, autoscale_max_replicas=None, autoscale_refresh_seconds=None, autoscale_target_utilization=None, collect_model_data=None, auth_enabled=None, cpu_cores=None, memory_gb=None, enable_app_insights=None, scoring_timeout_ms=None, replica_max_concurrent_requests=None, max_request_wait_time=None, num_replicas=None, primary_key=None, secondary_key=None, tags=None, properties=None, description=None, gpu_cores=None, period_seconds=None, initial_delay_seconds=None, timeout_seconds=None, success_threshold=None, failure_threshold=None, namespace=None, token_auth_enabled=None, compute_target_name=None, cpu_cores_limit=None, memory_gb_limit=None, blobfuse_enabled=None)

Paraméterek

Name	Description
autoscale_enabled	bool Azt jelzi, hogy engedélyezi-e az automatikus skálázást ehhez a webszolgáltatáshoz. Alapértelmezés szerint Igaz, ha num_replicas Nincs. Alapértelmezett érték: None
autoscale_min_replicas	int A webszolgáltatás automatikus skálázásához használandó tárolók minimális száma. Alapértelmezés szerint 1. Alapértelmezett érték: None
autoscale_max_replicas	int A webszolgáltatás automatikus skálázásához használandó tárolók maximális száma. Alapértelmezés szerint 10. Alapértelmezett érték: None
autoscale_refresh_seconds	int Milyen gyakran próbálja meg az automatikus skálázási eszköz skálázni ezt a webszolgáltatást. Alapértelmezés szerint 1. Alapértelmezett érték: None
autoscale_target_utilization	int A cél kihasználtsága (a 100-ból százalékban) az automatikus skálázási eszköznek meg kell kísérelnie a webszolgáltatás karbantartását. Alapértelmezés szerint 70. Alapértelmezett érték: None
collect_model_data	bool Engedélyezi-e a modelladatok gyűjtését ehhez a webszolgáltatáshoz. Alapértelmezés szerint Hamis. Alapértelmezett érték: None
auth_enabled	bool Azt határozza meg, hogy engedélyezi-e a kulcs-hitelesítést ehhez a webszolgáltatáshoz. Alapértelmezés szerint Igaz. Alapértelmezett érték: None
cpu_cores	float A webszolgáltatáshoz lefoglalandó processzormagok száma. Tizedes tört is lehet. Alapértelmezés szerint 0,1. Az Azure Kubernetes Service podmag-kérésének felel meg, nem a korlátnak. Alapértelmezett érték: None
memory_gb	float A webszolgáltatás számára lefoglalandó memória mennyisége (GB-ban). Tizedes tört is lehet. Alapértelmezés szerint 0,5. A pod memóriakérelmének felel meg, nem a korlátnak Azure Kubernetes Service. Alapértelmezett érték: None
enable_app_insights	bool Azt határozza meg, hogy engedélyezi-e az Application Insights naplózását ehhez a webszolgáltatáshoz. Alapértelmezés szerint Hamis. Alapértelmezett érték: None
scoring_timeout_ms	int Időtúllépés a webszolgáltatás pontozási hívásainak kényszerítéséhez. Alapértelmezés szerint 60000. Alapértelmezett érték: None
replica_max_concurrent_requests	int A webszolgáltatás engedélyezéséhez replikánkénti maximális egyidejű kérések száma. Alapértelmezés szerint 1. Ne módosítsa ezt a beállítást az alapértelmezett 1 értékről, kivéve, ha a Microsoft műszaki támogatási szolgálata vagy az Azure Machine Learning csapatának tagja utasítja. Alapértelmezett érték: None
max_request_wait_time	int A kérések maximális időtartama (ezredmásodpercben), mielőtt 503-at ad vissza. Alapértelmezés szerint 500. Alapértelmezett érték: None
num_replicas	int A webszolgáltatáshoz lefoglalandó tárolók száma. Nincs alapértelmezett érték, ha ez a paraméter nincs beállítva, akkor az automatikus skálázási eszköz alapértelmezés szerint engedélyezve van. Alapértelmezett érték: None
primary_key	str A webszolgáltatáshoz használandó elsődleges hitelesítési kulcs. Alapértelmezett érték: None
secondary_key	str A webszolgáltatáshoz használandó másodlagos hitelesítési kulcs. Alapértelmezett érték: None
tags	dict[str, str] A webszolgáltatáshoz tartozó kulcsértékcímkék szótára. Alapértelmezett érték: None
properties	dict[str, str] A webszolgáltatáshoz tartozó kulcsérték-tulajdonságok szótára. Ezek a tulajdonságok az üzembe helyezés után nem módosíthatók, de új kulcsértékpárok is hozzáadhatók. Alapértelmezett érték: None
description	str A webszolgáltatás leírásának megadása. Alapértelmezett érték: None
gpu_cores	int A webszolgáltatáshoz lefoglalandó GPU-magok száma. Alapértelmezés szerint 0. Alapértelmezett érték: None
period_seconds	int Milyen gyakran (másodpercben) hajtja végre az élőség-mintavételt. Alapértelmezés szerint 10 másodperc. A minimális érték 1. Alapértelmezett érték: None
initial_delay_seconds	int A tároló elindítása után másodpercek száma az élettartam-mintavételek kezdeményezése előtt. Alapértelmezés szerint 310. Alapértelmezett érték: None
timeout_seconds	int Az a másodpercek száma, amely után az élettartam-mintavétel túllépi az időkorlátot. Alapértelmezés szerint 2 másodperc. A minimális érték 1. Alapértelmezett érték: None
success_threshold	int Az élettartam-mintavétel sikerességének minimális egymást követő sikerei a sikertelenség után sikeresnek tekinthetők. Alapértelmezés szerint 1. A minimális érték 1. Alapértelmezett érték: None
failure_threshold	int Amikor elindul egy pod, és az élettartam-mintavétel sikertelen lesz, a Kubernetes megpróbálkozhat a failureThreshold times before a feladással. Alapértelmezés szerint 3. A minimális érték 1. Alapértelmezett érték: None
namespace	str A Kubernetes-névtér, amelyben a webszolgáltatás üzembe helyezhető: legfeljebb 63 kisbetűs alfanumerikus ('a'-'z', '0'-'9') és kötőjel ('-') karakter. Az első és az utolsó karakter nem lehet kötőjel. Alapértelmezett érték: None
token_auth_enabled	bool Azt határozza meg, hogy engedélyezi-e a jogkivonat-hitelesítést ehhez a webszolgáltatáshoz. Ha ez engedélyezve van, a felhasználók úgy érhetik el ezt a webszolgáltatást, hogy lekérnek egy hozzáférési jogkivonatot az Azure Active Directory hitelesítő adataikkal. Alapértelmezés szerint Hamis. Alapértelmezett érték: None
compute_target_name	str A központilag üzembe helyezendő számítási cél neve Alapértelmezett érték: None
cpu_cores_limit	float A webszolgáltatás által használható processzormagok maximális száma. Lehet decimális. Alapértelmezett érték: None
memory_gb_limit	float A webszolgáltatás által használható maximális memóriamennyiség (GB-ban). Lehet decimális. Alapértelmezett érték: None
blobfuse_enabled	bool Azt jelzi, hogy engedélyezi-e a blobfuse-t a webszolgáltatás modellletöltéséhez. Alapértelmezett érték: True Alapértelmezett érték: None

Válaszok

Típus	Description
AksServiceDeploymentConfiguration	Az AksWebservice üzembe helyezésekor használandó konfigurációs objektum.

Kivételek

Típus	Description
WebserviceException

get_access_token

A webszolgáltatás hitelesítési jogkivonatának lekérése.

get_access_token()

Válaszok

Típus	Description
AksServiceAccessToken	A webszolgáltatás hitelesítési jogkivonatát leíró objektum.

Kivételek

Típus	Description
WebserviceException

get_token

ELAVULT. Használja get_access_token inkább a metódust.

A webszolgáltatás hitelesítési jogkivonatának lekérése.

get_token()

Válaszok

Típus	Description
str, datetime	A webszolgáltatás hitelesítési jogkivonata, és annak frissítése.

Kivételek

Típus	Description
WebserviceException

remove_tags

Távolítsa el a megadott kulcsokat a webszolgáltatás címkékből álló szótárából.

remove_tags(tags)

Paraméterek

Name	Description
tags Kötelező	list[str] Az eltávolítandó kulcsok listája

run

Hívja meg ezt a webszolgáltatást a megadott bemenettel.

run(input_data)

Paraméterek

Name	Description
input_data Kötelező	<xref:varies> A webszolgáltatás meghívásának bemenete a következővel:

Válaszok

Típus	Description
dict	A webszolgáltatás meghívásának eredménye

Kivételek

Típus	Description
WebserviceException

serialize

Konvertálja ezt a webszolgáltatást JSON szerializált szótárlá.

serialize()

Válaszok

Típus	Description
dict	A webszolgáltatás JSON-reprezentációja.

update

Frissítse a webszolgáltatást a megadott tulajdonságokkal.

A Nincs érték változatlan marad ebben a webszolgáltatásban.

update(image=None, autoscale_enabled=None, autoscale_min_replicas=None, autoscale_max_replicas=None, autoscale_refresh_seconds=None, autoscale_target_utilization=None, collect_model_data=None, auth_enabled=None, cpu_cores=None, memory_gb=None, enable_app_insights=None, scoring_timeout_ms=None, replica_max_concurrent_requests=None, max_request_wait_time=None, num_replicas=None, tags=None, properties=None, description=None, models=None, inference_config=None, gpu_cores=None, period_seconds=None, initial_delay_seconds=None, timeout_seconds=None, success_threshold=None, failure_threshold=None, namespace=None, token_auth_enabled=None, cpu_cores_limit=None, memory_gb_limit=None, **kwargs)

Paraméterek

Name	Description
image	Image Új rendszerkép a webszolgáltatásban való üzembe helyezéshez Alapértelmezett érték: None
autoscale_enabled	bool A webszolgáltatás automatikus skálázásának engedélyezése vagy letiltása Alapértelmezett érték: None
autoscale_min_replicas	int A webszolgáltatás automatikus skálázása során használandó tárolók minimális száma Alapértelmezett érték: None
autoscale_max_replicas	int A webszolgáltatás automatikus skálázása során használandó tárolók maximális száma Alapértelmezett érték: None
autoscale_refresh_seconds	int Milyen gyakran próbálja meg az automatikus skálázási szolgáltató skálázni ezt a webszolgáltatást? Alapértelmezett érték: None
autoscale_target_utilization	int A cél kihasználtsága (a 100-ból százalékban) az automatikus skálázónak meg kell kísérelnie a webszolgáltatás karbantartását Alapértelmezett érték: None
collect_model_data	bool Modelladatok gyűjtésének engedélyezése vagy letiltása ehhez a webszolgáltatáshoz Alapértelmezett érték: None
auth_enabled	bool Azt jelzi, hogy engedélyezi-e a hitelesítést ehhez a webszolgáltatáshoz Alapértelmezett érték: None
cpu_cores	float A webszolgáltatáshoz lefoglalandó processzormagok száma. Decimális is lehet Alapértelmezett érték: None
memory_gb	float A webszolgáltatáshoz lefoglalandó memória mennyisége (GB-ban). Decimális is lehet Alapértelmezett érték: None
enable_app_insights	bool Azt jelzi, hogy engedélyezi-e az Application Insights naplózását ehhez a webszolgáltatáshoz Alapértelmezett érték: None
scoring_timeout_ms	int Időtúllépés a webszolgáltatás pontozási hívásainak kényszerítéséhez Alapértelmezett érték: None
replica_max_concurrent_requests	int A webszolgáltatás engedélyezéséhez replikánkénti maximális egyidejű kérések száma. Alapértelmezett érték: None
max_request_wait_time	int Az 503-at tartalmazó hiba visszaadása előtt a kérések maximális időtartama (ezredmásodpercben) az üzenetsorban marad Alapértelmezett érték: None
num_replicas	int A webszolgáltatáshoz lefoglalandó tárolók száma Alapértelmezett érték: None
tags	dict[str, str] A webszolgáltatáshoz tartozó kulcsértékcímkék szótára. Lecseréli a meglévő címkéket. Alapértelmezett érték: None
properties	dict[str, str] A meglévő tulajdonságok szótárához hozzáadandó kulcsérték-tulajdonságok szótára Alapértelmezett érték: None
description	str A webszolgáltatást ismertető leírás Alapértelmezett érték: None
models	list[Model] A frissített szolgáltatással csomagolandó modellobjektumok listája Alapértelmezett érték: None
inference_config	InferenceConfig Egy InferenceConfig objektum, amely a modell szükséges üzembehelyezési tulajdonságainak megadására szolgál. Alapértelmezett érték: None
gpu_cores	int A webszolgáltatáshoz lefoglalandó GPU-magok száma Alapértelmezett érték: None
period_seconds	int Milyen gyakran (másodpercben) hajtja végre az élőségi mintavételt. Alapértelmezés szerint 10 másodperc. A minimális érték 1. Alapértelmezett érték: None
initial_delay_seconds	int A tároló elindítása utáni másodpercek száma az élőségi mintavételek elindítása előtt. Alapértelmezett érték: None
timeout_seconds	int Azon másodpercek száma, amelyek után az élőképesség-mintavétel túllépi az időkorlátot. Alapértelmezés szerint 1 másodperc. A minimális érték 1. Alapértelmezett érték: None
success_threshold	int A sikertelen működés után sikeresnek ítélt élettartam-mintavétel minimális egymást követő sikerei. Alapértelmezés szerint 1. A minimális érték 1. Alapértelmezett érték: None
failure_threshold	int Amikor elindul egy pod, és az élőképesség-mintavétel meghiúsul, a Kubernetes megpróbálja a hibátMegtartási időpontok a feladás előtt. Alapértelmezés szerint 3. A minimális érték 1. Alapértelmezett érték: None
namespace	str A Webservice üzembe helyezéséhez használható Kubernetes-névtér: legfeljebb 63 kisbetűs alfanumerikus ('a'-'z', '0'-'9') és kötőjel ('-') karakter. Az első és az utolsó karakter nem lehet kötőjel. Alapértelmezett érték: None
token_auth_enabled	bool Azt jelzi, hogy engedélyezi-e a jogkivonat hitelesítését ehhez a webszolgáltatáshoz. Ha ez engedélyezve van, a felhasználók hozzáférhetnek ehhez a webszolgáltatáshoz úgy, hogy lekérik a hozzáférési jogkivonatot az Azure Active Directory hitelesítő adataikkal. Alapértelmezett érték: Hamis Alapértelmezett érték: None
cpu_cores_limit	float A webszolgáltatás által használható processzormagok maximális száma. Lehet decimális. Alapértelmezett érték: None
memory_gb_limit	float A webszolgáltatás által használható maximális memóriamennyiség (GB-ban). Lehet decimális. Alapértelmezett érték: None
kwargs Kötelező	<xref:varies> az AKS-webszolgáltatás Kubernetes online végpontra és üzembe helyezésre való migrálását támogató paramokat is tartalmazhat. is_migration=Igaz\| Hamis, compute_target=.

Kivételek

Típus	Description
WebserviceException

Megosztás a következőn keresztül:

AksWebservice Osztály

Konstruktor

Paraméterek

Megjegyzések

Változók

Metódusok

add_properties

Paraméterek

add_tags

Paraméterek

Kivételek

deploy_configuration

Paraméterek

Válaszok

Kivételek

get_access_token

Válaszok

Kivételek

get_token

Válaszok

Kivételek

remove_tags

Paraméterek

run

Paraméterek

Válaszok

Kivételek

serialize

Válaszok

update

Paraméterek

Kivételek

Visszajelzés

További források