InferenceConfig Osztály

Referencia

Az üzembe helyezéshez használt egyéni környezet konfigurációs beállításait jelöli.

A következtetési konfiguráció az üzembe helyezéssel Model kapcsolatos műveletek bemeneti paramétere:

Inicializálja a konfigurációs objektumot.

Öröklődés: builtins.object

InferenceConfig

Konstruktor

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Paraméterek

Name	Description
entry_script Kötelező	str A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.
runtime	str A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python". Alapértelmezett érték: None
conda_file	str A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja. Alapértelmezett érték: None
extra_docker_file_steps	str A rendszerkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja. Alapértelmezett érték: None
source_directory	str A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja. Alapértelmezett érték: None
enable_gpu	bool Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. Alapértelmezés szerint Hamis. Alapértelmezett érték: None
description	str Leírás a kép megírásához. Alapértelmezett érték: None
base_image	str Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer. Alapértelmezett érték: None
base_image_registry	ContainerRegistry Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis. Alapértelmezett érték: None
cuda_version	str A GPU-támogatást igénylő rendszerképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0. Ha `enable_gpu` be van állítva, ez az alapértelmezett érték: "9.1". Alapértelmezett érték: None
environment	Environment Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni. Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a `entry_script`, `source_directory`a és `description`a . Alapértelmezett érték: None
entry_script Kötelező	str A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.
runtime Kötelező	str A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".
conda_file Kötelező	str A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.
extra_docker_file_steps Kötelező	str A rendszerkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.
source_directory Kötelező	str A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.
enable_gpu Kötelező	bool Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. Alapértelmezés szerint Hamis.
description Kötelező	str Leírás a kép megírásához.
base_image Kötelező	str Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.
base_image_registry Kötelező	ContainerRegistry Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.
cuda_version Kötelező	str A GPU-támogatást igénylő rendszerképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0. Ha `enable_gpu` be van állítva, ez az alapértelmezett érték: "9.1".
environment Kötelező	Environment Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni. Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a `entry_script`, `source_directory`a és `description`a .

Megjegyzések

Az alábbi minta bemutatja, hogyan hozhat létre egy InferenceConfig objektumot, és hogyan helyezhet üzembe egy modellt.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Változók

Name	Description
entry_script	str A lemezképhez futtatandó kódot tartalmazó helyi fájl elérési útja.
runtime	str A rendszerképhez használandó futtatókörnyezet. A jelenleg támogatott futtatókörnyezetek a "spark-py" és a "python".
conda_file	str A lemezképhez használandó Conda-környezetdefiníciót tartalmazó helyi fájl elérési útja.
extra_docker_file_steps	str A lemezkép beállításakor futtatandó további Docker-lépéseket tartalmazó helyi fájl elérési útja.
source_directory	str A lemezkép létrehozásához használt összes fájlt tartalmazó mappa elérési útja.
enable_gpu	bool Azt jelzi, hogy engedélyezi-e a GPU-támogatást a képen. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service.
azureml.core.model.InferenceConfig.description	Leírás a kép megírásához.
base_image	str Alapként használandó egyéni rendszerkép. Ha nem ad meg alaprendszerképet, akkor az alaprendszerképet a megadott futtatókörnyezeti paraméter alapján használja a rendszer.
base_image_registry	ContainerRegistry Az alaprendszerképet tartalmazó rendszerképregisztrációs adatbázis.
cuda_version	str A GPU-támogatást igénylő lemezképek telepítéséhez szükséges CUDA-verzió. A GPU-rendszerképet olyan Microsoft Azure-szolgáltatásokban kell használni, mint a Azure Container Instances, az Azure Machine Learning Compute, az Azure Virtual Machines és a Azure Kubernetes Service. A támogatott verziók a következők: 9.0, 9.1 és 10.0. Ha `enable_gpu` be van állítva, az alapértelmezett érték a "9.1".
azureml.core.model.InferenceConfig.environment	Az üzembe helyezéshez használandó környezeti objektum. A környezetet nem kell regisztrálni. Adja meg ezt a paramétert vagy a többi paramétert, de mindkettőt nem. Az egyes paraméterek NEM szolgálnak felülbírálásként a környezeti objektumhoz. A kivételek közé tartozik a `entry_script`, `source_directory`a és a `description`.

Metódusok

build_create_payload	Hozza létre a tárolórendszerkép létrehozási hasznos adatait.
build_profile_payload	Hozza létre a modellcsomag profilkészítési hasznos adatait.
validate_configuration	Ellenőrizze, hogy a megadott konfigurációs értékek érvényesek-e. Ha az ellenőrzés sikertelen, akkor egy értéket WebserviceException ad meg.
validation_script_content	Ellenőrizze, hogy a pontszámszkript szintaxisa érvényes-e az ast.parse paraméterrel. Ha az ellenőrzés sikertelen, akkor egy értéket UserErrorException ad meg.

build_create_payload

Hozza létre a tárolórendszerkép létrehozási hasznos adatait.

build_create_payload(workspace, name, model_ids)

Paraméterek

Name	Description
workspace Kötelező	Workspace A rendszerkép létrehozásához használt munkaterület-objektum.
name Kötelező	str A kép neve.
model_ids Kötelező	list[str] A rendszerképbe csomagolandó modellazonosítók listája.

Válaszok

Típus	Description
dict	A tárolórendszerkép létrehozásának hasznos adatai.

Kivételek

Típus	Description
WebserviceException

build_profile_payload

Hozza létre a modellcsomag profilkészítési hasznos adatait.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Paraméterek

Name	Description
profile_name Kötelező	str A profilkészítési futtatás neve.
input_data	str A profilkészítés bemeneti adatai. Alapértelmezett érték: None
workspace	Workspace Egy munkaterület-objektum, amelyben profilt szeretne létrehozni a modellről. Alapértelmezett érték: None
models	list[Model] Modellobjektumok listája. Lehet egy üres lista. Alapértelmezett érték: None
dataset_id	str A profilkészítési futtatáshoz bemeneti adatokat tartalmazó adatkészlethez társított azonosító. Alapértelmezett érték: None
container_resource_requirements	ContainerResourceRequirements tárolóerőforrás-követelmények arra a legnagyobb példányra, amelyre a modellt telepíteni kívánja Alapértelmezett érték: None
description	str A profilkészítési futtatáshoz társítandó leírás. Alapértelmezett érték: None

Válaszok

Típus	Description
dict	Modellprofil hasznos adatai

Kivételek

Típus	Description
WebserviceException

validate_configuration

Ellenőrizze, hogy a megadott konfigurációs értékek érvényesek-e.

Ha az ellenőrzés sikertelen, akkor egy értéket WebserviceException ad meg.

validate_configuration()

Kivételek

Típus	Description
WebserviceException

validation_script_content

Ellenőrizze, hogy a pontszámszkript szintaxisa érvényes-e az ast.parse paraméterrel.

Ha az ellenőrzés sikertelen, akkor egy értéket UserErrorException ad meg.

validation_script_content()

Kivételek

Típus	Description
UserErrorException

Megosztás a következőn keresztül:

InferenceConfig Osztály

Konstruktor

Paraméterek

Megjegyzések

Változók

Metódusok

build_create_payload

Paraméterek

Válaszok

Kivételek

build_profile_payload

Paraméterek

Válaszok

Kivételek

validate_configuration

Kivételek

validation_script_content

Kivételek

Visszajelzés

További források