InferenceConfig Třída

Představuje nastavení konfigurace pro vlastní prostředí používané k nasazení.

Konfigurace odvozování je vstupní parametr pro Model akce související s nasazením:

Inicializuje konfigurační objekt.

Konstruktor

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parametry

Name	Description
entry_script Vyžadováno	str Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
runtime	str Modul runtime, který se má použít pro image. Aktuální podporované moduly runtime jsou spark-py a python. Default value: None
conda_file	str Cesta k místnímu souboru obsahujícímu definici prostředí Conda, která se má použít pro image. Default value: None
extra_docker_file_steps	str Cesta k místnímu souboru obsahujícímu další kroky Dockeru, které se mají spustit při nastavování image. Default value: None
source_directory	str Cesta ke složce, která obsahuje všechny soubory pro vytvoření image. Default value: None
enable_gpu	bool Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Výchozí nastavení je 'False'. Default value: None
description	str Popis, který tomuto obrázku poskytnete. Default value: None
base_image	str Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime. Default value: None
base_image_registry	ContainerRegistry Registr imagí, který obsahuje základní image. Default value: None
cuda_version	str Verze CUDA pro instalaci imagí, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0. Pokud `enable_gpu` je tato možnost nastavená, výchozí hodnota je 9.1. Default value: None
environment	Environment Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované. Zadejte buď tento parametr, nebo jiné parametry, ale ne oba. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří `entry_script`, `source_directory`a `description`. Default value: None
entry_script Vyžadováno	str Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
runtime Vyžadováno	str Modul runtime, který se má použít pro image. Aktuální podporované moduly runtime jsou spark-py a python.
conda_file Vyžadováno	str Cesta k místnímu souboru obsahujícímu definici prostředí Conda, která se má použít pro image.
extra_docker_file_steps Vyžadováno	str Cesta k místnímu souboru obsahujícímu další kroky Dockeru, které se mají spustit při nastavování image.
source_directory Vyžadováno	str Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
enable_gpu Vyžadováno	bool Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Výchozí nastavení je 'False'.
description Vyžadováno	str Popis, který tomuto obrázku poskytnete.
base_image Vyžadováno	str Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
base_image_registry Vyžadováno	ContainerRegistry Registr imagí, který obsahuje základní image.
cuda_version Vyžadováno	str Verze CUDA pro instalaci imagí, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0. Pokud `enable_gpu` je tato možnost nastavená, výchozí hodnota je 9.1.
environment Vyžadováno	Environment Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované. Zadejte buď tento parametr, nebo jiné parametry, ale ne oba. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří `entry_script`, `source_directory`a `description`.

Poznámky

Následující ukázka ukazuje, jak vytvořit objekt InferenceConfig a použít ho k nasazení modelu.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Proměnné

Name	Description
entry_script	str Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
runtime	str Modul runtime, který se má použít pro image. Aktuální podporované moduly runtime jsou spark-py a python.
conda_file	str Cesta k místnímu souboru obsahujícímu definici prostředí Conda, která se má použít pro image.
extra_docker_file_steps	str Cesta k místnímu souboru obsahujícímu další kroky Dockeru, které se mají spustit při nastavování image.
source_directory	str Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
enable_gpu	bool Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service.
azureml.core.model.InferenceConfig.description	Popis, který tomuto obrázku poskytnete.
base_image	str Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
base_image_registry	ContainerRegistry Registr imagí, který obsahuje základní image.
cuda_version	str Verze CUDA pro instalaci imagí, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0. Pokud `enable_gpu` je tato možnost nastavená, výchozí hodnota je 9.1.
azureml.core.model.InferenceConfig.environment	Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované. Zadejte buď tento parametr, nebo jiné parametry, ale ne oba. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří `entry_script`, `source_directory`a `description`.

Metody

build_create_payload	Sestavte datovou část pro vytvoření image kontejneru.
build_profile_payload	Sestavte datovou část profilace pro balíček modelu.
validate_configuration	Zkontrolujte, jestli jsou zadané konfigurační hodnoty platné. Vyvolá ověření, pokud se ověření nezdaří WebserviceException .
validation_script_content	Zkontrolujte, jestli je syntaxe skriptu skóre platná s ast.parse. Vyvolá ověření, pokud se ověření nezdaří UserErrorException .

build_create_payload

Sestavte datovou část pro vytvoření image kontejneru.

build_create_payload(workspace, name, model_ids)

Parametry

Name	Description
workspace Vyžadováno	Workspace Objekt pracovního prostoru pro vytvoření image v.
name Vyžadováno	str Název obrázku.
model_ids Vyžadováno	list[str] Seznam ID modelů, které se mají zabalit do image.

Návraty

Typ	Description
dict	Datová část pro vytvoření image kontejneru.

Výjimky

Typ	Description
WebserviceException

build_profile_payload

Sestavte datovou část profilace pro balíček modelu.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parametry

Name	Description
profile_name Vyžadováno	str Název spuštění profilace.
input_data	str Vstupní data pro profilaci. Default value: None
workspace	Workspace Objekt pracovního prostoru, ve kterém chcete profilovat model. Default value: None
models	list[Model] Seznamobjektůch Může to být prázdný seznam. Default value: None
dataset_id	str ID přidružené k datové sadě obsahující vstupní data pro spuštění profilace. Default value: None
container_resource_requirements	ContainerResourceRequirements Požadavky na prostředky kontejneru pro největší instanci, do které se má model nasadit Default value: None
description	str Popis, který se má přidružit ke spuštění profilace Default value: None

Návraty

Typ	Description
dict	Datová část profilu modelu

Výjimky

Typ	Description
WebserviceException

validate_configuration

Zkontrolujte, jestli jsou zadané konfigurační hodnoty platné.

Vyvolá ověření, pokud se ověření nezdaří WebserviceException .

validate_configuration()

Výjimky

Typ	Description
WebserviceException

validation_script_content

Zkontrolujte, jestli je syntaxe skriptu skóre platná s ast.parse.

Vyvolá ověření, pokud se ověření nezdaří UserErrorException .

validation_script_content()

Výjimky

Typ	Description
UserErrorException

Váš názor

Byla tato stránka užitečná?

Sdílet prostřednictvím

InferenceConfig Třída

Konstruktor

Parametry

Poznámky

Proměnné

Metody

build_create_payload

Parametry

Návraty

Výjimky

build_profile_payload

Parametry

Návraty

Výjimky

validate_configuration

Výjimky

validation_script_content

Výjimky

Váš názor