InferenceConfig Klass

Referens

Representerar konfigurationsinställningar för en anpassad miljö som används för distribution.

Inferenskonfiguration är en indataparameter för Model distributionsrelaterade åtgärder:

Initiera konfigurationsobjektet.

Arv: builtins.object

InferenceConfig

Konstruktor

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parametrar

Name	Description
entry_script Obligatorisk	str Sökvägen till en lokal fil som innehåller koden som ska köras för avbildningen.
runtime	str Körningen som ska användas för avbildningen. Aktuella körningsmiljöer som stöds är "spark-py" och "python". Standardvärde: None
conda_file	str Sökvägen till en lokal fil som innehåller en conda-miljödefinition som ska användas för avbildningen. Standardvärde: None
extra_docker_file_steps	str Sökvägen till en lokal fil som innehåller ytterligare Docker-steg som ska köras när avbildningen konfigureras. Standardvärde: None
source_directory	str Sökvägen till mappen som innehåller alla filer för att skapa avbildningen. Standardvärde: None
enable_gpu	bool Anger om GPU-stöd ska aktiveras i avbildningen. GPU-avbildningen måste användas i Microsoft Azure-tjänster som Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines och Azure Kubernetes Service. Standardvärdet är Falskt. Standardvärde: None
description	str En beskrivning för att ge den här bilden. Standardvärde: None
base_image	str En anpassad avbildning som ska användas som basavbildning. Om ingen basavbildning anges används basavbildningen baserat på den angivna körningsparametern. Standardvärde: None
base_image_registry	ContainerRegistry Avbildningsregistret som innehåller basavbildningen. Standardvärde: None
cuda_version	str Den version av CUDA som ska installeras för avbildningar som behöver GPU-stöd. GPU-avbildningen måste användas i Microsoft Azure-tjänster som Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines och Azure Kubernetes Service. Versioner som stöds är 9.0, 9.1 och 10.0. Om `enable_gpu` har angetts är standardvärdet "9.1". Standardvärde: None
environment	Environment Ett miljöobjekt som ska användas för distributionen. Miljön behöver inte registreras. Ange antingen den här parametern eller de andra parametrarna, men inte båda. De enskilda parametrarna fungerar INTE som en åsidosättning för miljöobjektet. Undantag är `entry_script`, `source_directory`och `description`. Standardvärde: None
entry_script Obligatorisk	str Sökvägen till en lokal fil som innehåller koden som ska köras för avbildningen.
runtime Obligatorisk	str Körningen som ska användas för avbildningen. Aktuella körningsmiljöer som stöds är "spark-py" och "python".
conda_file Obligatorisk	str Sökvägen till en lokal fil som innehåller en conda-miljödefinition som ska användas för avbildningen.
extra_docker_file_steps Obligatorisk	str Sökvägen till en lokal fil som innehåller ytterligare Docker-steg som ska köras när avbildningen konfigureras.
source_directory Obligatorisk	str Sökvägen till mappen som innehåller alla filer för att skapa avbildningen.
enable_gpu Obligatorisk	bool Anger om GPU-stöd ska aktiveras i avbildningen. GPU-avbildningen måste användas i Microsoft Azure-tjänster som Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines och Azure Kubernetes Service. Standardvärdet är Falskt.
description Obligatorisk	str En beskrivning för att ge den här bilden.
base_image Obligatorisk	str En anpassad avbildning som ska användas som basavbildning. Om ingen basavbildning anges används basavbildningen baserat på den angivna körningsparametern.
base_image_registry Obligatorisk	ContainerRegistry Avbildningsregistret som innehåller basavbildningen.
cuda_version Obligatorisk	str Den version av CUDA som ska installeras för avbildningar som behöver GPU-stöd. GPU-avbildningen måste användas i Microsoft Azure-tjänster som Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines och Azure Kubernetes Service. Versioner som stöds är 9.0, 9.1 och 10.0. Om `enable_gpu` har angetts är standardvärdet "9.1".
environment Obligatorisk	Environment Ett miljöobjekt som ska användas för distributionen. Miljön behöver inte registreras. Ange antingen den här parametern eller de andra parametrarna, men inte båda. De enskilda parametrarna fungerar INTE som en åsidosättning för miljöobjektet. Undantag är `entry_script`, `source_directory`och `description`.

Kommentarer

Följande exempel visar hur du skapar ett InferenceConfig-objekt och använder det för att distribuera en modell.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Variabler

Name	Description
entry_script	str Sökvägen till en lokal fil som innehåller koden som ska köras för avbildningen.
runtime	str Körningen som ska användas för avbildningen. Aktuella körningsmiljöer som stöds är "spark-py" och "python".
conda_file	str Sökvägen till en lokal fil som innehåller en conda-miljödefinition som ska användas för avbildningen.
extra_docker_file_steps	str Sökvägen till en lokal fil som innehåller ytterligare Docker-steg som ska köras när avbildningen konfigureras.
source_directory	str Sökvägen till mappen som innehåller alla filer för att skapa avbildningen.
enable_gpu	bool Anger om GPU-stöd ska aktiveras i avbildningen. GPU-avbildningen måste användas i Microsoft Azure-tjänster som Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines och Azure Kubernetes Service.
azureml.core.model.InferenceConfig.description	En beskrivning för att ge den här bilden.
base_image	str En anpassad avbildning som ska användas som basavbildning. Om ingen basavbildning anges används basavbildningen baserat på den angivna körningsparametern.
base_image_registry	ContainerRegistry Avbildningsregistret som innehåller basavbildningen.
cuda_version	str Den version av CUDA som ska installeras för avbildningar som behöver GPU-stöd. GPU-avbildningen måste användas i Microsoft Azure-tjänster som Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines och Azure Kubernetes Service. Versioner som stöds är 9.0, 9.1 och 10.0. Om `enable_gpu` har angetts är standardvärdet "9.1".
azureml.core.model.InferenceConfig.environment	Ett miljöobjekt som ska användas för distributionen. Miljön behöver inte registreras. Ange antingen den här parametern eller de andra parametrarna, men inte båda. De enskilda parametrarna fungerar INTE som en åsidosättning för miljöobjektet. Undantagen är `entry_script`, `source_directory`och `description`.

Metoder

build_create_payload	Skapa nyttolasten för containeravbildningen.
build_profile_payload	Skapa profileringsnyttolasten för modellpaketet.
validate_configuration	Kontrollera att de angivna konfigurationsvärdena är giltiga. Genererar ett WebserviceException om valideringen misslyckas.
validation_script_content	Kontrollera att syntaxen för poängskriptet är giltig med ast.parse. Genererar ett UserErrorException om valideringen misslyckas.

build_create_payload

Skapa nyttolasten för containeravbildningen.

build_create_payload(workspace, name, model_ids)

Parametrar

Name	Description
workspace Obligatorisk	Workspace Det arbetsyteobjekt som avbildningen ska skapas i.
name Obligatorisk	str Namnet på avbildningen.
model_ids Obligatorisk	list[str] En lista över modell-ID:t som ska paketeras i avbildningen.

Returer

Typ	Description
dict	Nyttolasten för att skapa containeravbildningar.

Undantag

Typ	Description
WebserviceException

build_profile_payload

Skapa profileringsnyttolasten för modellpaketet.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parametrar

Name	Description
profile_name Obligatorisk	str Namnet på profileringskörningen.
input_data	str Indata för profilering. Standardvärde: None
workspace	Workspace Ett arbetsyteobjekt där modellen ska profileras. Standardvärde: None
models	list[Model] En lista över modellobjekt. Kan vara en tom lista. Standardvärde: None
dataset_id	str ID som är associerat med datauppsättningen som innehåller indata för profileringskörningen. Standardvärde: None
container_resource_requirements	ContainerResourceRequirements containerresurskrav för den största instans som modellen ska distribueras till Standardvärde: None
description	str Beskrivning som ska associeras med profileringskörningen. Standardvärde: None

Returer

Typ	Description
dict	Nyttolast för modellprofil

Undantag

Typ	Description
WebserviceException

validate_configuration

Kontrollera att de angivna konfigurationsvärdena är giltiga.

Genererar ett WebserviceException om valideringen misslyckas.

validate_configuration()

Undantag

Typ	Description
WebserviceException

validation_script_content

Kontrollera att syntaxen för poängskriptet är giltig med ast.parse.

Genererar ett UserErrorException om valideringen misslyckas.

validation_script_content()

Undantag

Typ	Description
UserErrorException

Dela via

InferenceConfig Klass

Konstruktor

Parametrar

Kommentarer

Variabler

Metoder

build_create_payload

Parametrar

Returer

Undantag

build_profile_payload

Parametrar

Returer

Undantag

validate_configuration

Undantag

validation_script_content

Undantag

Feedback

Ytterligare resurser