InferenceConfig Třída
- Dědičnost
-
builtins.objectInferenceConfig
Konstruktor
InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)
Parametry
- entry_script
- str
Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
- runtime
- str
Modul runtime, který se má použít pro image. Aktuálně podporované moduly runtime jsou spark-py a python.
- conda_file
- str
Cesta k místnímu souboru obsahujícímu definici prostředí conda, která se má použít pro image.
- extra_docker_file_steps
- str
Cesta k místnímu souboru obsahující další kroky Dockeru, které se mají spustit při nastavování image.
- source_directory
- str
Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
- enable_gpu
- bool
Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Výchozí hodnota je False.
- base_image
- str
Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
- base_image_registry
- ContainerRegistry
Registr imagí, který obsahuje základní image.
- cuda_version
- str
Verze CUDA, která se má nainstalovat pro image, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0.
Pokud enable_gpu
je nastavená, bude výchozí hodnota 9.1.
- environment
- Environment
Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované.
Zadejte buď tento parametr, nebo ostatní parametry, ale ne oba parametry. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří entry_script
, source_directory
a description
.
- entry_script
- str
Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
- runtime
- str
Modul runtime, který se má použít pro image. Aktuálně podporované moduly runtime jsou spark-py a python.
- conda_file
- str
Cesta k místnímu souboru obsahujícímu definici prostředí conda, která se má použít pro image.
- extra_docker_file_steps
- str
Cesta k místnímu souboru obsahující další kroky Dockeru, které se mají spustit při nastavování image.
- source_directory
- str
Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
- enable_gpu
- bool
Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Výchozí hodnota je False.
- base_image
- str
Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
- cuda_version
- str
Verze CUDA, která se má nainstalovat pro image, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0.
Pokud enable_gpu
je nastavená, bude výchozí hodnota 9.1.
- environment
- Environment
Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované.
Zadejte buď tento parametr, nebo ostatní parametry, ale ne oba parametry. Jednotlivé parametry nebudou sloužit jako přepsání objektu prostředí. Mezi výjimky patří entry_script
, source_directory
a description
.
Poznámky
Následující ukázka ukazuje, jak vytvořit objekt InferenceConfig a použít ho k nasazení modelu.
from azureml.core.model import InferenceConfig
from azureml.core.webservice import AciWebservice
service_name = 'my-custom-env-service'
inference_config = InferenceConfig(entry_script='score.py', environment=environment)
aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)
service = Model.deploy(workspace=ws,
name=service_name,
models=[model],
inference_config=inference_config,
deployment_config=aci_config,
overwrite=True)
service.wait_for_deployment(show_output=True)
Proměnné
- entry_script
- str
Cesta k místnímu souboru, který obsahuje kód, který se má spustit pro image.
- runtime
- str
Modul runtime, který se má použít pro image. Aktuálně podporované moduly runtime jsou spark-py a python.
- conda_file
- str
Cesta k místnímu souboru obsahujícímu definici prostředí conda, která se má použít pro image.
- extra_docker_file_steps
- str
Cesta k místnímu souboru obsahující další kroky Dockeru, které se mají spustit při nastavování image.
- source_directory
- str
Cesta ke složce, která obsahuje všechny soubory pro vytvoření image.
- enable_gpu
- bool
Určuje, jestli se má v imagi povolit podpora GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service.
- azureml.core.model.InferenceConfig.description
Popis pro tento obrázek.
- base_image
- str
Vlastní image, která se má použít jako základní image. Pokud není uvedena žádná základní image, použije se základní image na základě daného parametru modulu runtime.
- base_image_registry
- ContainerRegistry
Registr imagí, který obsahuje základní image.
- cuda_version
- str
Verze CUDA, která se má nainstalovat pro image, které potřebují podporu GPU. Image GPU se musí používat ve službách Microsoft Azure, jako jsou Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines a Azure Kubernetes Service. Podporované verze jsou 9.0, 9.1 a 10.0.
Pokud enable_gpu
je nastavená hodnota , ve výchozím nastavení se nastaví 9.1.
- azureml.core.model.InferenceConfig.environment
Objekt prostředí, který se má použít pro nasazení. Prostředí nemusí být zaregistrované.
Zadejte buď tento parametr, nebo ostatní parametry, ale ne oba parametry. Jednotlivé parametry NEBUDOU sloužit jako přepsání objektu prostředí. Mezi výjimky patří entry_script
, source_directory
a description
.
Metody
build_create_payload |
Sestavte datovou část vytváření pro image kontejneru. |
build_profile_payload |
Sestavte datovou část profilace pro balíček modelu. |
validate_configuration |
Zkontrolujte, jestli jsou zadané hodnoty konfigurace platné. Vyvolá v WebserviceException případě, že se ověření nezdaří. |
validation_script_content |
Zkontrolujte, jestli je syntaxe skriptu skóre platná s ast.parse. Vyvolá v UserErrorException případě, že se ověření nezdaří. |
build_create_payload
Sestavte datovou část vytváření pro image kontejneru.
build_create_payload(workspace, name, model_ids)
Parametry
Návraty
Datová část vytvoření image kontejneru
Návratový typ
Výjimky
build_profile_payload
Sestavte datovou část profilace pro balíček modelu.
build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)
Parametry
- workspace
- Workspace
Objekt Pracovního prostoru, ve kterém chcete model profilovat.
- dataset_id
- str
ID přidružené k datové sadě obsahující vstupní data pro spuštění profilace.
- container_resource_requirements
- ContainerResourceRequirements
Požadavky na prostředky kontejneru pro největší instanci, do které se má model nasadit
Návraty
Datová část profilu modelu
Návratový typ
Výjimky
validate_configuration
Zkontrolujte, jestli jsou zadané hodnoty konfigurace platné.
Vyvolá v WebserviceException případě, že se ověření nezdaří.
validate_configuration()
Výjimky
validation_script_content
Zkontrolujte, jestli je syntaxe skriptu skóre platná s ast.parse.
Vyvolá v UserErrorException případě, že se ověření nezdaří.
validation_script_content()
Výjimky
Váš názor
https://aka.ms/ContentUserFeedback.
Připravujeme: V průběhu roku 2024 budeme postupně vyřazovat problémy z GitHub coby mechanismus zpětné vazby pro obsah a nahrazovat ho novým systémem zpětné vazby. Další informace naleznete v tématu:Odeslat a zobrazit názory pro