InferenceConfig Sınıf

Başvuru

Dağıtım için kullanılan özel bir ortamın yapılandırma ayarlarını temsil eder.

Çıkarım yapılandırması, dağıtımla ilgili eylemler için Model bir giriş parametresidir:

Yapılandırma nesnesini başlatın.

Devralma: builtins.object

InferenceConfig

Oluşturucu

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parametreler

Name	Description
entry_script Gerekli	str Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.
runtime	str Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır. Default value: None
conda_file	str Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu. Default value: None
extra_docker_file_steps	str Görüntü ayarlanırken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu. Default value: None
source_directory	str Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu. Default value: None
enable_gpu	bool Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Varsayılan değer False'tur. Default value: None
description	str Bu görüntüyü vermek için bir açıklama. Default value: None
base_image	str Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır. Default value: None
base_image_registry	ContainerRegistry Temel görüntüyü içeren görüntü kayıt defteri. Default value: None
cuda_version	str GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA Sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa `enable_gpu` , bu varsayılan olarak '9.1' olarak ayarlanır. Default value: None
environment	Environment Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez. Bu parametreyi veya diğer parametreleri belirtin, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında `entry_script`, `source_directory`ve `description`bulunur. Default value: None
entry_script Gerekli	str Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.
runtime Gerekli	str Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.
conda_file Gerekli	str Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.
extra_docker_file_steps Gerekli	str Görüntü ayarlanırken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.
source_directory Gerekli	str Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.
enable_gpu Gerekli	bool Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Varsayılan değer False'tur.
description Gerekli	str Bu görüntüyü vermek için bir açıklama.
base_image Gerekli	str Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.
base_image_registry Gerekli	ContainerRegistry Temel görüntüyü içeren görüntü kayıt defteri.
cuda_version Gerekli	str GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA Sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa `enable_gpu` , bu varsayılan olarak '9.1' olarak ayarlanır.
environment Gerekli	Environment Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez. Bu parametreyi veya diğer parametreleri belirtin, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında `entry_script`, `source_directory`ve `description`bulunur.

Açıklamalar

Aşağıdaki örnekte InferenceConfig nesnesinin nasıl oluşturulacağı ve modeli dağıtmak için nasıl kullanılacağı gösterilmektedir.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Değişkenler

Name	Description
entry_script	str Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.
runtime	str Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.
conda_file	str Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.
extra_docker_file_steps	str Görüntüyü ayarlarken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.
source_directory	str Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.
enable_gpu	bool Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır.
azureml.core.model.InferenceConfig.description	Bu görüntüyü vermek için bir açıklama.
base_image	str Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.
base_image_registry	ContainerRegistry Temel görüntüyü içeren görüntü kayıt defteri.
cuda_version	str GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa `enable_gpu` , bu varsayılan olarak '9.1' olarak ayarlanır.
azureml.core.model.InferenceConfig.environment	Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez. Bu parametreyi veya diğer parametreleri sağlayın, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında `entry_script`, `source_directory`ve `description`bulunur.

Yöntemler

build_create_payload	Kapsayıcı görüntüsü için oluşturma yükünü oluşturun.
build_profile_payload	Model paketi için profil oluşturma yükünü oluşturun.
validate_configuration	Belirtilen yapılandırma değerlerinin geçerli olup olmadığını denetleyin. Doğrulama başarısız olursa bir WebserviceException oluşturur.
validation_script_content	Puan betiğinin söz diziminin ast.parse ile geçerli olup olmadığını denetleyin. Doğrulama başarısız olursa bir UserErrorException oluşturur.

build_create_payload

Kapsayıcı görüntüsü için oluşturma yükünü oluşturun.

build_create_payload(workspace, name, model_ids)

Parametreler

Name	Description
workspace Gerekli	Workspace Görüntünün oluşturulacağı çalışma alanı nesnesi.
name Gerekli	str Görüntünün adı.
model_ids Gerekli	list[str] Görüntüde paketlenen model kimliklerinin listesi.

Döndürülenler

Tür	Description
dict	Kapsayıcı görüntüsü oluşturma yükü.

Özel durumlar

Tür	Description
WebserviceException

build_profile_payload

Model paketi için profil oluşturma yükünü oluşturun.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parametreler

Name	Description
profile_name Gerekli	str Profil oluşturma çalıştırmasının adı.
input_data	str Profil oluşturma için giriş verileri. Default value: None
workspace	Workspace Modelin profilinin oluşturulduğu çalışma alanı nesnesi. Default value: None
models	list[Model] Model nesnelerinin listesi. Boş bir liste olabilir. Default value: None
dataset_id	str Profil oluşturma çalıştırması için giriş verilerini içeren veri kümesiyle ilişkili kimlik. Default value: None
container_resource_requirements	ContainerResourceRequirements modelin dağıtılacağı en büyük örnek için kapsayıcı kaynağı gereksinimleri Default value: None
description	str Profil oluşturma çalıştırmasıyla ilişkilendirilecek açıklama. Default value: None

Döndürülenler

Tür	Description
dict	Model profili yükü

Özel durumlar

Tür	Description
WebserviceException

validate_configuration

Belirtilen yapılandırma değerlerinin geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir WebserviceException oluşturur.

validate_configuration()

Özel durumlar

Tür	Description
WebserviceException

validation_script_content

Puan betiğinin söz diziminin ast.parse ile geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir UserErrorException oluşturur.

validation_script_content()

Özel durumlar

Tür	Description
UserErrorException

Aracılığıyla paylaş

InferenceConfig Sınıf

Oluşturucu

Parametreler

Açıklamalar

Değişkenler

Yöntemler

build_create_payload

Parametreler

Döndürülenler

Özel durumlar

build_profile_payload

Parametreler

Döndürülenler

Özel durumlar

validate_configuration

Özel durumlar

validation_script_content

Özel durumlar

Geri Bildirim

Ek kaynaklar