InferenceConfig Sınıf

  • Başvuru

Dağıtım için kullanılan özel bir ortamın yapılandırma ayarlarını temsil eder.

Çıkarım yapılandırması, dağıtımla ilgili eylemler için Model bir giriş parametresidir:

Yapılandırma nesnesini başlatın.

Devralma
builtins.object
InferenceConfig

Oluşturucu

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parametreler

entry_script
str
Gerekli

Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.

runtime
str
varsayılan değer: None

Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.

conda_file
str
varsayılan değer: None

Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.

extra_docker_file_steps
str
varsayılan değer: None

Görüntü ayarlanırken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.

source_directory
str
varsayılan değer: None

Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.

enable_gpu
bool
varsayılan değer: None

Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Varsayılan değer False'tur.

description
str
varsayılan değer: None

Bu görüntüyü vermek için bir açıklama.

base_image
str
varsayılan değer: None

Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.

base_image_registry
ContainerRegistry
varsayılan değer: None

Temel görüntüyü içeren görüntü kayıt defteri.

cuda_version
str
varsayılan değer: None

GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA Sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa enable_gpu , bu varsayılan olarak '9.1' olarak ayarlanır.

environment
Environment
varsayılan değer: None

Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez.

Bu parametreyi veya diğer parametreleri belirtin, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında entry_script, source_directoryve descriptionbulunur.

entry_script
str
Gerekli

Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.

runtime
str
Gerekli

Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.

conda_file
str
Gerekli

Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.

extra_docker_file_steps
str
Gerekli

Görüntü ayarlanırken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.

source_directory
str
Gerekli

Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.

enable_gpu
bool
Gerekli

Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Varsayılan değer False'tur.

description
str
Gerekli

Bu görüntüyü vermek için bir açıklama.

base_image
str
Gerekli

Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.

base_image_registry
ContainerRegistry
Gerekli

Temel görüntüyü içeren görüntü kayıt defteri.

cuda_version
str
Gerekli

GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA Sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa enable_gpu , bu varsayılan olarak '9.1' olarak ayarlanır.

environment
Environment
Gerekli

Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez.

Bu parametreyi veya diğer parametreleri belirtin, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında entry_script, source_directoryve descriptionbulunur.

Açıklamalar

Aşağıdaki örnekte InferenceConfig nesnesinin nasıl oluşturulacağı ve modeli dağıtmak için nasıl kullanılacağı gösterilmektedir.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Değişkenler

entry_script
str

Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.

runtime
str

Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.

conda_file
str

Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.

extra_docker_file_steps
str

Görüntüyü ayarlarken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.

source_directory
str

Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.

enable_gpu
bool

Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır.

azureml.core.model.InferenceConfig.description

Bu görüntüyü vermek için bir açıklama.

base_image
str

Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.

base_image_registry
ContainerRegistry

Temel görüntüyü içeren görüntü kayıt defteri.

cuda_version
str

GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa enable_gpu , bu varsayılan olarak '9.1' olarak ayarlanır.

azureml.core.model.InferenceConfig.environment

Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez.

Bu parametreyi veya diğer parametreleri sağlayın, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında entry_script, source_directoryve descriptionbulunur.

Yöntemler

build_create_payload

Kapsayıcı görüntüsü için oluşturma yükünü oluşturun.
build_profile_payload

Model paketi için profil oluşturma yükünü oluşturun.
validate_configuration

Belirtilen yapılandırma değerlerinin geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir WebserviceException oluşturur.
validation_script_content

Puan betiğinin söz diziminin ast.parse ile geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir UserErrorException oluşturur.

build_create_payload

Kapsayıcı görüntüsü için oluşturma yükünü oluşturun.

build_create_payload(workspace, name, model_ids)

Parametreler

workspace
Workspace
Gerekli

Görüntünün oluşturulacağı çalışma alanı nesnesi.

name
str
Gerekli

Görüntünün adı.

model_ids
list[str]
Gerekli

Görüntüde paketlenen model kimliklerinin listesi.

Döndürülenler

Kapsayıcı görüntüsü oluşturma yükü.

Dönüş türü

dict

Özel durumlar

WebserviceException

build_profile_payload

Model paketi için profil oluşturma yükünü oluşturun.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parametreler

profile_name
str
Gerekli

Profil oluşturma çalıştırmasının adı.

input_data
str
varsayılan değer: None

Profil oluşturma için giriş verileri.

workspace
Workspace
varsayılan değer: None

Modelin profilinin oluşturulduğu çalışma alanı nesnesi.

models
list[Model]
varsayılan değer: None

Model nesnelerinin listesi. Boş bir liste olabilir.

dataset_id
str
varsayılan değer: None

Profil oluşturma çalıştırması için giriş verilerini içeren veri kümesiyle ilişkili kimlik.

container_resource_requirements
ContainerResourceRequirements
varsayılan değer: None

modelin dağıtılacağı en büyük örnek için kapsayıcı kaynağı gereksinimleri

description
str
varsayılan değer: None

Profil oluşturma çalıştırmasıyla ilişkilendirilecek açıklama.

Döndürülenler

Model profili yükü

Dönüş türü

dict

Özel durumlar

WebserviceException

validate_configuration

Belirtilen yapılandırma değerlerinin geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir WebserviceException oluşturur.

validate_configuration()

Özel durumlar

WebserviceException

validation_script_content

Puan betiğinin söz diziminin ast.parse ile geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir UserErrorException oluşturur.

validation_script_content()

Özel durumlar

UserErrorException