InferenceConfig Kelas

Mewakili pengaturan konfigurasi untuk lingkungan kustom yang digunakan untuk penyebaran.

Konfigurasi inferensi adalah parameter input untuk Model tindakan terkait penyebaran:

Menginisialisasi objek konfigurasi.

Konstruktor

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parameter

Nama	Deskripsi
entry_script Diperlukan	str Jalur ke file lokal yang berisi kode yang akan dijalankan untuk gambar.
runtime	str Runtime yang digunakan untuk gambar. Runtime yang didukung saat ini adalah 'spark-py' dan 'python'. Nilai default: None
conda_file	str Jalur ke file lokal yang berisi definisi lingkungan conda yang akan digunakan untuk gambar. Nilai default: None
extra_docker_file_steps	str Jalur ke file lokal yang berisi langkah-langkah Docker tambahan untuk dijalankan saat menyiapkan gambar. Nilai default: None
source_directory	str Jalur ke folder yang berisi semua file untuk membuat gambar. Nilai default: None
enable_gpu	bool Menunjukkan apakah akan mengaktifkan dukungan GPU dalam gambar. Gambar GPU harus digunakan pada Microsoft Azure Services seperti Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines, dan Azure Kubernetes Service. Default ke False. Nilai default: None
description	str Deskripsi untuk memberikan gambar ini. Nilai default: None
base_image	str Gambar kustom yang akan digunakan sebagai gambar dasar. Jika tidak ada gambar dasar yang diberikan, gambar dasar akan digunakan berdasarkan parameter runtime yang diberikan. Nilai default: None
base_image_registry	ContainerRegistry Registri gambar yang berisi gambar dasar. Nilai default: None
cuda_version	str Versi CUDA yang akan diinstal untuk gambar yang memerlukan dukungan GPU. Gambar GPU harus digunakan pada Microsoft Azure Services seperti Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines, dan Azure Kubernetes Service. Versi yang didukung adalah 9.0, 9.1, dan 10.0. Jika `enable_gpu` diatur, ini default ke '9.1'. Nilai default: None
environment	Environment Objek lingkungan yang digunakan untuk penyebaran. Lingkungan tidak harus didaftarkan. Berikan parameter ini, atau parameter lainnya, tetapi tidak keduanya. Parameter individual TIDAK akan berfungsi sebagai penimpaan untuk objek lingkungan. Pengecualian termasuk `entry_script`, `source_directory`, dan `description`. Nilai default: None
entry_script Diperlukan	str Jalur ke file lokal yang berisi kode yang akan dijalankan untuk gambar.
runtime Diperlukan	str Runtime yang digunakan untuk gambar. Runtime yang didukung saat ini adalah 'spark-py' dan 'python'.
conda_file Diperlukan	str Jalur ke file lokal yang berisi definisi lingkungan conda yang akan digunakan untuk gambar.
extra_docker_file_steps Diperlukan	str Jalur ke file lokal yang berisi langkah-langkah Docker tambahan untuk dijalankan saat menyiapkan gambar.
source_directory Diperlukan	str Jalur ke folder yang berisi semua file untuk membuat gambar.
enable_gpu Diperlukan	bool Menunjukkan apakah akan mengaktifkan dukungan GPU dalam gambar. Gambar GPU harus digunakan pada Microsoft Azure Services seperti Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines, dan Azure Kubernetes Service. Default ke False.
description Diperlukan	str Deskripsi untuk memberikan gambar ini.
base_image Diperlukan	str Gambar kustom yang akan digunakan sebagai gambar dasar. Jika tidak ada gambar dasar yang diberikan, gambar dasar akan digunakan berdasarkan parameter runtime yang diberikan.
base_image_registry Diperlukan	ContainerRegistry Registri gambar yang berisi gambar dasar.
cuda_version Diperlukan	str Versi CUDA yang akan diinstal untuk gambar yang memerlukan dukungan GPU. Gambar GPU harus digunakan pada Microsoft Azure Services seperti Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines, dan Azure Kubernetes Service. Versi yang didukung adalah 9.0, 9.1, dan 10.0. Jika `enable_gpu` diatur, ini default ke '9.1'.
environment Diperlukan	Environment Objek lingkungan yang digunakan untuk penyebaran. Lingkungan tidak harus didaftarkan. Berikan parameter ini, atau parameter lainnya, tetapi tidak keduanya. Parameter individual TIDAK akan berfungsi sebagai penimpaan untuk objek lingkungan. Pengecualian termasuk `entry_script`, `source_directory`, dan `description`.

Keterangan

Sampel berikut menunjukkan cara membuat objek InferenceConfig dan menggunakannya untuk menyebarkan model.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Variabel

Nama	Deskripsi
entry_script	str Jalur ke file lokal yang berisi kode yang akan dijalankan untuk gambar.
runtime	str Runtime yang digunakan untuk gambar. Runtime yang didukung saat ini adalah 'spark-py' dan 'python'.
conda_file	str Jalur ke file lokal yang berisi definisi lingkungan conda yang akan digunakan untuk gambar.
extra_docker_file_steps	str Jalur ke file lokal yang berisi langkah-langkah Docker tambahan untuk dijalankan saat menyiapkan gambar.
source_directory	str Jalur ke folder yang berisi semua file untuk membuat gambar.
enable_gpu	bool Menunjukkan apakah akan mengaktifkan dukungan GPU dalam gambar. Gambar GPU harus digunakan pada Microsoft Azure Services seperti Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines, dan Azure Kubernetes Service.
azureml.core.model.InferenceConfig.description	Deskripsi untuk memberikan gambar ini.
base_image	str Gambar kustom yang akan digunakan sebagai gambar dasar. Jika tidak ada gambar dasar yang diberikan, gambar dasar akan digunakan berdasarkan parameter runtime yang diberikan.
base_image_registry	ContainerRegistry Registri gambar yang berisi gambar dasar.
cuda_version	str Versi CUDA yang akan diinstal untuk gambar yang memerlukan dukungan GPU. Gambar GPU harus digunakan pada Microsoft Azure Services seperti Azure Container Instances, Azure Machine Learning Compute, Azure Virtual Machines, dan Azure Kubernetes Service. Versi yang didukung adalah 9.0, 9.1, dan 10.0. Jika `enable_gpu` diatur, ini default ke '9.1'.
azureml.core.model.InferenceConfig.environment	Objek lingkungan yang digunakan untuk penyebaran. Lingkungan tidak harus didaftarkan. Berikan parameter ini, atau parameter lainnya, tetapi tidak keduanya. Parameter individual TIDAK akan berfungsi sebagai penimpaan untuk objek lingkungan. Pengecualian termasuk `entry_script`, `source_directory`, dan `description`.

Metode

build_create_payload	Buat payload pembuatan untuk gambar Kontainer.
build_profile_payload	Buat payload pembuatan profil untuk paket Model.
validate_configuration	Periksa apakah nilai konfigurasi yang ditentukan valid. WebserviceException Menaikkan validasi jika gagal.
validation_script_content	Periksa apakah sintaks skrip skor valid dengan ast.parse. UserErrorException Menaikkan validasi jika gagal.

build_create_payload

Buat payload pembuatan untuk gambar Kontainer.

build_create_payload(workspace, name, model_ids)

Parameter

Nama	Deskripsi
workspace Diperlukan	Workspace Objek ruang kerja untuk membuat gambar.
name Diperlukan	str Nama gambar.
model_ids Diperlukan	list[str] Daftar ID model untuk dimasukan ke dalam gambar.

Mengembalikan

Jenis	Deskripsi
dict	Payload pembuatan gambar kontainer.

Pengecualian

Jenis	Deskripsi
WebserviceException

build_profile_payload

Buat payload pembuatan profil untuk paket Model.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parameter

Nama	Deskripsi
profile_name Diperlukan	str Nama eksekusi pembuatan profil.
input_data	str Data input untuk pembuatan profil. Nilai default: None
workspace	Workspace Objek Ruang Kerja untuk membuat profil model. Nilai default: None
models	list[Model] Daftar objek model. Bisa menjadi daftar kosong. Nilai default: None
dataset_id	str Id yang terkait dengan himpunan data yang berisi data input untuk eksekusi pembuatan profil. Nilai default: None
container_resource_requirements	ContainerResourceRequirements persyaratan sumber daya kontainer untuk instans terbesar tempat model akan disebarkan Nilai default: None
description	str Deskripsi yang akan dikaitkan dengan eksekusi pembuatan profil. Nilai default: None

Mengembalikan

Jenis	Deskripsi
dict	Payload profil model

Pengecualian

Jenis	Deskripsi
WebserviceException

validate_configuration

Periksa apakah nilai konfigurasi yang ditentukan valid.

WebserviceException Menaikkan validasi jika gagal.

validate_configuration()

Pengecualian

Jenis	Deskripsi
WebserviceException

validation_script_content

Periksa apakah sintaks skrip skor valid dengan ast.parse.

UserErrorException Menaikkan validasi jika gagal.

validation_script_content()

Pengecualian

Jenis	Deskripsi
UserErrorException

Saran dan Komentar

Apakah halaman ini membantu?