InferenceConfig 類別

表示用於部署之自定義環境的組態設定。

推斷組態是部署相關動作的 Model 輸入參數：

• deploy

• profile

• package

初始化 config 物件。

建構函式

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

參數

名稱	Description
entry_script 必要	str 本機檔案的路徑，其中包含要針對映像執行的程序代碼。
runtime	str 要用於映像的運行時間。 目前支持的運行時間是 『spark-py』 和 『python』。 預設值: None
conda_file	str 本機檔案的路徑，其中包含要用於映像的 conda 環境定義。 預設值: None
extra_docker_file_steps	str 本機檔案的路徑，其中包含設定映射時要執行的其他 Docker 步驟。 預設值: None
source_directory	str 包含要建立映像之所有檔案的資料夾路徑。 預設值: None
enable_gpu	bool 指出是否要在映像中啟用 GPU 支援。 GPU 映射必須用於 Microsoft Azure 服務，例如 Azure 容器實例、Azure Machine Learning 計算、Azure 虛擬機和 Azure Kubernetes Service。 預設為 False。 預設值: None
description	str 提供此影像的描述。 預設值: None
base_image	str 做為基底映像的自定義映像。 如果沒有提供基底映射，則會根據指定的運行時間參數來使用基底映射。 預設值: None
base_image_registry	ContainerRegistry 包含基底映像的映像登錄。 預設值: None
cuda_version	str 要針對需要 GPU 支援的映像安裝 CUDA 版本。 GPU 映射必須用於 Microsoft Azure 服務，例如 Azure 容器實例、Azure Machine Learning 計算、Azure 虛擬機和 Azure Kubernetes Service。 支援的版本為9.0、9.1和10.0。 如果 enable_gpu 已設定，則預設為 『9.1』。 預設值: None
environment	Environment 要用於部署的環境物件。 環境不需要註冊。 請提供此參數或其他參數，但不能同時提供這兩個參數。 個別參數不會做為環境物件的覆寫。 例外狀況包括 entry_script、 source_directory和 description。 預設值: None
entry_script 必要	str 本機檔案的路徑，其中包含要針對映像執行的程序代碼。
runtime 必要	str 要用於映像的運行時間。 目前支持的運行時間是 『spark-py』 和 『python』。
conda_file 必要	str 本機檔案的路徑，其中包含要用於映像的 conda 環境定義。
extra_docker_file_steps 必要	str 本機檔案的路徑，其中包含設定映射時要執行的其他 Docker 步驟。
source_directory 必要	str 包含要建立映像之所有檔案的資料夾路徑。
enable_gpu 必要	bool 指出是否要在映像中啟用 GPU 支援。 GPU 映射必須用於 Microsoft Azure 服務，例如 Azure 容器實例、Azure Machine Learning 計算、Azure 虛擬機和 Azure Kubernetes Service。 預設為 False。
description 必要	str 提供此影像的描述。
base_image 必要	str 做為基底映像的自定義映像。 如果沒有提供基底映射，則會根據指定的運行時間參數來使用基底映射。
base_image_registry 必要	ContainerRegistry 包含基底映像的映像登錄。
cuda_version 必要	str 要針對需要 GPU 支援的映像安裝 CUDA 版本。 GPU 映射必須用於 Microsoft Azure 服務，例如 Azure 容器實例、Azure Machine Learning 計算、Azure 虛擬機和 Azure Kubernetes Service。 支援的版本為9.0、9.1和10.0。 如果 enable_gpu 已設定，則預設為 『9.1』。
environment 必要	Environment 要用於部署的環境物件。 環境不需要註冊。 請提供此參數或其他參數，但不能同時提供這兩個參數。 個別參數不會做為環境物件的覆寫。 例外狀況包括 entry_script、 source_directory和 description。

備註

下列範例示範如何建立 InferenceConfig 物件，並用它來部署模型。

   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

變數

名稱	Description
entry_script	str 本機檔案的路徑，其中包含要針對映像執行的程序代碼。
runtime	str 要用於映像的運行時間。 目前支持的運行時間是 『spark-py』 和 『python』。
conda_file	str 本機檔案的路徑，其中包含要用於映像的 conda 環境定義。
extra_docker_file_steps	str 本機檔案的路徑，其中包含設定映射時要執行的其他 Docker 步驟。
source_directory	str 包含要建立映像之所有檔案的資料夾路徑。
enable_gpu	bool 指出是否要在映像中啟用 GPU 支援。 GPU 映射必須用於 Microsoft Azure 服務，例如 Azure 容器實例、Azure Machine Learning 計算、Azure 虛擬機和 Azure Kubernetes Service。
azureml.core.model.InferenceConfig.description	提供此影像的描述。
base_image	str 做為基底映像的自定義映像。 如果沒有提供基底映射，則會根據指定的運行時間參數來使用基底映射。
base_image_registry	ContainerRegistry 包含基底映像的映像登錄。
cuda_version	str 要針對需要 GPU 支援的映像安裝 CUDA 版本。 GPU 映射必須用於 Microsoft Azure 服務，例如 Azure 容器實例、Azure Machine Learning 計算、Azure 虛擬機和 Azure Kubernetes Service。 支援的版本為9.0、9.1和10.0。 如果 enable_gpu 已設定，則預設為 『9.1』。
azureml.core.model.InferenceConfig.environment	要用於部署的環境物件。 環境不需要註冊。 請提供此參數或其他參數，但不能同時提供這兩個參數。 個別參數不會做為環境物件的覆寫。 例外狀況包括 entry_script、 source_directory和 description。

方法

build_create_payload	建置容器映像的建立承載。
build_profile_payload	建置模型套件的分析承載。
validate_configuration	檢查指定的組態值是否有效。 如果驗證失敗，則 WebserviceException 引發 。
validation_script_content	檢查分數腳本的語法是否對 ast.parse 有效。 如果驗證失敗，則 UserErrorException 引發 。

build_create_payload

建置容器映像的建立承載。

build_create_payload(workspace, name, model_ids)

參數

名稱	Description
workspace 必要	Workspace 要用來建立映像的工作區物件。
name 必要	str 影像的名稱。
model_ids 必要	list[str] 要封裝至映像的模型標識碼清單。

傳回

類型	Description
dict	容器映像建立承載。

例外狀況

類型	Description
WebserviceException

build_profile_payload

建置模型套件的分析承載。

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

參數

名稱	Description
profile_name 必要	str 程式代碼剖析執行的名稱。
input_data	str 分析的輸入數據。 預設值: None
workspace	Workspace 要在其中分析模型的 Workspace 物件。 預設值: None
models	list[Model] 模型對象的清單。 可以是空白清單。 預設值: None
dataset_id	str 與包含分析執行輸入數據的數據集相關聯的標識碼。 預設值: None
container_resource_requirements	ContainerResourceRequirements 要部署模型之最大實例的容器資源需求 預設值: None
description	str 與程式代碼剖析執行相關聯的描述。 預設值: None

傳回

類型	Description
dict	模型配置檔承載

例外狀況

類型	Description
WebserviceException

validate_configuration

檢查指定的組態值是否有效。

如果驗證失敗，則 WebserviceException 引發 。

validate_configuration()

例外狀況

類型	Description
WebserviceException

validation_script_content

檢查分數腳本的語法是否對 ast.parse 有效。

如果驗證失敗，則 UserErrorException 引發 。

validation_script_content()

例外狀況

類型	Description
UserErrorException