共用方式為


ModelBatchDeploymentSettings 類別

注意

這是實驗性類別,隨時可能會變更。 請參閱 https://aka.ms/azuremlexperimental 以取得詳細資訊。

模型批次部署設定實體。

繼承
builtins.object
ModelBatchDeploymentSettings

建構函式

ModelBatchDeploymentSettings(*, mini_batch_size: int | None, instance_count: int | None = None, max_concurrency_per_instance: int | None = None, output_action: BatchDeploymentOutputAction | None = None, output_file_name: str | None = None, retry_settings: BatchRetrySettings | None = None, environment_variables: Dict[str, str] | None = None, error_threshold: int | None = None, logging_level: str | None = None, **kwargs: Any)

參數

名稱 Description
mini_batch_size
必要
int

傳遞至每個批次調用的迷你批次大小,預設為 10

instance_count
必要
int

干擾將執行的實例數目。 相當於 resources.instance_count。

output_action
必要

指出輸出的組織方式。 可能的值為:「summary_only」、「append_row」。 預設值為 「append_row」

output_file_name
必要
str

append_row輸出動作的自訂輸出檔案名,預設為 「predictions.csv」

max_concurrency_per_instance
必要
int

指出每個實例的平行處理原則數目上限,預設值為 1

retry_settings
必要

批次推斷作業的重試設定,預設為 [無]

environment_variables
必要

將在部署中設定的環境變數。

error_threshold
必要
int

錯誤臨界值,如果整個輸入的錯誤計數超過此值,批次推斷將會中止。 範圍是 [-1,int。MaxValue] -1 值指出,針對 TabularDataset 檔案失敗的批次推斷期間忽略所有失敗,這是記錄失敗計數,預設值為 -1

logging_level
必要
str

批次推斷作業的記錄層級,預設為 「info」

範例

建立模型批次部署設定物件。


   from azure.ai.ml.entities._deployment.model_batch_deployment_settings import ModelBatchDeploymentSettings

   modelBatchDeploymentSetting = ModelBatchDeploymentSettings(
       mini_batch_size=256,
       instance_count=5,
       max_concurrency_per_instance=2,
       output_file_name="output-file-name",
       environment_variables={"env1": "value1", "env2": "value2"},
       error_threshold=2,
       logging_level=1,
   )