ModelBatchDeploymentSettings 類別
注意
這是實驗性類別,隨時可能會變更。 請參閱 https://aka.ms/azuremlexperimental 以取得詳細資訊。
模型批次部署設定實體。
- 繼承
-
builtins.objectModelBatchDeploymentSettings
建構函式
ModelBatchDeploymentSettings(*, mini_batch_size: int | None, instance_count: int | None = None, max_concurrency_per_instance: int | None = None, output_action: BatchDeploymentOutputAction | None = None, output_file_name: str | None = None, retry_settings: BatchRetrySettings | None = None, environment_variables: Dict[str, str] | None = None, error_threshold: int | None = None, logging_level: str | None = None, **kwargs: Any)
參數
名稱 | Description |
---|---|
mini_batch_size
必要
|
傳遞至每個批次調用的迷你批次大小,預設為 10 |
instance_count
必要
|
干擾將執行的實例數目。 相當於 resources.instance_count。 |
output_action
必要
|
指出輸出的組織方式。 可能的值為:「summary_only」、「append_row」。 預設值為 「append_row」 |
output_file_name
必要
|
append_row輸出動作的自訂輸出檔案名,預設為 「predictions.csv」 |
max_concurrency_per_instance
必要
|
指出每個實例的平行處理原則數目上限,預設值為 1 |
retry_settings
必要
|
批次推斷作業的重試設定,預設為 [無] |
environment_variables
必要
|
將在部署中設定的環境變數。 |
error_threshold
必要
|
錯誤臨界值,如果整個輸入的錯誤計數超過此值,批次推斷將會中止。 範圍是 [-1,int。MaxValue] -1 值指出,針對 TabularDataset 檔案失敗的批次推斷期間忽略所有失敗,這是記錄失敗計數,預設值為 -1 |
logging_level
必要
|
批次推斷作業的記錄層級,預設為 「info」 |
範例
建立模型批次部署設定物件。
from azure.ai.ml.entities._deployment.model_batch_deployment_settings import ModelBatchDeploymentSettings
modelBatchDeploymentSetting = ModelBatchDeploymentSettings(
mini_batch_size=256,
instance_count=5,
max_concurrency_per_instance=2,
output_file_name="output-file-name",
environment_variables={"env1": "value1", "env2": "value2"},
error_threshold=2,
logging_level=1,
)