ModelBatchDeploymentSettings クラス

  • リファレンス

Note

これは試験段階のクラスであり、いつでも変更される可能性があります。 詳細については、https://aka.ms/azuremlexperimental を参照してください。

Model Batch Deployment Settings エンティティ。

継承
builtins.object
ModelBatchDeploymentSettings

コンストラクター

ModelBatchDeploymentSettings(*, mini_batch_size: int | None, instance_count: int | None = None, max_concurrency_per_instance: int | None = None, output_action: BatchDeploymentOutputAction | None = None, output_file_name: str | None = None, retry_settings: BatchRetrySettings | None = None, environment_variables: Dict[str, str] | None = None, error_threshold: int | None = None, logging_level: str | None = None, **kwargs: Any)

パラメーター

名前 説明
mini_batch_size
必須
int

各バッチ呼び出しに渡されるミニバッチのサイズ(既定値は 10)
instance_count
必須
int

干渉が実行されるインスタンスの数。 resources.instance_countに相当します。
output_action
必須
str または BatchDeploymentOutputAction

出力の編成方法を示します。 指定できる値は、"summary_only"、"append_row" です。 既定値は "append_row" です
output_file_name
必須
str

append_row出力アクションのカスタマイズされた出力ファイル名。既定値は "predictions.csv" です
max_concurrency_per_instance
必須
int

インスタンスあたりの並列処理の最大数を示します。既定値は 1 です
retry_settings
必須
BatchRetrySettings

バッチ推論操作の再試行設定(既定値は None)
environment_variables
必須
dict

デプロイで設定される環境変数。
error_threshold
必須
int

エラーしきい値。入力全体のエラー数がこの値を超えると、バッチ推論は中止されます。 範囲は [-1, int.MaxValue] -1 の値は、バッチ推論中のすべてのエラーを無視することを示します。ファイルエラーの FileDataset カウント TabularDataset の場合、これはレコードエラーの数であり、既定値は -1 です
logging_level
必須
str

バッチ推論操作のログ レベル。既定値は "info" です

例

Model Batch Deployment Settings オブジェクトの作成。


   from azure.ai.ml.entities._deployment.model_batch_deployment_settings import ModelBatchDeploymentSettings

   modelBatchDeploymentSetting = ModelBatchDeploymentSettings(
       mini_batch_size=256,
       instance_count=5,
       max_concurrency_per_instance=2,
       output_file_name="output-file-name",
       environment_variables={"env1": "value1", "env2": "value2"},
       error_threshold=2,
       logging_level=1,
   )