다음을 통해 공유

ModelBatchDeploymentSettings 클래스

  • 참조

참고

이는 실험적인 클래스이며 언제든지 변경될 수 있습니다. 자세한 내용은 https://aka.ms/azuremlexperimental을 참조하세요.

모델 일괄 처리 배포 설정 엔터티.

상속
builtins.object
ModelBatchDeploymentSettings

생성자

ModelBatchDeploymentSettings(*, mini_batch_size: int | None, instance_count: int | None = None, max_concurrency_per_instance: int | None = None, output_action: BatchDeploymentOutputAction | None = None, output_file_name: str | None = None, retry_settings: BatchRetrySettings | None = None, environment_variables: Dict[str, str] | None = None, error_threshold: int | None = None, logging_level: str | None = None, **kwargs: Any)

매개 변수

Name Description
mini_batch_size
필수
int

각 일괄 처리 호출에 전달되는 미니 일괄 처리의 크기이며 기본값은 10입니다.
instance_count
필수
int

간섭이 실행되는 인스턴스의 수입니다. resources.instance_count 동일합니다.
output_action
필수
str 또는 BatchDeploymentOutputAction

출력을 구성하는 방법을 나타냅니다. 가능한 값은 "summary_only", "append_row"입니다. 기본값은 "append_row"입니다.
output_file_name
필수
str

append_row 출력 작업에 대한 사용자 지정된 출력 파일 이름, 기본값은 "predictions.csv"입니다.
max_concurrency_per_instance
필수
int

instance당 최대 병렬 처리 수를 나타내며 기본값은 1입니다.
retry_settings
필수
BatchRetrySettings

일괄 처리 유추 작업에 대한 다시 시도 설정, 기본값은 없음
environment_variables
필수
dict

배포에서 설정될 환경 변수입니다.
error_threshold
필수
int

오류 임계값- 전체 입력에 대한 오류 수가 이 값을 초과하면 일괄 처리 유추가 중단됩니다. 범위는 [-1, int입니다. MaxValue] -1 값은 TabularDataset에 대한 파일 오류의 FileDataset 수에 대한 일괄 처리 유추 중에 모든 오류를 무시함을 나타내며, 이는 레코드 오류의 수이며 기본값은 -1입니다.
logging_level
필수
str

일괄 처리 유추 작업의 로깅 수준, 기본값은 "정보"입니다.

예제

모델 일괄 처리 배포 설정 개체 만들기


   from azure.ai.ml.entities._deployment.model_batch_deployment_settings import ModelBatchDeploymentSettings

   modelBatchDeploymentSetting = ModelBatchDeploymentSettings(
       mini_batch_size=256,
       instance_count=5,
       max_concurrency_per_instance=2,
       output_file_name="output-file-name",
       environment_variables={"env1": "value1", "env2": "value2"},
       error_threshold=2,
       logging_level=1,
   )