일괄 처리 엔드포인트 이해 및 만들기

완료됨

일괄 처리 예측을 생성하는 모델을 얻으려면 모델을 일괄 처리 엔드포인트에 배포할 수 있습니다.

비동기 일괄 처리 점수 매기기를 위해 일괄 처리 엔드포인트를 사용하는 방법을 알아봅니다.

일괄 처리 예측

일괄 처리 예측을 얻으려면 모델을 엔드포인트에 배포할 수 있습니다. 엔드포인트는 일괄 처리 채점 작업을 트리거하기 위해 호출할 수 있는 HTTPS 엔드포인트입니다. 이러한 엔드포인트의 장점은 Azure Synapse Analytics 또는 Azure Databricks와 같은 다른 서비스에서 일괄 처리 채점 작업을 트리거할 수 있다는 것입니다. 일괄 처리 엔드포인트를 사용하면 일괄 처리 채점을 기존 데이터 수집 및 변환 파이프라인과 통합할 수 있습니다.

엔드포인트가 호출될 때마다 일괄 처리 점수 매기기 작업이 Azure Machine Learning 작업 영역에 제출됩니다. 이 작업은 일반적으로 컴퓨팅 클러스터 를 사용하여 여러 입력의 점수를 매깁니다. 결과는 Azure Machine Learning 작업 영역에 연결된 데이터 저장소에 저장할 수 있습니다.

일괄 처리 엔드포인트 만들기

모델을 일괄 처리 엔드포인트에 배포하려면 먼저 일괄 처리 엔드포인트를 만들어야 합니다.

일괄 처리 엔드포인트를 만들려면 클래스를 BatchEndpoint 사용합니다. Batch 엔드포인트 이름은 Azure 지역 내에서 고유해야 합니다.

엔드포인트를 만들려면 다음 명령을 사용합니다.

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

팁 (조언)

참조 설명서를 탐색하여 Python SDK v2를 사용하여 일괄 처리 엔드포인트를 만듭니다.

일괄 처리 엔드포인트에 모델 배포

일괄 처리 엔드포인트에 여러 모델을 배포할 수 있습니다. 일괄 처리 점수 매기기 작업을 트리거하는 일괄 처리 엔드포인트를 호출할 때마다 달리 지정하지 않는 한 기본 배포 가 사용됩니다.

일괄 배포에 컴퓨팅 클러스터 사용

일괄 배포에 사용할 이상적인 컴퓨팅은 Azure Machine Learning 컴퓨팅 클러스터입니다. 일괄 처리 채점 작업이 새 데이터를 병렬 일괄 처리로 처리하려면 최대 인스턴스가 두 개 이상인 컴퓨팅 클러스터를 프로비전해야 합니다.

컴퓨팅 클러스터를 만들려면 클래스를 AMLCompute 사용할 수 있습니다.

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)