Batch-végpontok ismertetése és létrehozása

  • 6 perc

Ha le szeretne kapni egy modellt a kötegelt előrejelzések létrehozásához, üzembe helyezheti a modellt egy kötegvégponton.

Megtudhatja, hogyan használhat kötegvégpontokat az aszinkron kötegpontozáshoz.

Kötegelt előrejelzések

A kötegelt előrejelzések lekéréséhez üzembe helyezhet egy modellt egy végponton. A végpont egy HTTPS-végpont, amelyet meghívhat egy kötegpontozási feladat aktiválásához. Az ilyen végpontok előnye, hogy egy másik szolgáltatásból, például az Azure Synapse Analyticsből vagy az Azure Databricksből indíthatja el a kötegelt pontozási feladatot. A kötegvégpontokkal integrálhatja a kötegpontozást egy meglévő adatbetöltési és átalakítási folyamattal.

Amikor meghívja a végpontot, a rendszer kötegelt pontozási feladatot küld az Azure Machine Tanulás munkaterületre. A feladat általában egy számítási fürtöt használ több bemenet pontozásához. Az eredmények tárolhatók egy adattárban, amely az Azure Machine Tanulás-munkaterülethez csatlakozik.

Batch-végpont létrehozása

Ha egy modellt egy kötegvégponton szeretne üzembe helyezni, először létre kell hoznia a kötegvégpontot.

Batch-végpont létrehozásához az osztályt BatchEndpoint kell használnia. A Batch-végpontok nevének egyedinek kell lennie egy Azure-régióban.

Végpont létrehozásához használja a következő parancsot:

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Tipp.

A referenciadokumentációban kötegvégpontot hozhat létre a Python SDK 2-vel.

Modell üzembe helyezése kötegelt végponton

Több modellt is üzembe helyezhet egy kötegvégponton. Amikor meghívja a kötegvégpontozási feladatot aktiváló kötegvégpontot, a rendszer az alapértelmezett üzembe helyezést használja, kivéve, ha másként van megadva.

Screenshot of details page of a batch endpoint, showing the default deployment.

Számítási fürtök használata kötegelt üzembe helyezéshez

A kötegelt üzembe helyezésekhez ideális számítási feladat az Azure Machine Tanulás számítási fürt. Ha azt szeretné, hogy a kötegpontozási feladat párhuzamos kötegekben dolgozza fel az új adatokat, egynél több példányt tartalmazó számítási fürtöt kell kiépítenie.

Számítási fürt létrehozásához használhatja az osztályt AMLCompute .

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)