Toplu işlem uç noktalarını anlama ve oluşturma

Tamamlandı

Bir modelin toplu tahminler oluşturmasını sağlamak için modeli toplu iş uç noktasına dağıtabilirsiniz.

Eşzamansız toplu puanlama için toplu uç noktaları kullanmayı öğreneceksiniz.

Toplu tahminler

Toplu tahminler almak için bir uç noktaya model dağıtabilirsiniz. uç noktası, toplu puanlama işini tetikleme amacıyla çağırabileceğiniz bir HTTPS uç noktasıdır. Böyle bir uç noktanın avantajı, toplu puanlama işini Azure Synapse Analytics veya Azure Databricks gibi başka bir hizmetten tetikleyebilmenizdir. Toplu iş uç noktası, toplu puanlama işlemini mevcut bir veri alımı ve dönüştürme işlem hattıyla tümleştirmenize olanak tanır.

Uç nokta her çağrıldığında, Azure Machine Learning çalışma alanına bir toplu puanlama işi gönderilir. İş genellikle birden çok girişi puanlandırmak için bir işlem kümesi kullanır. Sonuçlar, Azure Machine Learning çalışma alanına bağlı bir veri deposunda depolanabilir.

Toplu iş uç noktası oluşturun

Bir modeli toplu iş uç noktasına dağıtmak için önce toplu iş uç noktasını oluşturmanız gerekir.

Toplu iş uç noktası oluşturmak için BatchEndpoint sınıfını kullanacaksınız. Batch uç noktası adlarının bir Azure bölgesinde benzersiz olması gerekir.

Uç nokta oluşturmak için aşağıdaki komutu kullanın:

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Bahşiş

Python SDK v2 ile bir toplu uç nokta oluşturmak içinbaşvuru belgelerini inceleyin.

Toplu işlem uç noktasına model dağıtma

Toplu uç noktasına birden çok model dağıtabilirsiniz. Toplu puanlama işini tetikleyen toplu iş uç noktasını her çağırdığınızda, aksi belirtilmedikçe varsayılan dağıtım kullanılır.

Toplu dağıtımlar için işlem kümelerini kullanma

Toplu dağıtımlar için kullanılacak ideal işlem, Azure Machine Learning işlem kümesidir. Toplu puanlama işinin yeni verileri paralel toplu işlerle işlemesini istiyorsanız, en fazla birden fazla örnek içeren bir işlem kümesi sağlamanız gerekir.

İşlem kümesi oluşturmak için AMLCompute sınıfını kullanabilirsiniz.

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)