Общие сведения и создание конечных точек пакетной службы

Завершено

Чтобы получить модель для создания прогнозов пакетной службы, можно развернуть модель в конечной точке пакетной службы.

Вы узнаете, как использовать конечные точки пакетной службы для асинхронной оценки пакетной службы.

Пакетные прогнозы

Чтобы получить пакетные прогнозы, можно развернуть модель в конечной точке. Конечная точка — это конечная точка HTTPS, которую можно вызвать для запуска задания пакетной оценки. Преимущество такой конечной точки заключается в том, что можно активировать задание пакетной оценки из другой службы, например Azure Synapse Analytics или Azure Databricks. Конечная точка пакетной службы позволяет интегрировать пакетную оценку с существующим конвейером приема и преобразования данных.

При вызове конечной точки задание пакетной оценки отправляется в рабочую область Машинного обучения Azure. Обычно задание использует вычислительный кластер для оценки нескольких входных данных. Результаты можно хранить в хранилище данных, подключенном к рабочей области Машинного обучения Azure.

Создание пакетной конечной точки

Чтобы развернуть модель в конечной точке пакетной службы, сначала необходимо создать конечную точку пакетной службы.

Чтобы создать конечную точку пакетной службы, используйте BatchEndpoint класс. Имена конечных точек пакетной службы должны быть уникальными в пределах региона Azure.

Чтобы создать конечную точку, используйте следующую команду:

# create a batch endpoint
endpoint = BatchEndpoint(
    name="endpoint-example",
    description="A batch endpoint",
)

ml_client.batch_endpoints.begin_create_or_update(endpoint)

Подсказка

Ознакомьтесь со справочной документацией по созданию пакетной конечной точки с помощью пакета SDK для Python версии 2.

Развернуть модель на пакетной конечной точке

Можно развернуть несколько моделей в пакетной конечной точке. При вызове конечной точки пакетной службы, которая активирует задание пакетной оценки, развертывание по умолчанию будет использоваться, если не указано в противном случае.

Использование вычислительных кластеров для пакетных развертываний

Идеальное вычисление, используемое для пакетных развертываний, — это вычислительный кластер Машинного обучения Azure. Если вы хотите, чтобы задание оценки пакетной службы обрабатывал новые данные в параллельных пакетах, необходимо подготовить вычислительный кластер с несколькими максимальными экземплярами.

Чтобы создать вычислительный кластер, можно использовать AMLCompute класс.

from azure.ai.ml.entities import AmlCompute

cpu_cluster = AmlCompute(
    name="aml-cluster",
    type="amlcompute",
    size="STANDARD_DS11_V2",
    min_instances=0,
    max_instances=4,
    idle_time_before_scale_down=120,
    tier="Dedicated",
)

cpu_cluster = ml_client.compute.begin_create_or_update(cpu_cluster)