Обучение моделей с помощью Интерфейса командной строки машинного обучения Azure, пакета SDK и REST API

ОБЛАСТЬ ПРИМЕНЕНИЯ:расширение Машинного обучения для Azure CLI версии 2 (текущая версия)пакет SDK для Python azure-ai-ml версии 2 (предварительная версия)

Машинное обучение Azure предоставляет несколько способов отправки заданий обучения машинного обучения. В этой статье вы узнаете, как отправлять задания с помощью следующих методов:

  • Расширение Azure CLI для машинного обучения: ml расширение, также называемое CLI версии 2.
  • Пакет SDK python версии 2 для Машинного обучения Azure.
  • REST API: API, на основе которых основан интерфейс командной строки и пакет SDK.

Важно!

Пакет SDK версии 2 сейчас находится в общедоступной предварительной версии. Предварительная версия предоставляется без соглашения об уровне обслуживания и не рекомендована для производственных рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования предварительных выпусков Microsoft Azure.

Предварительные требования

Чтобы использовать сведения о пакете SDK , установите пакет SDK машинного обучения Azure версии 2 для Python.

Клонирование репозитория примеров

Фрагменты кода в этой статье основаны на примерах в репозитории GitHub для машинного обучения Azure. Чтобы клонировать репозиторий в среду разработки, используйте следующую команду:

git clone --depth 1 https://github.com/Azure/azureml-examples

Совет

При использовании параметра --depth 1 клонируется только последняя фиксация, что сокращает время выполнения операции.

Пример задания

В примерах в этой статье используется набор данных цветка ириса для обучения модели MLFlow.

Обучение в облаке

При обучении в облаке необходимо подключиться к рабочей области Машинного обучения Azure и выбрать вычислительный ресурс, который будет использоваться для запуска задания обучения.

1. Подключение к рабочей области

Совет

Используйте приведенные ниже вкладки, чтобы выбрать метод, который вы хотите использовать для обучения модели. При выборе вкладки все вкладки в этой статье будут автоматически переключаться на одну и ту же вкладку. Вы можете в любое время выбрать другую вкладку.

Для подключения к рабочей области требуются параметры идентификатора — подписка, группа ресурсов и имя рабочей области. Эти сведения будут использоваться в MLClientazure.ai.ml пространстве имен, чтобы получить дескриптор необходимой рабочей области Машинного обучения Azure. Для проверки подлинности используется проверка подлинности Azure по умолчанию. Дополнительные сведения о настройке учетных данных и подключении к рабочей области см. в этом примере.

#import required libraries
from azure.ai.ml import MLClient
from azure.identity import DefaultAzureCredential

#Enter details of your AzureML workspace
subscription_id = '<SUBSCRIPTION_ID>'
resource_group = '<RESOURCE_GROUP>'
workspace = '<AZUREML_WORKSPACE_NAME>'

#connect to the workspace
ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)

2. Создание вычислительного ресурса для обучения

Вычислительный кластер AzureML — это полностью управляемый вычислительный ресурс, который можно использовать для запуска задания обучения. В следующих примерах создается вычислительный кластер с именем cpu-compute .

from azure.ai.ml.entities import AmlCompute

# specify aml compute name.
cpu_compute_target = "cpu-cluster"

try:
    ml_client.compute.get(cpu_compute_target)
except Exception:
    print("Creating a new cpu compute target...")
    compute = AmlCompute(
        name=cpu_compute_target, size="STANDARD_D2_V2", min_instances=0, max_instances=4
    )
    ml_client.compute.begin_create_or_update(compute)

4. Отправка задания обучения

Для выполнения этого скрипта используется command. Команда будет выполняться путем отправки ее в Azure ML как job.

from azure.ai.ml import command, Input

# define the command
command_job = command(
    code="./src",
    command="python main.py --iris-csv ${{inputs.iris_csv}} --learning-rate ${{inputs.learning_rate}} --boosting ${{inputs.boosting}}",
    environment="AzureML-lightgbm-3.2-ubuntu18.04-py37-cpu@latest",
    inputs={
        "iris_csv": Input(
            type="uri_file",
            path="https://azuremlexamples.blob.core.windows.net/datasets/iris.csv",
        ),
        "learning_rate": 0.9,
        "boosting": "gbdt",
    },
    compute="cpu-cluster",
)
# submit the command
returned_job = ml_client.jobs.create_or_update(command_job)
# get a URL for the status of the job
returned_job.services["Studio"].endpoint

В приведенных выше примерах вы настроили:

  • code — путь, по которому находится код для выполнения команды;
  • command — команда, которую необходимо выполнить;
  • environment — среда, необходимая для запуска скрипта обучения. В этом примере мы используем курированную или готовую среду, предоставляемую с помощью AzureML-lightgbm-3.2-ubuntu18.04-py37-cpuAzureML. Мы используем последнюю версию этой среды с помощью директивы @latest . Вы также можете использовать пользовательские среды, указав базовый образ Docker и указав yaml conda поверх него.
  • inputs — словарь входных данных, использующих пары "значение-имя" для команды. Ключ — это имя входных данных в контексте задания, а значение — это входное значение. На входные данные можно ссылаться в command с помощью выражения ${{inputs.<input_name>}}. Для использования файлов или папок в качестве входных данных можно использовать класс Input.

Дополнительные сведения см. в справочной документации.

При отправке задания URL-адрес возвращается в состояние задания в студии AzureML. Используйте пользовательский интерфейс студии для просмотра хода выполнения задания. Можно также использовать для returned_job.status проверки текущего состояния задания.

Регистрация обученной модели

В следующих примерах показано, как зарегистрировать модель в рабочей области AzureML.

Совет

Свойство name , возвращаемое заданием обучения, используется как часть пути к модели.

from azure.ai.ml.entities import Model
from azure.ai.ml.constants import ModelType

run_model = Model(
    path="azureml://jobs/{}/outputs/artifacts/paths/model/".format(returned_job.name),
    name="run-model-example",
    description="Model created from run.",
    type=ModelType.MLFLOW
)

ml_client.models.create_or_update(run_model)

Дальнейшие действия

Теперь, когда у вас есть обученная модель, узнайте, как развернуть ее с помощью сетевой конечной точки.

Дополнительные примеры см. в репозитории GitHub в примерах AzureML .

Дополнительные сведения о командах Azure CLI, классах пакета SDK для Python или REST API, используемых в этой статье, см. в следующей справочной документации: