학습 작업 구성 및 제출

  • 아티클

적용 대상:Python SDK azureml v1

이 문서에서는 Azure Machine Learning 작업을 구성하고 제출하여 모델을 학습시키는 방법에 대해 알아봅니다. 학습 스크립트의 구성 및 제출에 대한 주요 부분은 코드 조각에서 설명합니다. 그런 다음, 예제 Notebook 중 하나를 사용하여 전체 엔드 투 엔드 작업 예제를 찾습니다.

학습하는 경우 일반적으로 로컬 컴퓨터에서 시작한 다음, 나중에 클라우드 기반 클러스터로 스케일 아웃합니다. Azure Machine Learning을 사용하면 스크립트를 변경할 필요 없이 다양한 컴퓨팅 대상에서 학습 스크립트를 실행할 수 있습니다.

스크립트 작업 구성 내에서 각 컴퓨팅 대상에 대한 환경을 정의하기만 하면 됩니다. 그런 다음, 다른 컴퓨팅 대상에서 학습 실험을 실행하려는 경우 해당 컴퓨팅에 대한 작업 구성을 지정합니다.

필수 조건

스크립트 실행 구성이란?

ScriptRunConfig는 실험의 일환으로 학습 작업을 제출하는 데 필요한 정보를 구성하는 데 사용됩니다.

ScriptRunConfig 개체를 사용하여 학습 실험을 제출합니다. 이 개체에는 다음이 포함됩니다.

  • source_directory: 학습 스크립트를 포함하는 원본 디렉터리
  • script: 실행할 학습 스크립트
  • compute_target: 실행할 컴퓨팅 대상
  • 환경: 스크립트를 실행할 때 사용할 환경
  • 및 일부 추가 구성 가능한 옵션(자세한 내용은 참조 설명서 참조)

모델 학습

학습 작업을 제출하는 코드 패턴은 모든 유형의 컴퓨팅 대상에 대해 동일합니다.

  1. 실행할 실험 만들기
  2. 스크립트가 실행되는 환경 만들기
  3. 컴퓨팅 대상 및 환경을 지정하는 ScriptRunConfig 만들기
  4. 작업 제출
  5. 작업이 완료되기를 기다립니다.

또는 다음을 수행할 수 있습니다.

실험 만들기

작업 영역에서 실험을 만듭니다. 실험은 작업 제출을 구성하고 코드를 추적하는 데 도움이 되는 경량 컨테이너입니다.

적용 대상:Python SDK azureml v1

from azureml.core import Experiment

experiment_name = 'my_experiment'
experiment = Experiment(workspace=ws, name=experiment_name)

컴퓨팅 대상 선택

학습 스크립트가 실행될 컴퓨팅 대상을 선택합니다. ScriptRunConfig에 컴퓨팅 대상이 지정되지 않은 경우 또는 이 경우 compute_target='local'Azure Machine Learning에서 스크립트를 로컬로 실행합니다.

이 문서의 예제 코드에서는 "필수 구성 요소" 섹션에서 컴퓨팅 대상 my_compute_target 을 이미 만들었다고 가정합니다.

참고 항목

  • Azure Databricks는 모델 학습을 위한 컴퓨팅 대상으로 지원되지 않습니다. 데이터 준비 및 배포 작업에 Azure Databricks를 사용할 수 있습니다.
  • Azure Arc 지원 Kubernetes 클러스터에 대한 학습을 위해 컴퓨팅 대상을 만들고 연결하려면 Azure arc 지원 Machine Learning 구성을 참조하세요.

환경 만들기

Azure Machine Learning 환경은 기계 학습이 수행되는 환경을 캡슐화한 것입니다. 학습 및 점수 매기기 스크립트와 관련된 Python 패키지, Docker 이미지, 환경 변수 및 소프트웨어 설정을 지정합니다. 또한 런타임(Python, Spark 또는 Docker)을 지정합니다.

사용자 고유의 환경을 정의하거나 Azure Machine Learning 큐레이팅된 환경을 사용할 수 있습니다. 큐레이팅된 환경은 기본적으로 작업 영역에서 사용할 수 있는 미리 정의된 환경입니다. 이러한 환경은 캐시된 Docker 이미지에 의해 지원되어 작업 준비 비용을 줄입니다. 사용 가능한 큐레이팅된 환경의 전체 목록은 Azure Machine Learning 큐레이팅된 환경을 참조하세요.

원격 컴퓨팅 대상의 경우 다음과 같이 인기 있는 큐레이팅된 환경 중 하나를 사용하여 시작할 수 있습니다.

적용 대상:Python SDK azureml v1

from azureml.core import Workspace, Environment

ws = Workspace.from_config()
myenv = Environment.get(workspace=ws, name="AzureML-Minimal")

환경에 대한 자세한 내용은 Azure Machine Learning에서 소프트웨어 환경 만들기 및 사용을 참조하세요.

로컬 컴퓨팅 대상

컴퓨팅 대상이 로컬 컴퓨터인 경우 스크립트가 실행되는 Python 환경에서 필요한 모든 패키지를 사용할 수 있는지 확인해야 합니다. 현재 Python 환경(또는 지정한 경로의 Python)을 사용하는 데 사용합니다 python.user_managed_dependencies .

적용 대상:Python SDK azureml v1

from azureml.core import Environment

myenv = Environment("user-managed-env")
myenv.python.user_managed_dependencies = True

# You can choose a specific Python environment by pointing to a Python path 
# myenv.python.interpreter_path = '/home/johndoe/miniconda3/envs/myenv/bin/python'

스크립트 작업 구성 만들기

이제 컴퓨팅 대상(my_compute_target필수 구성 요소 및 환경 참조,myenv 환경 만들기 참조)이 있으므로 디렉터리에 있는 project_folder 학습 스크립트(train.py)를 실행하는 스크립트 작업 구성을 만듭니다.

적용 대상:Python SDK azureml v1

from azureml.core import ScriptRunConfig

src = ScriptRunConfig(source_directory=project_folder,
                      script='train.py',
                      compute_target=my_compute_target,
                      environment=myenv)

환경을 지정하지 않으면 기본 환경이 만들어집니다.

학습 스크립트에 전달하려는 명령줄 인수가 있는 경우 ScriptRunConfig 생성자의 매개 변수를 통해 arguments 지정할 수 있습니다. 예를 들면 arguments=['--arg1', arg1_val, '--arg2', arg2_val]다음과 같습니다.

작업에 허용되는 기본 최대 시간을 재정의하려면 max_run_duration_seconds 매개 변수를 통해 재정의할 수 있습니다. 이 값보다 오래 걸리는 경우 시스템에서 작업을 자동으로 취소하려고 합니다.

분산 작업 구성 지정

분산 학습 작업을 실행하려면 분산 작업별 구성을 distributed_job_config 매개 변수에 제공합니다. 지원되는 구성 유형으로 MpiConfiguration, TensorflowConfiguration 및 PyTorchConfiguration이 있습니다.

분산된 Horovod, TensorFlow 및 PyTorch 작업 실행에 대한 자세한 내용 및 예제는 다음을 참조하세요.

실험 제출

적용 대상:Python SDK azureml v1

run = experiment.submit(config=src)
run.wait_for_completion(show_output=True)

Important

학습 작업을 제출하면 학습 스크립트가 포함된 디렉터리의 스냅샷 만들어지고 컴퓨팅 대상으로 전송됩니다. 또한 작업 영역에 실험의 일부로 저장됩니다. 파일을 변경하고 작업을 다시 제출하면 변경된 파일만 업로드됩니다.

불필요한 파일이 스냅샷에 포함되지 않도록 하려면 디렉터리에 ignore 파일(.gitignore 또는 .amlignore)을 만듭니다. 이 파일에 제외할 파일 및 디렉터리를 추가합니다. 이 파일 내에서 사용하는 구문에 대한 자세한 내용은 .gitignore의 구문 및 패턴을 참조하세요. .amlignore 파일은 동일한 구문을 사용합니다. 두 파일이 모두 있는 경우 .amlignore 파일이 사용되고 .gitignore 파일은 사용되지 않습니다.

스냅샷 대한 자세한 내용은 스냅샷을 참조하세요.

Important

특수 폴더 두 폴더, 출력 및 로그는 Azure Machine Learning에서 특별 처리를 받습니다. 학습하는 동안 루트 디렉터리(각각 ./outputs 및 ./logs)를 기준으로 하는 outputs 및 logs라는 폴더에 파일을 쓰면 이러한 파일이 작업 기록에 자동으로 업로드되므로 작업이 완료되면 해당 파일에 액세스할 수 있습니다.

학습 중에 아티팩트(예: 모델 파일, 검사포인트, 데이터 파일 또는 그리기된 이미지)를 만들려면 폴더에 아티팩트./outputs(예: 모델 파일, 데이터 파일 또는 그리기된 이미지)를 작성합니다.

마찬가지로 학습 작업의 모든 로그를 ./logs 폴더에 쓸 수 있습니다. Azure Machine Learning의 TensorBoard 통합을 활용하려면 TensorBoard 로그를 이 폴더에 기록해야 합니다. 작업이 진행되는 동안 TensorBoard를 시작하고 이러한 로그를 스트림할 수 있습니다. 나중에 이전 작업의 로그를 복원할 수도 있습니다.

예를 들어 원격 학습 작업 후 outputs 폴더에 쓴 파일을 로컬 컴퓨터로 다운로드하려면 run.download_file(name='outputs/my_output_file', output_file_path='my_destination_path')를 실행합니다.

Git 추적 및 통합

원본 디렉터리가 로컬 Git 리포지토리인 학습 작업을 시작하면 리포지토리에 대한 정보가 작업 기록에 저장됩니다. 자세한 내용은 Azure Machine Learning에 대한 Git 통합을 참조하세요.

Notebook 예제

다양한 학습 시나리오에 대한 작업 구성의 예제는 다음 Notebook을 참조하세요.

Jupyter 노트북을 사용하여 이 서비스 검색 문서를 따라 노트북을 실행하는 방법을 알아봅니다.

문제 해결

  • AttributeError: 'RoundTripLoader' 개체에 'comment_handling' 특성이 없습니다. 이 오류는 azureml-core 종속성인 ruamel-yaml의 새 버전(v0.17.5)에서 발생합니다. 이 버전에는 azureml-core에 대한 호환성이 손상되는 변경이 도입되었습니다. 이 오류를 해결하려면 다른 버전을 실행하고 pip uninstall ruamel-yaml 설치하여 제거 ruamel-yaml 합니다. 지원되는 버전은 ruamel-yamlv0.15.35~v0.17.4(포함)입니다. pip install "ruamel-yaml>=0.15.35,<0.17.5"를 실행하여 이 작업을 수행할 수 있습니다.

  • jwt.exceptions.DecodeError로 인한 작업 실패: 정확한 오류 메시지: jwt.exceptions.DecodeError: It is required that you pass in a value for the "algorithms" argument when calling decode().

    최신 버전의 azureml-core로 업그레이드하는 것이 좋습니다(pip install -U azureml-core).

    . 로컬 작업에 대해 이 문제가 발생합니다. 검사 환경에 설치된 PyJWT 버전입니다. 작업을 시작하고 있습니다. 지원되는 PyJWT 버전은 2.0.0 미만입니다. 버전이 2.0.0 이상인 경우 환경에서 PyJWT를 제거합니다. 다음과 같이 PyJWT 버전을 검사, 제거 및 설치할 수 있습니다.

    1. 명령 셸을 시작하고 azureml-core가 설치된 conda 환경을 활성화합니다.
    2. pip freeze를 입력하고 PyJWT를 찾습니다. 찾은 경우 나열된 버전은 2.0.0 미만입니다.
    3. 나열된 버전이 지원되는 버전이 아닌 경우 명령 셸에서 pip uninstall PyJWT를 수행하고 확인을 위해 y를 입력합니다.
    4. pip install 'PyJWT<2.0.0'를 사용하여 설치

    . 사용자가 만든 환경을 작업과 함께 제출하는 경우 해당 환경에서 최신 버전의 azureml-core를 사용하는 것이 좋습니다. 1.18.0 이상 버전의 azureml-core는 이미 2.0.0보다 높은 PyJWT 버전으로 고정되어 있습니다. 제출하는 환경에서 azureml-core 버전 1.18.0미만을 사용해야 하는 경우 pip 종속성에서 PyJWT를 2.0.0 미만으로 지정해야 합니다.

  • ModuleErrors(명명된 모듈 없음): If . Azure Machine Learning에서 실험을 제출하는 동안 ModuleErrors로 실행 중인 학습 스크립트는 패키지가 설치될 것으로 예상하지만 추가되지는 않습니다. 패키지 이름을 입력하면 Azure Machine Learning은 학습 작업에 사용되는 환경에 패키지를 설치합니다.

    . 추정기를 사용하여 실험을 제출하고, 패키지를 설치하려는 원본에 따라 예측 도구에서 패키지 이름 pip_packages 또는 conda_packages 매개 변수를 지정할 수 있습니다. 매개 변수를 사용하여 conda_dependencies_filepip_requirements_file 모든 종속성이 있는 yml 파일을 지정하거나 모든 pip 요구 사항을 txt 파일에 나열할 수도 있습니다. 예측 도구에서 사용하는 기본 이미지를 재정의하려는 고유한 Azure Machine Learning Environment 개체가 있는 경우 추정기 생성자의 매개 변수를 통해 environment 해당 환경을 지정할 수 있습니다.

    Azure Machine Learning 기본 관련 Docker 이미지 및 해당 콘텐츠는 Azure Machine Learning 컨테이너에서 볼 수 있습니다. 프레임워크 관련 종속성은 해당 프레임워크 설명서에 나와 있습니다.

    참고 항목

    특정 패키지가 Azure Machine Learning 기본 관련 이미지 및 환경에 추가될 만큼 일반적이라고 생각되면 Azure Machine Learning 컨테이너에서 GitHub 문제를 제기하세요.

  • NameError(이름이 정의되지 않음), AttributeError(개체에 특성이 없음): 이 예외는 학습 스크립트에서 발생해야 합니다. Azure Portal에서 로그 파일을 확인하여 정의되지 않은 특정 이름 또는 특성 오류에 대한 자세한 정보를 얻을 수 있습니다. SDK에서 run.get_details()를 사용하여 오류 메시지를 볼 수 있습니다. 이 경우 작업에 대해 생성된 모든 로그 파일도 나열됩니다. 작업을 다시 제출하기 전에 학습 스크립트를 살펴보고 오류를 수정했는지 확인하세요.

  • 작업 또는 실험 삭제: 실험은 Experiment.archive 메서드를 사용하거나 "실험 보관" 단추를 통해 Azure Machine Learning 스튜디오 클라이언트의 [실험] 탭 보기에서 보관할 수 있습니다. 이 작업은 목록 쿼리 및 뷰에서 실험을 숨기지만 삭제하지는 않습니다.

    개별 실험 또는 작업의 영구 삭제는 현재 지원되지 않습니다. 작업 영역 자산을 삭제하는 방법에 대한 자세한 내용은 Machine Learning Service 작업 영역 데이터 내보내기 또는 삭제를 참조하세요.

  • 메트릭 문서가 너무 큼: Azure Machine Learning에는 학습 작업에서 한 번에 로그할 수 있는 메트릭 개체의 크기에 대한 내부 제한이 있습니다. 목록 값 메트릭을 로깅할 때 "메트릭 문서가 너무 큼" 오류가 발생하면 목록을 더 작은 청크로 분할해보세요. 예를 들면 다음과 같습니다.

    run.log_list("my metric name", my_metric[:N])
run.log_list("my metric name", my_metric[N:])

    내부적으로 Azure Machine Learning은 동일한 메트릭 이름을 가진 블록을 연속 목록에 연결합니다.

  • 컴퓨팅 대상을 시작하는 데 시간이 오래 걸립니다. 컴퓨팅 대상에 대한 Docker 이미지는 ACR(Azure Container Registry)에서 로드됩니다. 기본적으로 Azure Machine Learning은 기본 서비스 계층을 사용하는 ACR을 만듭니다. 작업 영역에 대한 ACR을 표준 또는 프리미엄 계층으로 변경하면 이미지를 빌드하고 로드하는 데 걸리는 시간을 줄일 수 있습니다. 자세한 내용은 Azure Container Registry 서비스 계층을 참조하세요.

다음 단계