배포 및 모니터링 아키텍처 살펴보기
Tip
자세한 내용은 텍스트 및 이미지 탭을 참조하세요.
Proseware 팀은 노쇼 모델이 발전함에 따라 신뢰할 수 있도록 초기 설정에서 진행 중인 모니터링에 이르기까지 모든 것을 포괄하는 MLOps(기계 학습 작업) 프로세스를 따릅니다.
참고
이 다이어그램은 MLOps 아키텍처의 간소화된 표현입니다. 보다 자세한 구현 집합을 탐색하려면 MLOps v2 솔루션 가속기를 참조하세요.
아키텍처에는 다음이 포함됩니다.
- 설치: 솔루션에 필요한 Azure 리소스를 만듭니다.
- 모델 개발(내부 루프): 데이터를 탐색하고 후보 모델을 학습 및 평가합니다.
- 연속 통합: 모델을 패키지하고 등록합니다.
- 모델 배포(외부 루프): 엔드포인트에 모델을 배포합니다.
- 지속적인 배포: 배포를 테스트하고 프로덕션으로 안전하게 승격합니다.
- 모니터링: 시간이 지남에 따라 엔드포인트의 작동 상태 및 모델의 예측을 추적합니다.
모델 등록은 처음 세 단계와 마지막 세 단계 사이의 힌지 지점입니다. 데이터 과학 팀이 모델을 학습하고 등록한 후 이 모듈의 나머지 부분에는 배포, 안전한 승격, 자동화 및 모니터링을 통해 등록된 모델을 사용하는 주기의 후반부에 중점을 둡니다.
자동화할 내용 결정
이러한 각 이후 단계는 Azure Machine Learning 스튜디오 수동으로 수행할 수 있습니다. 그러나 Proseware는 노쇼 모델을 정기적으로 재학습하고 다시 배포할 계획이기 때문에 팀은 GitHub Actions 등록, 배포 및 테스트를 자동화하여 새 모델 버전이 준비될 때마다 워크플로를 트리거합니다. 이러한 반복적인 단계를 자동화하면 팀은 배포 명령을 직접 반복하는 대신 모델 품질을 검토하는 데 집중할 수 있습니다.
참고
자동화는 MLOps의 중심이지만 사람의 판단을 대체하지는 않습니다. 새 모델 버전을 전체 프로덕션 트래픽으로 승격하거나 모니터링 경고를 조사하는 것과 같은 결정을 위해 사용자를 루프에 유지하는 것이 가장 좋습니다.
다음 단원에서는 보호된 GitHub 환경이 해당 검토 지점을 적용 가능한 배포 게이트로 바꾸는 방법을 보여 줍니다.