MLflow 모델 로깅

이 문서에서는 학습된 모델(또는 아티팩트)을 MLflow 모델로 기록하는 방법을 설명합니다. MLflow에서 모델을 패키지하는 방법과 해당 모델을 실행하는 방법을 사용자 지정하는 다양한 방법을 살펴봅니다.

아티팩트 대신 모델을 로깅하는 이유는?

아티팩트에서 MLflow 의 모델에 이르기까지 로깅 MLflow 모델과 비교하여 로깅 아티팩트 또는 파일 간의 차이점을 설명합니다.

MLflow 모델도 아티팩트입니다. 그러나 해당 모델에는 모델을 만든 사람과 해당 모델을 사용하려는 사용자 간의 계약 역할을 하는 특정 구조가 있습니다. 이 계약은 아티팩트 자체와 그 의미 사이에 다리를 놓는 데 도움이 됩니다.

모델 로깅에는 다음과 같은 이점이 있습니다.

• 유추 mlflow.<flavor>.load_model를 위해 모델을 직접 로드할 수 있으며 함수를 predict 사용할 수 있습니다.
• 파이프라인 입력은 모델을 직접 사용할 수 있습니다.
• 점수 매기기 스크립트 또는 환경을 표시하지 않고 모델을 배포할 수 있습니다.
• Swagger는 배포된 엔드포인트에서 자동으로 사용하도록 설정되며 Azure Machine Learning 스튜디오 테스트 기능을 사용할 수 있습니다.
• 책임 있는 AI 대시보드를 사용할 수 있습니다.

이 섹션에서는 MLflow를 사용하여 Azure Machine Learning에서 모델의 개념을 사용하는 방법을 설명합니다.

autolog를 사용하여 모델 로깅

MLflow 자동 로그 기능을 사용할 수 있습니다. 자동 로그를 사용하면 MLflow에서 프레임워크가 관련 있는 것으로 간주하는 모든 메트릭, 매개 변수, 아티팩트 및 모델을 기록하도록 프레임워크에 지시할 수 있습니다. 기본적으로 자동 로그를 사용하도록 설정하면 대부분의 모델이 기록됩니다. 경우에 따라 일부 버전이 모델을 기록하지 않을 수 있습니다. 예를 들어 PySpark 맛은 특정 크기를 초과하는 모델을 기록하지 않습니다.

자동 로깅을 mlflow.autolog() 사용하거나 mlflow.<flavor>.autolog() 활성화합니다. 이 예제에서는 XGBoost로 학습된 분류자 모델을 기록하는 데 사용합니다 autolog() .

import mlflow
from xgboost import XGBClassifier
from sklearn.metrics import accuracy_score

mlflow.autolog()

model = XGBClassifier(use_label_encoder=False, eval_metric="logloss")
model.fit(X_train, y_train, eval_set=[(X_test, y_test)], verbose=False)

y_pred = model.predict(X_test)
accuracy = accuracy_score(y_test, y_pred)

팁

Machine Learning 파이프라인(예: Scikit-Learn 파이프라인)을 사용하는 경우 해당 파이프라인 버전의 기능을 사용하여 autolog 모델을 기록합니다. 모델 로깅은 파이프라인 개체에서 메서드를 호출할 fit() 때 자동으로 발생합니다. MLflow Notebook을 사용하여 XGBoost 분류자 학습 및 추적은 파이프라인을 사용하여 전처리로 모델을 기록하는 방법을 보여 줍니다.

사용자 지정 서명, 환경 또는 샘플을 사용하여 모델 로깅

MLflow mlflow.<flavor>.log_model 메서드는 모델을 수동으로 기록할 수 있습니다. 이 워크플로는 모델 로깅의 다양한 측면을 제어할 수 있습니다.

이 방법을 사용하는 경우는 다음과 같습니다.

• pip 패키지 또는 자동으로 검색되는 환경과 다른 conda 환경을 나타내려고 합니다.
• 입력 예제를 포함하려고 합니다.
• 필요한 패키지에 특정 아티팩트 포함
• autolog 은 서명을 올바르게 유추하지 않습니다. 이는 서명에 특정 셰이프가 필요한 텐서 입력을 처리할 때 중요합니다.
• 자동 로그 동작은 어떤 이유로 사용자의 용도를 다루지 않습니다.

이 코드 예제에서는 XGBoost 분류자용 모델을 기록합니다.

import mlflow
from xgboost import XGBClassifier
from sklearn.metrics import accuracy_score
from mlflow.models import infer_signature
from mlflow.utils.environment import _mlflow_conda_env

mlflow.autolog(log_models=False)

model = XGBClassifier(use_label_encoder=False, eval_metric="logloss")
model.fit(X_train, y_train, eval_set=[(X_test, y_test)], verbose=False)
y_pred = model.predict(X_test)

accuracy = accuracy_score(y_test, y_pred)

# Signature
signature = infer_signature(X_test, y_test)

# Conda environment
custom_env =_mlflow_conda_env(
    additional_conda_deps=None,
    additional_pip_deps=["xgboost==1.5.2"],
    additional_conda_channels=None,
)

# Sample
input_example = X_train.sample(n=1)

# Log the model manually
mlflow.xgboost.log_model(model, 
                         artifact_path="classifier", 
                         conda_env=custom_env,
                         signature=signature,
                         input_example=input_example)

참고 항목

• autolog 에는 구성이 있습니다 log_models=False . 이렇게 하면 자동 MLflow 모델 로깅이 방지됩니다. 자동 MLflow 모델 로깅은 수동 프로세스로 나중에 발생합니다.
• infer_signature 이 메서드를 사용하여 입력 및 출력에서 직접 서명을 유추합니다.
• 이 mlflow.utils.environment._mlflow_conda_env 메서드는 MLflow SDK의 프라이빗 메서드입니다. 이 예제에서는 코드를 더 간단하게 만들지만 주의해서 사용합니다. 그것은 미래에 변경 될 수 있습니다. 또는 YAML 정의를 Python 사전으로 수동으로 생성할 수 있습니다.

predict 메서드에서 다른 동작을 사용하여 모델 로깅

모델 중 하나 또는 mlflow.<flavor>.log_model중 하나를 mlflow.autolog 사용하여 모델을 로깅할 때 모델 버전에 따라 유추를 실행하는 방법과 모델이 반환하는 내용이 결정됩니다. MLflow는 결과 생성 predict 에 대한 특정 동작을 적용하지 않습니다. 일부 시나리오에서는 모델이 실행되기 전과 후에 일부 전처리 또는 후처리를 수행할 수 있습니다.

이 경우 입력에서 출력으로 직접 이동하는 기계 학습 파이프라인을 구현합니다. 이 구현은 가능하고 때로는 성능을 향상시키는 것이 권장되지만 달성하기 어려울 수 있습니다. 이러한 경우 다음 섹션에서 설명한 대로 모델이 유추를 처리하는 방법을 사용자 지정하는 데 도움이 될 수 있습니다.

사용자 지정 모델 로깅

MLflow는 다음을 비롯한 많은 기계 학습 프레임워크를 지원합니다.

• CatBoost
• FastAI
• h2o
• Keras
• LightGBM
• MLeap
• MXNet Gluon
• ONNX
• Prophet
• PyTorch
• Scikit-Learn
• spaCy
• Spark MLLib
• statsmodels
• Tensorflow
• XGBoost

그러나 맛의 작동 방식을 변경하거나, MLflow에서 기본적으로 지원되지 않는 모델을 기록하거나, 다른 프레임워크의 여러 요소를 사용하는 모델을 기록해야 할 수 있습니다. 이러한 경우 사용자 지정 모델 버전을 만들어야 할 수 있습니다.

이 문제를 해결하기 위해 MLflow는 pyfunc Python 함수에서 시작하여 맛을 도입합니다. 이 맛은 개체가 다음 두 가지 조건을 충족하는 한 모든 개체를 모델로 기록할 수 있습니다.

• 적어도 메서드 predict 메서드를 구현합니다.
• Python 개체는 다음에서 상속됩니다. mlflow.pyfunc.PythonModel

팁

Scikit-learn API를 구현하는 직렬화 가능한 모델은 Scikit-learn을 사용하여 모델을 빌드했는지 여부에 관계없이 Scikit-learn 버전을 사용하여 모델을 기록할 수 있습니다. 모델을 Pickle 형식으로 유지할 수 있고 개체 predict() 에 메서드( predict_proba() 적어도)가 있는 경우 MLflow 실행 내에서 모델을 기록하는 데 사용할 mlflow.sklearn.log_model() 수 있습니다.

모델 래퍼 사용

기존 모델 개체 주위에 래퍼를 만드는 경우 사용자 지정 모델에 대한 버전을 만드는 것이 가장 간단합니다. MLflow는 이를 직렬화하고 패키지합니다. Python 개체는 일반적으로 Pickle 형식의 파일로 파일 시스템에 개체를 저장할 수 있는 경우 직렬화할 수 있습니다. 런타임에 개체는 해당 파일에서 구체화할 수 있습니다. 이렇게 하면 저장되었을 때 사용할 수 있는 모든 값, 속성 및 메서드가 복원됩니다.

이 방법을 사용하는 경우는 다음과 같습니다.

• 모델을 Pickle 형식으로 직렬화할 수 있습니다.
• 학습 직후와 마찬가지로 모델의 상태를 유지하려고 합니다.
• 함수의 작동 방식을 predict 사용자 지정하려고 합니다.

이 코드 샘플은 XGBoost로 만든 모델을 래핑하여 XGBoost 버전 기본 구현과 다르게 동작하도록 합니다. 대신 클래스 대신 확률을 반환합니다.

from mlflow.pyfunc import PythonModel, PythonModelContext

class ModelWrapper(PythonModel):
    def __init__(self, model):
        self._model = model

    def predict(self, context: PythonModelContext, data):
        # You don't have to keep the semantic meaning of `predict`. You can use here model.recommend(), model.forecast(), etc
        return self._model.predict_proba(data)

    # You can even add extra functions if you need to. Since the model is serialized,
    # all of them will be available when you load your model back.
    def predict_batch(self, data):
        pass

실행에서 사용자 지정 모델을 기록합니다.

import mlflow
from xgboost import XGBClassifier
from sklearn.metrics import accuracy_score
from mlflow.models import infer_signature

mlflow.xgboost.autolog(log_models=False)

model = XGBClassifier(use_label_encoder=False, eval_metric="logloss")
model.fit(X_train, y_train, eval_set=[(X_test, y_test)], verbose=False)
y_probs = model.predict_proba(X_test)

accuracy = accuracy_score(y_test, y_probs.argmax(axis=1))
mlflow.log_metric("accuracy", accuracy)

signature = infer_signature(X_test, y_probs)
mlflow.pyfunc.log_model("classifier", 
                        python_model=ModelWrapper(model),
                        signature=signature)

팁

여기서 메서드는 infer_signature 서명을 유추하는 데 사용합니다 y_probs . 대상 열에는 대상 클래스가 있지만, 이제 모델에서 각 클래스에 대해 두 개의 확률을 반환합니다.

아티팩트 사용

모델은 로드해야 하는 여러 조각으로 구성될 수 있습니다. Pickle 파일로 직렬화할 방법이 없을 수도 있습니다. 이러한 경우 PythonModel 임의 아티팩트 목록 표시 를 지원합니다. 각 아티팩트가 모델과 함께 패키지됩니다.

다음 경우에 이 기술을 사용합니다.

• 모델을 Pickle 형식으로 직렬화할 수 없거나 더 나은 serialization 형식을 사용할 수 있습니다.
• 모델을 로드하려면 하나 이상의 아티팩트가 참조되어야 합니다.
• 몇 가지 유추 구성 속성(예: 추천할 항목 수)을 유지할 수 있습니다.
• 모델이 로드되는 방식 및 함수 작동 방식을 predict 사용자 지정하려고 합니다.

이 코드 샘플에서는 아티팩트를 사용하여 사용자 지정 모델을 기록하는 방법을 보여 줍니다.

encoder_path = 'encoder.pkl'
joblib.dump(encoder, encoder_path)

model_path = 'xgb.model'
model.save_model(model_path)

mlflow.pyfunc.log_model("classifier", 
                        python_model=ModelWrapper(),
                        artifacts={ 
                            'encoder': encoder_path,
                            'model': model_path 
                        },
                        signature=signature)

참고 항목

• 모델은 피클로 저장되지 않습니다. 대신 코드는 사용한 프레임워크의 save 메서드를 사용하여 모델을 저장했습니다.
• 모델 래퍼는 ModelWrapper()모델이지만 모델이 생성자 A 새 사전 매개 변수 artifacts 에 매개 변수로 전달되지 않습니다. 아티팩트 이름으로 키가 있고 아티팩트가 저장된 로컬 파일 시스템의 경로로 값이 있습니다.

그러면 해당 모델 래퍼는 다음과 같습니다.

from mlflow.pyfunc import PythonModel, PythonModelContext

class ModelWrapper(PythonModel):
    def load_context(self, context: PythonModelContext):
        import pickle
        from xgboost import XGBClassifier
        from sklearn.preprocessing import OrdinalEncoder
        
        self._encoder = pickle.loads(context.artifacts["encoder"])
        self._model = XGBClassifier(use_label_encoder=False, eval_metric="logloss")
        self._model.load_model(context.artifacts["model"])

    def predict(self, context: PythonModelContext, data):
        return self._model.predict_proba(data)

전체 학습 루틴은 다음과 같습니다.

import mlflow
from xgboost import XGBClassifier
from sklearn.preprocessing import OrdinalEncoder
from sklearn.metrics import accuracy_score
from mlflow.models import infer_signature

mlflow.xgboost.autolog(log_models=False)

encoder = OrdinalEncoder(handle_unknown='use_encoded_value', unknown_value=np.nan)
X_train['thal'] = encoder.fit_transform(X_train['thal'].to_frame())
X_test['thal'] = encoder.transform(X_test['thal'].to_frame())

model = XGBClassifier(use_label_encoder=False, eval_metric="logloss")
model.fit(X_train, y_train, eval_set=[(X_test, y_test)], verbose=False)
y_probs = model.predict_proba(X_test)

accuracy = accuracy_score(y_test, y_probs.argmax(axis=1))
mlflow.log_metric("accuracy", accuracy)

encoder_path = 'encoder.pkl'
joblib.dump(encoder, encoder_path)
model_path = "xgb.model"
model.save_model(model_path)

signature = infer_signature(X, y_probs)
mlflow.pyfunc.log_model("classifier", 
                        python_model=ModelWrapper(),
                        artifacts={ 
                            'encoder': encoder_path,
                            'model': model_path 
                        },
                        signature=signature)

모델 로더 사용

모델에는 복잡한 논리가 있거나 유추 시간에 여러 원본 파일을 로드할 수 있습니다. 예를 들어 모델에 대한 Python 라이브러리가 있는 경우 이 문제가 발생합니다. 이 시나리오에서는 단일 조각으로 이동할 수 있도록 라이브러리를 모델과 함께 패키지해야 합니다.

다음 경우에 이 기술을 사용합니다.

• 모델을 Pickle 형식으로 직렬화할 수 없거나 더 나은 serialization 형식을 사용할 수 있습니다.
• 필요한 모든 아티팩트를 저장하는 폴더에 모델 아티팩트를 저장할 수 있습니다.
• 모델 소스 코드는 매우 복잡하며 여러 Python 파일이 필요합니다. 잠재적으로 라이브러리는 모델을 지원합니다.
• 모델이 로드되는 방식 및 함수 작동 방식을 predict 사용자 지정하려고 합니다.

MLflow는 이러한 모델을 지원합니다. MLflow를 사용하면 로더 모듈이 있는 한 모델과 함께 패키지할 임의의 소스 코드를 지정할 수 있습니다. 로더를 구현하는 Python 네임스페이스를 log_model() 나타내는 인수를 loader_module 사용하여 명령에서 로더 모듈을 지정할 수 있습니다. code_path 인수도 필요합니다. 이 인수는 .를 정의하는 loader_module소스 파일을 나타내기 위해 필요합니다. 이 네임스페이스에서 아티팩트 경로를 수신하고 메서드 예측(적어도)이 있는 개체를 반환하는 함수를 구현 _load_pyfunc(data_path: str) 해야 합니다.

model_path = 'xgb.model'
model.save_model(model_path)

mlflow.pyfunc.log_model("classifier", 
                        data_path=model_path,
                        code_path=['src'],
                        loader_module='loader_module'
                        signature=signature)

참고 항목

• 모델은 피클로 저장되지 않습니다. 대신 코드는 사용한 프레임워크의 save 메서드를 사용하여 모델을 저장했습니다.
• 새 매개 변수 - data_path 모델 아티팩트를 보유하는 폴더를 가리킵니다. 아티팩트가 폴더 또는 파일일 수 있습니다. 이러한 아티팩트(폴더 또는 파일)는 모델과 함께 패키지됩니다.
• 새 매개 변수 - code_path 소스 코드 위치를 가리킵니다. 이 위치에 있는 이 리소스는 경로 또는 단일 파일일 수 있습니다. 해당 리소스(폴더 또는 파일)는 모델과 함께 패키지됩니다.
• 함수 함수 _load_pyfunc 는 Python 모듈에 loader_module 저장됩니다.

src 폴더에 파일이 포함되어 있습니다loader_module.py. 해당 파일은 로더 모듈입니다.

src/loader_module.py

class MyModel():
    def __init__(self, model):
        self._model = model

    def predict(self, data):
        return self._model.predict_proba(data)

def _load_pyfunc(data_path: str):
    import os

    model = XGBClassifier(use_label_encoder=False, eval_metric='logloss')
    model.load_model(os.path.abspath(data_path))

    return MyModel(model)

참고 항목

• 클래스는 MyModel 앞에서 설명한 대로 상속 PythonModel 되지 않습니다. 그러나 함수가 있습니다.predict
• 모델 소스 코드는 파일에 있습니다. 모든 소스 코드가 작동합니다. src 폴더는 이 작업에 적합합니다.
• 함수는 _load_pyfunc 모델 클래스의 인스턴스를 반환합니다.

전체 학습 코드는 다음과 같습니다.

import mlflow
from xgboost import XGBClassifier
from sklearn.metrics import accuracy_score
from mlflow.models import infer_signature

mlflow.xgboost.autolog(log_models=False)

model = XGBClassifier(use_label_encoder=False, eval_metric="logloss")
model.fit(X_train, y_train, eval_set=[(X_test, y_test)], verbose=False)
y_probs = model.predict_proba(X_test)

accuracy = accuracy_score(y_test, y_probs.argmax(axis=1))
mlflow.log_metric("accuracy", accuracy)

model_path = "xgb.model"
model.save_model(model_path)

signature = infer_signature(X_test, y_probs)
mlflow.pyfunc.log_model("classifier",
                        data_path=model_path,
                        code_path=["loader_module.py"],
                        loader_module="loader_module",
                        signature=signature)

다음 단계

• MLflow 모델 배포