Triển khai mô hình
Bạn có thể triển khai mô hình theo cách thủ công với không gian làm việc Azure Machine Learning. Để tự động triển khai một mô hình, bạn có thể sử dụng Azure Machine Learning CLI (v2) và GitHub Actions. Để tự động triển khai mô hình với Hành động GitHub, bạn sẽ phải:
- Đóng gói và đăng ký mô hình.
- Tạo điểm cuối và triển khai mô hình.
- Kiểm tra mô hình đã triển khai.
Đóng gói và đăng ký mô hình
Bất cứ khi nào bạn muốn triển khai mô hình với không gian làm việc Azure Machine Learning, bạn sẽ cần lưu đầu ra của mô hình và đăng ký mô hình trong không gian làm việc. Khi bạn đăng ký các mô hình, bạn chỉ định cho dù bạn có một MLflow hoặc mô hình tùy chỉnh.
Khi bạn tạo và ghi nhật ký mô hình bằng MLflow, bạn có thể sử dụng triển khai không có mã.
Mẹo
Tìm hiểu thêm về cách triển khai các mô hình MLflow.
Để ghi nhật ký mô hình của bạn với MLflow, hãy bật tự động đăng nhập trong kịch bản đào tạo của bạn bằng cách sử dụng mlflow.autolog().
Khi bạn ghi nhật ký một mô hình trong quá trình đào tạo mô hình, mô hình được lưu trữ trong đầu ra công việc. Ngoài ra, bạn có thể lưu trữ mô hình trong kho dữ liệu Azure Machine Learning.
Để đăng ký mô hình, bạn có thể trỏ đến đầu ra của công việc hoặc đến một vị trí trong kho dữ liệu Azure Machine Learning.
Tạo điểm cuối và triển khai mô hình
Để triển khai mô hình đến điểm cuối, trước tiên bạn tạo một điểm cuối, rồi triển khai mô hình. Điểm cuối là điểm cuối HTTPS mà ứng dụng web có thể gửi dữ liệu đến và nhận dự đoán từ đó. Bạn muốn điểm cuối vẫn giữ nguyên, ngay cả sau khi bạn triển khai mô hình cập nhật cho cùng một điểm cuối. Khi điểm cuối vẫn giữ nguyên, ứng dụng web sẽ không cần phải được cập nhật mỗi khi mô hình được đánh giá lại.
Mẹo
Tìm hiểu thêm về cách triển khai mô hình với Azure Machine Learning CLI (v2).
Kiểm tra mô hình
Cuối cùng, bạn sẽ muốn kiểm tra mô hình đã triển khai trước khi tích hợp điểm cuối với ứng dụng web. Hoặc trước khi chuyển đổi tất cả lưu lượng của một điểm cuối sang mô hình đã cập nhật. Bạn có thể kiểm tra điểm cuối trực tuyến theo cách thủ công hoặc bạn có thể tự động hóa việc kiểm tra điểm cuối bằng Hành động GitHub.
Ghi
Bạn có thể thêm nhiệm vụ kiểm tra vào cùng dòng công việc với nhiệm vụ triển khai mô hình. Tuy nhiên, việc triển khai mô hình có thể mất một lúc để hoàn tất. Do đó, bạn cần đảm bảo rằng việc kiểm tra chỉ xảy ra khi việc triển khai mô hình hoàn tất thành công.