Khám phá kiến trúc giải pháp
Để lập kế hoạch quy mô và tự động hóa, bạn đã làm việc cùng với một số bên liên quan để quyết định về kiến trúc hoạt động học máy (MLOps).
Ghi
Sơ đồ là một bản trình bày đơn giản hóa của kiến trúc MLOps. Để xem kiến trúc chi tiết hơn, hãy khám phá các trường hợp sử dụng khác nhau trong bộ tăng tốc giải pháp MLOps (v2).
Kiến trúc bao gồm:
- thiết: Tạo tất cả các tài nguyên Azure cần thiết cho giải pháp.
- triển Mô hình (vòng lặp bên trong): Khám phá và xử lý dữ liệu để đào tạo và đánh giá mô hình.
- đổi tích hợp: Đóng gói và đăng ký mô hình.
- triển khai Mô hình (vòng lặp bên ngoài): Triển khai mô hình.
- triển khai liên tục: Kiểm tra mô hình và thúc đẩy môi trường sản xuất.
- giám sát: Giám sát mô hình và hiệu suất điểm cuối.
Quan trọng nhất đối với thách thức hiện tại là lấy mô hình từ phát triển mô hình đến triển khai mô hình. Bước ở giữa hai vòng lặp này là đóng gói và đăng ký mô hình. Sau khi nhóm khoa học dữ liệu đã đào tạo một mô hình, điều cần thiết là đóng gói mô hình và đăng ký mô hình đó trong không gian làm việc Azure Machine Learning. Sau khi đăng ký mô hình, đã đến lúc triển khai mô hình.
Có một số cách để đóng gói mô hình. Sau khi xem lại một số tùy chọn như làm việc với tệp đồ chọn lọc, bạn đã quyết định với nhóm khoa học dữ liệu để làm việc với MLflow. Khi bạn đăng ký mô hình dưới dạng mô hình MLflow, bạn có thể chọn không cho triển khai mã trong không gian làm việc Azure Machine Learning. khi bạn sử dụng triển khai không có mã, bạn không cần tạo tập lệnh hiển thị điểm và môi trường để triển khai hoạt động.
Khi bạn muốn triển khai một mô hình, bạn có một lựa chọn giữa một điểm cuối trực tuyến cho các dự đoán trong thời gian thực hoặc một điểm cuối lô cho dự đoán lô. Vì mô hình sẽ được tích hợp với một ứng dụng web, nơi người hành nghề sẽ nhập dữ liệu y tế mong đợi nhận được phản hồi trực tiếp, bạn chọn triển khai mô hình vào một điểm cuối trực tuyến.
Bạn có thể triển khai mô hình theo cách thủ công trong không gian làm việc Azure Machine Learning. Tuy nhiên, bạn sẽ triển khai nhiều mô hình hơn trong tương lai. Và bạn muốn dễ dàng triển khai lại mô hình phân loại bệnh tiểu đường bất cứ khi nào mô hình đã được retrained. Do đó, bạn muốn tự động hóa việc triển khai mô hình bất cứ khi nào có thể.
Ghi
Mặc dù tự động hóa là một khía cạnh quan trọng của MLOps, nó là rất quan trọng để duy trì một con người trong vòng lặp. Cách thực hành tốt nhất là xác minh mô hình trước khi tự động triển khai mô hình.