Khám phá kiến trúc giải pháp

Đã hoàn thành

Khi bạn làm việc trên các dự án nhỏ hơn với các nhóm nhỏ hơn, có thể sẽ hợp lý nếu có một không gian làm việc Azure Machine Learning. Một không gian làm việc có thể được sử dụng cho mọi thứ: đào tạo, kiểm tra và triển khai mô hình của bạn. Tuy nhiên, tại Proseware, bạn muốn có một giải pháp mạnh mẽ và chứng minh trong tương lai có thể dễ dàng mở rộng khi bạn xây dựng và duy trì nhiều mô hình mà bạn muốn tích hợp với ứng dụng web của chúng tôi cho các học viên.

Để nhanh chóng nhưng an toàn chuyển mô hình từ phát triển sang sản xuất, bạn đã đồng ý với kiến trúc hoạt động máy học cấp cao (MLOps).

cấu trúc vận hành máy học.

Lưu ý

Sơ đồ là một bản trình bày đơn giản hóa của kiến trúc MLOps. Để xem kiến trúc chi tiết hơn, hãy khám phá các trường hợp sử dụng khác nhau trong bộ tăng tốc giải pháp MLOps (v2).

Kiến trúc bao gồm:

  1. thiết: Tạo tất cả các tài nguyên Azure cần thiết cho giải pháp.
  2. triển Mô hình (vòng lặp bên trong): Khám phá và xử lý dữ liệu để đào tạo và đánh giá mô hình.
  3. đổi tích hợp: Đóng gói và đăng ký mô hình.
  4. triển khai Mô hình (vòng lặp bên ngoài): Triển khai mô hình.
  5. triển khai liên tục: Kiểm tra mô hình và thúc đẩy môi trường sản xuất.
  6. giám sát: Giám sát mô hình và hiệu suất điểm cuối.

Để làm việc với các mô hình máy học ở quy mô lớn, Proseware muốn sử dụng các môi trường riêng biệt cho các giai đoạn khác nhau. Việc có các môi trường riêng biệt sẽ giúp bạn dễ dàng kiểm soát quyền truy nhập vào tài nguyên hơn. Sau đó, mỗi môi trường có thể được liên kết với một không gian làm việc Azure Machine Learning riêng biệt.

Lưu ý

Trong mô-đun này, chúng tôi đề cập đến diễn giải DevOps của môi trường. Lưu ý rằng Azure Machine Learning cũng sử dụng môi trường thuật ngữ để mô tả một tập hợp các gói Python cần thiết để chạy tập lệnh. Hai khái niệm về môi trường này độc lập với nhau. Tìm hiểu thêm về môi trường Azure Machine Learning.

Để cho phép kiểm tra mô hình trước khi triển khai, bạn muốn làm việc với ba môi trường:

sơ đồ phát triển, dàn dựng và môi trường sản xuất.

Môi trường phát được sử dụng cho vòng lặp bên trong:

  1. Các nhà khoa học dữ liệu đào tạo mô hình.
  2. Mô hình được đóng gói và đăng ký.

Các môi trường được sử dụng cho một phần của vòng lặp bên ngoài:

  1. Kiểm tra mã và mô hình với lớp lót và kiểm tra đơn vị.
  2. Triển khai mô hình để kiểm tra điểm cuối.

Môi sản xuất được sử dụng cho một phần khác của vòng lặp bên ngoài:

  1. Triển khai mô hình đến điểm cuối sản xuất. Điểm cuối sản xuất được tích hợp với ứng dụng web.
  2. Theo dõi mô hình và hiệu suất điểm cuối để kích hoạt việc thu thập lại khi cần thiết.

Mặc dù nhiều tác vụ máy học có thể và cần được tự động hóa, bạn cũng sẽ muốn lên kế hoạch cho các điểm mà bạn muốn phê duyệt bị kiểm soát. Khi một mô hình đã được đào tạo và đóng gói, bạn muốn thông báo cho nhà khoa học dữ liệu đầu mối để xác thực mô hình trước khi nó di chuyển đến môi trường dàn dựng.

Tương tự, sau khi mô hình đã được thử nghiệm mạnh mẽ trong môi trường dàn dựng, bạn muốn thêm phê duyệt cổng để đảm bảo một người nào đó từ nhóm phát triển phần mềm xác nhận rằng tất cả các thử nghiệm đã thành công trước khi triển khai mô hình của bạn để sản xuất.

Khi bạn làm việc với môi trường, phê duyệt có cổng cho phép bạn kiểm soát triển khai từ môi trường này sang môi trường khác.