Penyebaran model

Selesai

Anda dapat menyebarkan model secara manual dengan ruang kerja Azure Machine Learning. Untuk menyebarkan model secara otomatis, Anda dapat menggunakan Azure Machine Learning CLI (v2) dan GitHub Actions. Untuk menyebarkan model secara otomatis dengan GitHub Actions, Anda harus:

  • Kemas dan daftarkan model.
  • Buat titik akhir dan sebarkan model.
  • Uji model yang disebarkan.

Kemas dan daftarkan modelnya

Setiap kali Anda ingin menyebarkan model dengan ruang kerja Azure Machine Learning, Anda harus menyimpan output model dan mendaftarkan model di ruang kerja. Saat mendaftarkan model, Anda menentukan apakah Anda memiliki MLflow atau model kustom.

Saat membuat dan mencatat model dengan MLflow, Anda dapat menggunakan penyebaran tanpa kode.

Tip

Pelajari selengkapnya tentang cara menyebarkan model MLflow.

Untuk mencatat model Anda dengan MLflow, aktifkan autologging di skrip pelatihan Anda dengan menggunakan mlflow.autolog().

Saat Anda mencatat model selama pelatihan model, model disimpan dalam output pekerjaan. Atau, Anda dapat menyimpan model di datastore Azure Machine Learning.

Untuk mendaftarkan model, Anda dapat menunjuk ke output pekerjaan, atau ke lokasi di datastore Azure Machine Learning.

Buat titik akhir dan sebarkan model.

Untuk menyebarkan model ke titik akhir, Anda terlebih dahulu membuat titik akhir lalu menyebarkan model. Titik akhir adalah titik akhir HTTPS tempat aplikasi web dapat mengirim data dan mendapatkan prediksi. Anda ingin titik akhir tetap sama, bahkan setelah Anda menyebarkan model yang diperbarui ke titik akhir yang sama. Ketika titik akhir tetap sama, aplikasi web tidak perlu diperbarui setiap kali model dilatih kembali.

Menguji model

Terakhir, Anda ingin menguji model yang disebarkan sebelum mengintegrasikan titik akhir dengan aplikasi web. Atau sebelum mengonversi semua lalu lintas titik akhir ke model yang diperbarui. Anda dapat menguji titik akhir online secara manual atau Anda dapat mengotomatiskan pengujian titik akhir dengan GitHub Actions.

Catatan

Anda dapat menambahkan tugas pengujian ke alur kerja yang sama dengan tugas penyebaran model. Namun, penyebaran model mungkin memerlukan waktu cukup lama untuk diselesaikan. Oleh karena itu, Anda perlu memastikan bahwa pengujian hanya terjadi ketika penyebaran model berhasil diselesaikan.