Bagikan melalui

Tutorial: Menggunakan perancang untuk menyebarkan model pembelajaran mesin

  • Artikel

Di bagian salah satu tutorial ini, Anda melatih model regresi linier yang memprediksi harga mobil. Di bagian kedua ini, Anda menggunakan perancang Azure Pembelajaran Mesin untuk menyebarkan model sehingga orang lain dapat menggunakannya.

Catatan

Perancang mendukung dua jenis komponen: komponen bawaan klasik (v1) dan komponen kustom (v2). Kedua jenis komponen ini TIDAK kompatibel.

Komponen bawaan klasik menyediakan komponen bawaan terutama untuk pemrosesan data dan tugas pembelajaran mesin tradisional seperti regresi dan klasifikasi. Jenis komponen ini terus didukung tetapi tidak ada komponen baru yang akan ditambahkan.

Komponen kustom memungkinkan Anda membungkus kode Anda sendiri sebagai komponen. Mereka mendukung komponen berbagi di seluruh ruang kerja dan penulisan yang lancar di seluruh antarmuka Pembelajaran Mesin Studio, CLI v2, dan SDK v2.

Untuk proyek baru, kami menyarankan agar Anda menggunakan komponen kustom, yang kompatibel dengan Azure Pembelajaran Mesin v2 dan akan terus menerima pembaruan baru.

Artikel ini berlaku untuk komponen bawaan klasik dan tidak kompatibel dengan CLI v2 dan SDK v2.

Di tutorial ini, Anda akan:

  • Buat alur inferensi real time.
  • Buat kluster inferensi.
  • Sebarkan titik akhir real time.
  • Uji titik akhir real time.

Prasyarat

Lengkapi bagian satu tutorial untuk mempelajari cara melatih dan menilai model pembelajaran mesin di perancang.

Penting

Jika Anda tidak melihat elemen grafis yang disebutkan dalam dokumen ini, seperti tombol di studio atau perancang, Anda mungkin tidak memiliki tingkat izin yang tepat ke ruang kerja. Silakan hubungi administrator langganan Azure Anda untuk memverifikasi bahwa Anda telah diberikan tingkat akses yang benar. Untuk informasi selengkapnya, lihat Mengelola pengguna dan peran.

Buat alur inferensi real time

Untuk menyebarkan alur, Anda harus terlebih dahulu mengonversi alur pelatihan menjadi alur inferensi real time. Proses ini akan menghapus komponen pelatihan serta menambahkan input dan output layanan web untuk menangani permintaan.

Catatan

Fitur Buat alur inferensi mendukung alur pelatihan yang hanya berisi komponen bawaan perancang dan yang memiliki komponen seperti Latih Model yang menghasilkan model terlatih.

Buat alur inferensi real time

  1. Pilih Alur dari panel navigasi samping, lalu buka pekerjaan alur yang Anda buat. Pada halaman detail, di atas kanvas alur, pilih elipsis ... lalu pilih Buat alur>inferensi Alur inferensi Real-time.

    Cuplikan layar membuat alur inferensi di dalam halaman detail pekerjaan alur.

    Alur baru Anda sekarang terlihat seperti ini:

    Cuplikan layar yang memperlihatkan konfigurasi alur yang diharapkan setelah menyiapkannya untuk penyebaran.

    Saat Anda memilih Buat saluran inferensi, terjadi beberapa hal:

    • Model terlatih disimpan sebagai komponen Himpunan data di palet komponen. Anda dapat menemukannya di bawah Himpunan Data Saya.
    • Komponen pelatihan seperti Model Pelatihan dan Data Terpisah dihapus.
    • Model terlatih yang disimpan ditambahkan kembali ke dalam alur.
    • Komponen Input Layanan Web dan Output Layanan Web ditambahkan. Komponen ini menunjukkan tempat data pengguna memasuki alur dan tempat data dikembalikan.

    Catatan

    Secara default, Input Layanan Web mengharapkan skema data yang sama dengan data output komponen yang terhubung ke port hilir yang sama. Dalam sampel ini, Input Layanan Web dan data harga Mobil (Mentah) terhubung ke komponen hilir yang sama, sehingga Input Layanan Web mengharapkan skema data yang sama dengan data harga Mobil (Mentah) dan kolom price variabel target disertakan dalam skema. Namun, saat menilai data, Anda tidak akan mengetahui nilai variabel target. Dalam hal ini, Anda dapat menghapus kolom variabel target di alur inferensi menggunakan komponen Pilih Kolom di Himpunan Data. Pastikan output Pilih Kolom di Himpunan Data yang menghapus kolom variabel target tersambung ke port yang sama dengan output komponen Input Layanan Web.

  2. Pilih Konfigurasikan & Kirim, dan gunakan target komputasi dan eksperimen yang sama dengan yang Anda gunakan di bagian satu.

    Jika ini adalah pekerjaan pertama, mungkin perlu waktu hingga 20 menit agar alur Anda selesai berjalan. Pengaturan komputasi default memiliki ukuran node minimum 0, yang berarti bahwa perancang harus mengalokasikan sumber daya setelah tidak aktif. Pekerjaan alur berulang membutuhkan lebih sedikit waktu karena sumber daya komputasi sudah dialokasikan. Selain itu, perancang menggunakan hasil cache untuk setiap komponen untuk lebih meningkatkan efisiensi.

  3. Buka detail pekerjaan alur inferensi real time dengan memilih Detail pekerjaan di panel kiri.

  4. Pilih Sebarkan di halaman detail pekerjaan.

    Cuplikan layar yang menunjukkan penyebaran di dalam halaman detail pekerjaan.

Buat kluster inferensi

Dalam kotak dialog yang muncul, Anda dapat memilih dari kluster Azure Kubernetes Service (AKS) yang ada untuk menyebarkan model. Jika Anda tidak memiliki kluster AKS, lakukan langkah-langkah berikut untuk membuatnya.

  1. Buka halaman Komputasi dengan memilih Komputasi dalam kotak dialog.

  2. Pada pita navigasi, pilih Kluster> Kubernetes+ Baru.

    Cuplikan layar yang memperlihatkan cara masuk ke panel kluster inferensi yang baru.

  3. Di panel kluster inferensi, konfigurasikan Layanan Kubernetes baru.

  4. Masukkan aks-compute untuk nama Komputasi.

  5. Pilih wilayah terdekat yang tersedia untuk Wilayah.

  6. Pilih Buat.

    Catatan

    Dibutuhkan sekitar 15 menit untuk membuat Layanan AKS baru. Anda dapat memeriksa status penyediaan di halaman Kluster Inferensi.

Sebarkan titik akhir real time

Setelah layanan AKS Anda selesai menyediakan, kembali ke alur inferensi real time untuk menyelesaikan penyebaran.

  1. Pilih Sebarkan di atas kanvas.

  2. Pilih Sebarkan titik akhir real time baru.

  3. Pilih kluster AKS yang Anda buat.

    Cuplikan layar yang memperlihatkan cara menyiapkan titik akhir real time yang baru.

    Anda juga dapat mengubah pengaturan Tingkat Lanjut untuk titik akhir real-time Anda.

    Pengaturan tingkat lanjut Deskripsi
    Aktifkan diagnostik dan pengumpulan data Application Insights Memungkinkan Azure Application Insights mengumpulkan data dari titik akhir yang disebarkan.
    Secara default: false.
    Batas waktu penilaian Waktu habis dalam milidetik yang diberlakukan untuk penilaian panggilan ke layanan web.
    Secara default: 60000.
    Skala otomatis diaktifkan Memungkinkan penskalaan otomatis untuk layanan web.
    Secara default: true.
    Replika Min Jumlah minimum kontainer yang digunakan saat melakukan penskalaan otomatis layanan web ini.
    Secara default: 1.
    Replika Maks Jumlah maksimum kontainer yang digunakan saat melakukan penskalaan otomatis layanan web ini.
    Secara default: 10.
    Pemanfaatan target Pemanfaatan target (sebagai persentase) yang harus coba dipertahankan oleh autoscaler untuk layanan web ini.
    Secara default: 70.
    Periode refresh Seberapa sering (dalam detik) penskala otomatis mencoba untuk menskalakan layanan web ini.
    Secara default: 1.
    Kapasitas cadangan CPU Jumlah core CPU yang dialokasikan untuk layanan web ini.
    Secara default: 0.1.
    Kapasitas cadangan memori Jumlah memori (dalam GB) yang akan dialokasikan untuk layanan web ini.
    Secara default: 0,5.

  4. Pilih Sebarkan.

    Pemberitahuan keberhasilan di atas kanvas akan muncul setelah penyebaran selesai. Proses ini mungkin memakan waktu beberapa menit.

    Cuplikan layar yang menampilkan notifikasi penyebaran.

Tip

Anda juga dapat menyebarkan ke Azure Container Instance jika Anda memilih Azure Container Instance for Compute type di kotak pengaturan titik akhir real time. Instans Kontainer Azure digunakan untuk pengujian atau pengembangan. Gunakan Azure Container Instance untuk beban kerja berbasis CPU skala rendah yang memerlukan RAM kurang dari 48 GB.

Menguji titik akhir real time

Setelah penyebaran selesai, Anda dapat melihat titik akhir real time dengan masuk ke halaman Titik akhir.

  1. Pada halaman Titik Akhir, pilih titik akhir yang Anda sebarkan.

    Di tab Detail, Anda dapat melihat informasi selengkapnya seperti URI REST, definisi Swagger, status, dan tag.

    Di tab Gunakan, Anda dapat menemukan sampel kode konsumsi, kunci keamanan, dan mengatur metode autentikasi.

    Di tab Log penyebaran, Anda dapat menemukan log penyebaran terperinci dari titik akhir real time.

  2. Untuk menguji titik akhir Anda, buka tabUji. Dari sini, Anda dapat memasukkan data pengujian dan memilih Uji verifikasi output titik akhir Anda.

Memperbarui titik akhir real time

Anda dapat memperbarui titik akhir online dengan model baru yang dilatih dalam perancang. Pada halaman detail titik akhir online, temukan pekerjaan alur pelatihan dan pekerjaan alur inferensi Anda sebelumnya.

  1. Anda dapat menemukan dan memodifikasi draf alur pelatihan Anda di beranda perancang.

    Atau, Anda dapat membuka tautan pekerjaan alur pelatihan lalu mengkloningnya ke dalam draf alur baru untuk melanjutkan pengeditan.

    Cuplikan layar yang menampilkan tautan pekerjaan di dalam halaman detail titik akhir.

  2. Setelah Anda mengirimkan alur pelatihan yang dimodifikasi, buka halaman detail pekerjaan.

  3. Saat pekerjaan selesai, klik kanan Latih Model dan pilih Daftarkan data.

    Cuplikan layar yang menunjukkan model yang dilatih oleh register sebagai himpunan data.

    Masukkan nama dan pilih jenis File.

    Cuplikan layar yang menunjukkan model yang dilatih register sebagai kumpulan data.

  4. Setelah himpunan data berhasil didaftarkan, buka draf alur inferensi Anda, atau kloning pekerjaan alur inferensi sebelumnya ke dalam draf baru. Di draf alur inferensi, ganti model terlatih sebelumnya yang ditampilkan sebagai simpul MD-XXXX yang tersambung ke komponen Model Skor dengan himpunan data yang baru terdaftar.

    Cuplikan layar yang menunjukkan cara memodifikasi alur inferensi.

  5. Jika Anda perlu memperbarui bagian praproses data dalam alur pelatihan Anda, dan ingin memperbaruinya ke dalam alur inferensi, pemrosesannya mirip dengan langkah-langkah di atas.

    Anda hanya perlu mendaftarkan output transformasi dari komponen transformasi sebagai himpunan data.

    Kemudian, ganti komponen TD secara manual dalam alur inferensi dengan himpunan data terdaftar.

    Cuplikan layar yang menunjukkan cara mengganti komponen transformasi.

  6. Kirimkan alur inferensi Anda setelah memodifikasinya dengan model atau transformasi yang baru dilatih. Ketika pekerjaan selesai, sebarkan ke titik akhir online yang ada yang disebarkan sebelumnya.

    Cuplikan layar yang menunjukkan cara mengganti titik akhir waktu nyata yang ada.

Batasan

  • Karena keterbatasan akses datastore, jika alur inferensi Anda berisi komponen Impor Data atau Ekspor Data , alur tersebut dihapus secara otomatis saat disebarkan ke titik akhir real time.

  • Jika Anda memiliki himpunan data dalam alur inferensi real time dan ingin menyebarkannya ke titik akhir real time, saat ini alur ini hanya mendukung himpunan data yang terdaftar dari datastore Blob . Jika Anda ingin menggunakan himpunan data dari penyimpanan data jenis lain, Anda dapat menggunakan Pilih Kolom untuk menyambungkan dengan himpunan data awal Anda dengan pengaturan memilih semua kolom, mendaftarkan output Dari Pilih Kolom sebagai himpunan data File lalu ganti himpunan data awal dalam alur inferensi real time dengan himpunan data yang baru terdaftar ini.

  • Jika grafik inferensi Anda berisi komponen Enter Data Manually yang tidak tersambung ke port yang sama dengan komponen Input Layanan Web, komponen Enter Data Manually tidak dijalankan selama pemrosesan panggilan HTTP. Solusinya adalah mendaftarkan output komponen Enter Data Manually tersebut sebagai himpunan data, lalu dalam draf alur inferensi, ganti komponen Masukkan Data Secara Manual dengan himpunan data terdaftar.

    Cuplikan layar memperlihatkan cara memodifikasi alur inferensi yang berisi komponen masukkan data secara manual.

Membersihkan sumber daya

Penting

Anda dapat menggunakan sumber daya yang Anda buat sebagai prasyarat untuk tutorial dan artikel cara penggunaan Azure Machine Learning lainnya.

Menghapus semuanya

Jika Anda tidak berencana menggunakan apa pun yang Anda buat, hapus seluruh grup sumber daya agar Anda tidak ditagih biaya apa pun.

  1. Dari portal Microsoft Azure, pilih Grup sumber daya di sebelah kiri jendela.

    Menghapus grup sumber daya di portal Microsoft Azure

  2. Dalam daftar, pilih grup sumber daya yang Anda buat.

  3. Pilih Hapus grup sumber daya.

Menghapus grup sumber daya juga menghapus semua sumber daya yang Anda buat daam perancang.

Menghapus aset individu

Di perancang tempat Anda membuat eksperimen, hapus aset individu dengan memilihnya, lalu pilih tombol Hapus.

Target komputasi yang Anda buat di sini secara otomatis diskalakan otomatis ke nol node ketika tidak digunakan. Tindakan ini diambil untuk mengurangi biaya. Jika Anda ingin menghapus target komputasi, lakukan langkah-langkah berikut:

Menghapus aset

Anda dapat membatalkan pendaftaran himpunan data dari ruang kerja Anda dengan memilih setiap himpunan data dan memilih Batal Pendaftaran.

Membatalkan pendaftaran himpunan data

Untuk menghapus himpunan data, buka akun penyimpanan menggunakan portal Microsoft Azure atau Azure Storage Explorer dan hapus aset tersebut secara manual.

Konten terkait

Dalam tutorial ini, Anda mempelajari cara membuat, menyebarkan, dan menggunakan model pembelajaran mesin di perancang. Untuk mempelajari selengkapnya tentang cara menggunakan perancang, lihat artikel berikut ini: