Menyajikan prediksi real-time dengan titik akhir model ML (Pratinjau)

Penting

Fitur ini sedang dalam tahap pratinjau.

Microsoft Fabric memungkinkan Anda menyajikan prediksi real-time dari model ML dengan menggunakan endpoint online yang aman, skalabel, dan mudah digunakan. Sebagian besar model Fabric menyertakan endpoint ini sebagai properti bawaan, dan tidak memerlukan pengaturan untuk memulai deployment real-time yang sepenuhnya terkelola.

Anda dapat mengaktifkan, mengonfigurasi, dan mengkueri titik akhir model dengan menggunakan REST API yang menghadap publik. Anda juga dapat memulai langsung dari antarmuka Fabric melalui pengalaman low-code untuk mengaktifkan endpoint model dan mempratinjau prediksi secara instan.

Prasyarat

• Tenant Anda memiliki endpoint model pembelajaran mesin yang diaktifkan secara default. Jika administrator Anda ingin menonaktifkan fitur ini, mereka dapat mematikan pengaturan tenant untuk titik akhir model ML di portal admin Fabric.

Keterbatasan

• Titik akhir saat ini tersedia untuk serangkaian ragam model ML terbatas, termasuk Keras, LightGBM, Sklearn, dan XGBoost.
• Titik akhir saat ini tidak tersedia untuk model dengan skema berbasis tensor atau tanpa skema.

Nota

Endpoint pembelajaran mesin mendukung model yang dilatih AutoML.

Mulai menggunakan titik akhir model

Model ML di Fabric sudah dilengkapi dengan endpoint online yang dapat Anda gunakan untuk memberikan prediksi real-time. Setiap versi model terdaftar memiliki URL endpoint khusus, yang dapat Anda temukan di bawah judul Detail Endpoint di antarmuka Fabric. URL ini berakhir dengan subpath yang menunjuk versi spesifik (misalnya, /versions/1/score).

Titik akhir model memiliki properti berikut:

Harta benda	Deskripsi	Default
Versi default	Properti ini (Yes atau No) menunjukkan apakah versi tersebut diatur sebagai default model untuk melayani prediksi nyata. Anda dapat menyesuaikan versi default dalam pengaturan model.	No
Keadaan	Properti ini menunjukkan apakah titik akhir siap untuk melayani prediksi. Statusnya bisa , Inactive, ActivatingActive, Deactivating, atau Failed. Hanya titik akhir aktif yang dapat melayani prediksi.	Inactive
Tidur otomatis	Properti ini (On atau Off) menunjukkan apakah titik akhir, setelah aktif, harus menurunkan skala penggunaan kapasitas menjadi nol tanpa adanya lalu lintas. Jika auto sleep aktif, endpoint akan masuk ke keadaan idle setelah lima menit tanpa permintaan masuk. Panggilan pertama untuk membangunkan titik akhir diam melibatkan penundaan singkat.	On

Mengaktifkan titik akhir model

Anda dapat mengaktifkan titik akhir model langsung dari antarmuka Fabric. Buka versi yang ingin Anda gunakan untuk prediksi real-time, lalu pilih Aktifkan endpoint versi di ribbon.

Pesan toast menandakan bahwa Fabric sedang menyiapkan endpoint Anda untuk menyajikan prediksi, dan status endpoint berubah menjadi Activating. Di balik layar, Fabric memulai infrastruktur kontainer dasar untuk menampung model Anda. Dalam beberapa menit, titik akhir Anda siap untuk melayani prediksi.

Setiap endpoint memiliki status yang menunjukkan apakah siap untuk menyajikan prediksi real-time:

Keadaan	Deskripsi
Inactive	Endpoint tersebut tidak diaktifkan untuk menyajikan prediksi real-time, dan juga tidak menggunakan kapasitas Fabric.
Activating	Titik akhir sedang dikonfigurasi untuk menyediakan prediksi waktu nyata. Di balik layar, Fabric menyiapkan infrastruktur dasar kontainer untuk meng-host model tersebut. Dalam beberapa menit, titik akhir aktif.
Active	Titik akhir siap untuk menyajikan prediksi real-time. Di balik layar, Fabric mengelola infrastruktur yang mendasar, meningkatkan penggunaan sumber daya berdasarkan lalu lintas masuk. Lalu lintas yang lebih tinggi menghasilkan penggunaan kapasitas Fabric yang lebih tinggi.
Deactivating	Endpoint sedang dinonaktifkan, sehingga tidak lagi melayani prediksi waktu nyata atau menghabiskan kapasitas Fabric. Di balik layar, Fabric membongkar infrastruktur kontainer di bawahnya.

Nota

Model ML dapat mendukung titik akhir aktif hingga lima versi sekaligus. Untuk menyajikan prediksi dari versi keenam, Anda harus terlebih dahulu menonaktifkan titik akhir aktif.

Mengelola titik akhir model

Untuk mendapatkan gambaran tentang endpoint aktif model Anda, pilih Kelola endpoint dari pita di antarmuka. Setiap model memiliki titik akhir default yang dapat disesuaikan, yang melayani prediksi dari versi yang Anda pilih. Anda dapat memperbarui versi default dengan menggunakan selector dropdown di panel pengaturan.

Penting

Atur properti default ke versi aktif jika Anda berencana menggunakannya. Jika Anda tidak mengatur properti default, atau jika Anda mengaturnya ke versi tidak aktif, panggilan ke endpoint default gagal.

Pengaturan endpoint model mencantumkan semua versi dengan endpoint aktif. Anda dapat mengubah properti auto sleep pada setiap endpoint dengan mengaktifkan switcher ke On atau Off.

Petunjuk / Saran

Endpoint aktif dengan tidur otomatis yang diaktifkan akan masuk ke status tidak aktif setelah lima menit tanpa trafik. Panggilan pertama untuk membangunkan mereka melibatkan jeda singkat. Anda mungkin ingin menonaktifkan properti ini untuk titik akhir di lingkungan produksi.

Kueri titik akhir model untuk prediksi waktu nyata

Anda dapat langsung menguji endpoint model menggunakan fitur low-code di Fabric. Buka versi yang memiliki endpoint aktif dan pilih Pratinjau prediksi dari bilah antarmuka. Anda dapat mengirim permintaan sampel ke endpoint dan mendapatkan prediksi sampel secara real time dengan menggunakan field formulir yang sesuai dengan tanda tangan input model.

Pilih Autofill untuk mengisi kolom formulir dengan nilai sampel acak. Anda dapat menambahkan lebih banyak kumpulan nilai formulir untuk menguji endpoint dengan beberapa input. Pilih Dapatkan prediksi untuk mengirimkan permintaan contoh Anda ke endpoint.

Jika Anda lebih suka memformat permintaan sampel sebagai payload JSON, gunakan pemilih dropdown untuk mengubah tampilan.

Menonaktifkan titik akhir model

Anda dapat menonaktifkan titik akhir model langsung dari antarmuka Fabric. Buka versi yang tidak lagi diperlukan untuk menyajikan prediksi real-time dan pilih Nonaktifkan endpoint versi pada ribbon di antarmuka.

Pesan toast menunjukkan bahwa Fabric sedang membongkar deployment aktif Anda, dan status endpoint berubah menjadi Deactivating. Endpoint tidak dapat memberikan prediksi real-time kecuali Anda mengaktifkannya kembali.

Anda dapat menonaktifkan titik akhir untuk beberapa versi sekaligus dari panel pengaturan model. Pilih Kelola endpoint dari pita di antarmuka dan pilih satu atau lebih endpoint aktif untuk dinonaktifkan.

Tingkat konsumsi

Hosting titik akhir model yang aktif mengonsumsi Unit Kapasitas Fabric (CUs). Endpoint beroperasi pada simpul komputasi dan dapat secara otomatis memperbesar hingga tiga simpul berdasarkan lalu lintas masuk. Penagihan dihitung berdasarkan penggunaan per penghubung selama endpoint aktif. Tabel berikut menunjukkan konsumsi CU untuk endpoint model ML aktif.

Operasi	Satuan Ukuran Operasi	Tingkat konsumsi
Endpoint model	1 titik akhir model (versi) per detik per simpul	5 DETIK CU

Tabel berikut menunjukkan contoh skenario beserta tingkat konsumsi dan biaya per jam yang sesuai.

Skenario	Deskripsi	Tingkat konsumsi	Biaya Per Jam
Model dengan Titik Akhir Tidak Aktif	Model ini tidak memiliki titik akhir versi aktif dan tidak ada pemanfaatan sumber daya terkait. Mereka tidak melibatkan biaya tambahan.	0 detik CU	0 CU Jam
Model dengan Titik Akhir Aktif tetapi Diam	Model-model ini memiliki satu atau lebih titik akhir versi aktif, tetapi tanpa lalu lintas reguler, semua titik akhir dapat diskalakan menjadi nol, sehingga biaya secara otomatis menurun.	5 DETIK CU	0,42 CU Jam
Model dengan 1 Titik Akhir Aktif dan Lalu Lintas Rendah Konstan	Model ini hanya memiliki 1 titik akhir versi aktif yang melayani prediksi, tetapi tanpa lalu lintas yang cukup untuk memicu peluasan skala penuh. Satu simpul dapat melayani semua lalu lintas. Endpoint versi lainnya mungkin tidak aktif atau menganggur.	5 DETIK CU	5 Jam CU
Model dengan 1 Titik Akhir Aktif dan Lalu Lintas Tinggi Konstan	Model ini hanya memiliki 1 endpoint versi aktif yang melayani prediksi, dengan trafik yang cukup untuk memicu scale-out penuh. Endpoint versi lainnya mungkin nonaktif atau idle.	15 Detik CU	15 Jam Satuan Kredit
Model dengan 5 Titik Akhir Aktif dan Lalu Lintas Tinggi Konstan	Model ini memiliki 5 titik akhir versi aktif (batas saat ini) yang melayani prediksi, masing-masing dengan lalu lintas yang cukup untuk memicu eskalasi skala penuh.	75 detik CU	75 Jam Satuan Kredit

Aplikasi Metrik Kapasitas Fabric menampilkan total penggunaan kapasitas untuk operasi titik akhir model dengan nama "Titik Akhir Model". Selain itu, pengguna dapat melihat ringkasan biaya penagihan mereka untuk penggunaan Model Endpoint di bawah item faktur "ML Model Endpoint Capacity Usage CU".

Operasi titik akhir model diklasifikasikan sebagai operasi latar belakang.

Tarif konsumsi dapat berubah sewaktu-waktu. Microsoft menggunakan upaya yang wajar untuk memberikan pemberitahuan melalui email atau melalui pemberitahuan dalam produk. Perubahan berlaku pada tanggal yang tercantum dalam Catatan Rilis Microsoft atau Blog Microsoft Fabric. Jika ada perubahan pada endpoint model di Tingkat Konsumsi Fabric secara material meningkatkan Unit Kapasitas (CU) yang diperlukan, pelanggan dapat menggunakan opsi pembatalan yang tersedia untuk metode pembayaran yang telah dipilih.

Konten terkait

• Kelola dan buat kueri endpoint secara terprogram dengan menggunakan REST API endpoint model ML.
• Panggil titik akhir model dari Dataflow Gen2 untuk pengayaan data real time.
• Buat prediksi batch dengan menggunakan fungsi di PREDICT Fabric notebooks.
• Pelajari selengkapnya tentang pelatihan dan eksperimen model di Fabric.
• Apakah kami melewatkan fitur yang Anda butuhkan? Sarankan di forum Fabric Ideas.