ML modeli uç noktalarıyla gerçek zamanlı tahminler sunma (Önizleme)

Önemli

Bu özellik önizleme aşamasındadır.

Microsoft Fabric, güvenli, ölçeklenebilir ve kullanımı kolay çevrimiçi uç noktalar kullanarak ML modellerinden gerçek zamanlı tahminler sunmanızı sağlar. Çoğu Fabric modeli, bu uç noktaları yerleşik özellikler olarak içerir ve tam yönetilen gerçek zamanlı dağıtımları başlatmak için kurulum gerektirmez.

Genel kullanıma yönelik REST API kullanarak model uç noktalarını etkinleştirebilir, yapılandırabilir ve sorgulayabilirsiniz. Ayrıca, düşük kodlu bir deneyimle model uç noktalarını etkinleştirip tahminleri anında önizleme amacıyla doğrudan Fabric arayüzünden başlayabilirsiniz.

Önkoşullar

• Kiracınızda varsayılan olarak makine öğrenimi modeli uç noktaları etkinleştirilmiştir. Yöneticiniz bu özelliği devre dışı bırakmak isterse, Fabric yönetici portalında ML modeli uç noktaları için kiracı anahtarını devre dışı bırakabilir.

Sınırlamalar

• Uç noktalar şu anda Keras, LightGBM, Sklearn ve XGBoost gibi sınırlı sayıda ML modeli için kullanılabilir.
• Uç noktalar şu anda tensor tabanlı şemaları olan veya şeması olmayan modeller için kullanılamamaktadır.

Uyarı

Makine öğrenimi uç noktaları AutoML tarafından eğitilmiş modelleri destekler.

Model uç noktalarını kullanmaya başlama

Fabric'teki ML modelleri, gerçek zamanlı tahminler için kullanabileceğiniz çevrimiçi uç noktalarla önceden oluşturulmuş olarak gelir. Her kayıtlı model versiyonunun özel bir uç nokta URL'si vardır; bu URL'yi Fabric arayüzündeki Endpoint detayları başlığı altında bulabilirsiniz. Bu URL, belirli sürümü belirten bir alt yol ile sona erer (örneğin, ). /versions/1/score

Model uç noktaları aşağıdaki özelliklere sahiptir:

Emlak	Açıklama	Varsayılan
Varsayılan sürüm	Bu özellik (Yes veya No), versiyonun modelin gerçek tahminler için varsayılan olarak ayarlanıp ayarlanmadığını gösterir. Varsayılan sürümü modelin ayarlarından özelleştirebilirsiniz.	No
Statü	Bu özellik, uç noktanın tahminleri sunmak için hazır olup olmadığını gösterir. Durum Inactive, Activating, Active, Deactivating veya Failed olabilir. Yalnızca etkin uç noktalar tahminlere hizmet edebilir.	Inactive
Otomatik uyku	Bu özellik (On veya Off) etkin olduğunda uç noktanın trafik olmadığında kapasite kullanımını sıfıra düşürmesi gerekip gerekmediğini belirtir. Otomatik uyku açıksa, uç nokta beş dakika sonra gelen istekler olmadan boşta duruma girer. Boşta olan uç noktayı uyandırmak için ilk çağrı kısa bir gecikme gerektirir.	On

Model uç noktalarını etkinleştirme

Model uç noktalarını doğrudan Fabric arabiriminden etkinleştirebilirsiniz. Gerçek zamanlı tahminler için kullanmak istediğiniz sürüme gidin ve şeritten Activate version endpoint'i seçin.

Bir bildirim iletisi, Fabric'in uç noktanızı tahmin sunmaya hazır duruma getirdiğini gösterir ve uç noktanızın durumu Activating olarak değişir. Perde arkasında, Fabric modelinizi barındırmak için altta yatan konteyner altyapısını başlatır. Birkaç dakika içinde uç noktanız tahminlere hizmet etmeye hazır olur.

Her uç noktanın gerçek zamanlı tahminlere hazır olup olmadığını gösteren bir durumu vardır:

Statü	Açıklama
Inactive	Uç nokta gerçek zamanlı tahminler için aktif değil ve Fabric kapasitesini tüketmiyor.
Activating	Uç nokta gerçek zamanlı tahminlere hizmet etmek için yapılandırılıyor. Arka planda, Fabric modeli barındırmak için temel kapsayıcı altyapısını ayarlar. Birkaç dakika içinde uç nokta etkin olur.
Active	Uç nokta gerçek zamanlı tahminlere hizmet etmeye hazırdır. Arka planda, Fabric temel altyapıyı yönetir ve gelen trafiğe göre kaynak kullanımını ölçeklendirebilir. Daha yüksek trafik, daha yüksek Fabric kapasite kullanımına neden olur.
Deactivating	Uç nokta devre dışı bırakılıyor, bu yüzden artık gerçek zamanlı tahminler sunmuyor veya Fabric kapasitesini tüketmiyor. Arka planda, Fabric temel kapsayıcı altyapısını parçalar.

Uyarı

ML modelleri aynı anda beş sürüme kadar etkin uç noktaları destekleyebilir. Altıncı sürümden gelen tahminleri sunmak için önce etkin uç noktayı devre dışı bırakmanız gerekir.

Model uç noktalarını yönetme

Modelinizin aktif uç noktalarına genel bir bakış almak için, arayüzdeki şeritten Uç noktaları Yönet'i seçin. Her model, seçtiğiniz bir sürümden tahminler sunan özelleştirilebilir bir varsayılan uç noktaya sahiptir. Varsayılan sürümü, ayarlar panelindeki açılır menü seçicisini kullanarak güncelleyebiliyorsunuz.

Önemli

Kullanmayı planlıyorsanız varsayılan özelliği aktif bir sürüm olarak ayarlayın. Varsayılan özelliği ayarlamazsanız veya etkin olmayan bir sürüm olarak ayarlarsanız, varsayılan uç noktaya yapılan çağrılar başarısız olur.

Modelin uç nokta ayarları, aktif uç noktalarına sahip tüm sürümleri listeler. Her uç noktanın otomatik uyku özelliğini, anahtarlayıcıyı Açık veya Kapalı olarak değiştirerek değiştirebilirsiniz.

Tavsiye

Otomatik uyku açıkken aktif uç noktalar, trafik olmadan beş dakika sonra boşta duruma girer. Onları uyandırmak için yapılan ilk çağrı kısa bir gecikme gerektirir. Üretimdeki uç noktalar için bu özelliği kapatmak isteyebilirsiniz.

Gerçek zamanlı tahminler için model uç noktalarını sorgulama

Fabric'teki düşük kodlu deneyimi kullanarak model uç noktalarını anında test edebilirsiniz. Aktif uç noktası olan bir sürüme gidin ve arayüzdeki şeritten Önizleme tahminlerini seçin. Örnek taleplerini uç noktaya gönderebilir ve modelin giriş imzasına uyan form alanlarını kullanarak gerçek zamanlı örnek tahminleri elde edebilirsiniz.

Form alanlarını rastgele örnek değerlerle doldurmak için Otomatik Doldurma seçeneğini seçin. Uç noktayı birden fazla girdi ile test etmek için daha fazla form değeri seti ekleyebilirsiniz. Örnek isteğinizi uç noktaya göndermek için Tahminleri al seçeneğini belirleyin.

Örnek istekleri JSON yükleri olarak biçimlendirmeyi tercih ediyorsanız, görünümü değiştirmek için açılan seçiciyi kullanın.

Model uç noktalarını devre dışı bırakma

Model uç noktalarını doğrudan Fabric arabiriminden devre dışı bırakabilirsiniz. Artık gerçek zamanlı tahminler sunmak için ihtiyaç duymadığınız bir sürüme gidin ve arayüzdeki şeritten Sürüm uç noktasını devre dışı bırak seçeneğini belirleyin.

Fabric’in etkin dağıtımınızı kaldırdığını belirten bir bildirim görüntülenir ve uç noktanın durumu Deactivating olarak değişir. Uç nokta, yeniden etkinleştirmediğiniz sürece gerçek zamanlı tahminler sunamaz.

Modelin ayarlar bölmesinden birden çok sürüm için uç noktaları aynı anda devre dışı bırakabilirsiniz. Arayüzdeki kuritten Uç noktaları Yönet seçeneğini seçin ve devre dışı bırakmak için bir veya daha fazla aktif uç noktayı seçin.

Tüketim oranı

Etkin model uç noktalarını barındırmak Fabric Kapasite Birimlerini (RU) kullanır. Uç noktalar işlem düğümlerinde çalışır ve gelen trafiğe göre otomatik olarak üç düğüme kadar ölçeklendirilebilir. Bir uç nokta etkinken faturalama düğüm başına hesaplanır. Aşağıdaki tablo, aktif bir ML modeli uç noktası için CU tüketimini göstermektedir.

İşlem	İşlem Ölçü Birimi	Tüketim oranı
Model uç noktası	Düğüm başına saniyede 1 model uç noktası (versiyon)	5 CU saniye

Aşağıdaki tablo, örnek senaryoları ve bunlara karşılık gelen tüketim oranları ile saatlik maliyetleri göstermektedir.

Senaryo	Açıklama	Tüketim oranı	Saatlik Maliyet
Etkin Olmayan Uç Noktaları Olan Modeller	Bu modellerin etkin sürüm uç noktaları ve ilişkili kaynak kullanımı yoktur. Ek ücret uygulanmaz.	0 CU saniye	0 CU Saat
Etkin ancak Boşta Uç Noktaları olan modeller	Bu modellerde bir veya daha fazla aktif sürüm uç noktası bulunur, ancak düzenli trafik olmadan tüm uç noktalar sıfıra ölçeklenir ve maliyetler otomatik olarak azalır.	5 CU saniye	0,42 CU Saat
1 Etkin Uç Nokta ve Sabit Düşük Trafikli Modeller	Bu modellerin tahminleri sunan yalnızca bir etkin sürüm uç noktasına sahiptir, ancak tam bir ölçek genişlemesini tetiklemek için yeterli trafik yoktur. Bir düğüm tüm trafiğe hizmet verebilir. Diğer sürüm uç noktaları passif veya boş olabilir.	5 CU saniye	5 CU Saati
1 Etkin Uç Nokta ve Sabit Yüksek Trafikli Modeller	Bu modellerde, tahmin sunan yalnızca 1 etkin sürüm uç noktası bulunur ve bu uç nokta tam ölçek genişletmeyi tetikleyecek kadar trafiğe sahiptir. Diğer sürüm uç noktaları etkin değil veya boşta olabilir.	15 CU saniye	15 CU Saati
5 Etkin Uç Nokta ve Sabit Yüksek Trafikli Modeller	Bu modellerin tahminleri sunan 5 aktif sürüm uç noktası (geçerli sınır) vardır ve her birinin tam ölçek genişletmeyi tetiklemek için yeterli trafik vardır.	75 CU saniye	75 CU Saati

Fabric Capacity Metrics uygulaması model uç noktası işlemleri için toplam kapasite kullanımını "Model Uç Noktası" adı altında görüntüler. Ayrıca, kullanıcılar Model Uç Nokta kullanımı için faturalama ücretlerinin özetini "ML Model Endpoint Capacity Usage CU" faturalandırma öğesi altında görebilirler.

Model uç noktası işlemi arka plan işlemleri olarak sınıflandırılır.

Tüketim oranları herhangi bir zamanda değişebilir. Microsoft, e-posta veya ürün içi bildirim yoluyla bildirim sağlamak için makul çabayı gösterir. Değişiklikler, Microsoft Sürüm Notları veya Microsoft Fabric Blog'da belirtilen tarihten itibaren yürürlüğe girer. Fabric Tüketim Oranı'ndaki model uç noktasında yapılan herhangi bir değişiklik, kullanmak için gereken Kapasite Birimlerini (CU) önemli ölçüde artırırsa, müşteriler seçilen ödeme yöntemi için sağlanan iptal seçeneklerini kullanabilir.

İlgili içerik

• ML modeli uç noktası REST API'sini kullanarak uç noktaları programatik olarak yönetin ve sorgulayın.
• Gerçek zamanlı veri zenginleştirmesi için Dataflow 2. Nesil'den model uç noktalarını çağır.
• Fabric notebooks'taki fonksiyonuPREDICT kullanarak toplu tahminler oluşturun.
• Fabric'da model eğitimi ve denemesi hakkında daha fazla bilgi edinin.
• İhtiyacınız olan bir özelliği kaçırdık mı? Fabric Ideas forumu üzerinden önerin.