Εξυπηρέτηση προβλέψεων σε πραγματικό χρόνο με τελικά σημεία μοντέλου εκμάθησης μηχανής (Προεπισκόπηση)

Important

Αυτή η δυνατότητα είναι σε προεπισκόπηση.

Το Microsoft Fabric σάς επιτρέπει να εξυπηρετείτε προβλέψεις σε πραγματικό χρόνο από μοντέλα εκμάθησης μηχανής χρησιμοποιώντας ασφαλή, επεκτάσιμα και εύχρηστα ηλεκτρονικά τελικά σημεία. Τα περισσότερα μοντέλα Fabric περιλαμβάνουν αυτά τα τελικά σημεία ως ενσωματωμένες ιδιότητες και δεν απαιτούν ρύθμιση για την έναρξη πλήρως διαχειριζόμενων αναπτύξεων σε πραγματικό χρόνο.

Μπορείτε να ενεργοποιήσετε, να ρυθμίσετε τις παραμέτρους και να υποβάλετε ερωτήματα σε τελικά σημεία μοντέλου χρησιμοποιώντας ένα δημόσιο API REST. Μπορείτε επίσης να ξεκινήσετε απευθείας από το περιβάλλον εργασίας Fabric χρησιμοποιώντας μια εμπειρία χαμηλών απαιτήσεων κώδικα για να ενεργοποιήσετε τα τελικά σημεία μοντέλου και να κάνετε άμεση προεπισκόπηση των προβλέψεων.

Prerequisites

• Ο μισθωτής σας έχει ενεργοποιημένα τελικά σημεία μοντέλου εκμάθησης μηχανής από προεπιλογή. Εάν ο διαχειριστής σας θέλει να απενεργοποιήσει αυτήν τη δυνατότητα, μπορεί να απενεργοποιήσει τον διακόπτη μισθωτή για τελικά σημεία μοντέλου εκμάθησης μηχανής στην πύλη διαχείρισης Fabric.

Limitations

• Προς το παρόν, τα τελικά σημεία είναι διαθέσιμα για ένα περιορισμένο σύνολο flavor μοντέλων εκμάθησης μηχανής, συμπεριλαμβανομένων των Keras, LightGBM, Sklearn και XGBoost.
• Προς το παρόν, τα τελικά σημεία δεν είναι διαθέσιμα για μοντέλα με σχήματα που βασίζονται σε τανυστή ή χωρίς σχήματα.

Note

Τα τελικά σημεία εκμάθησης μηχανής υποστηρίζουν μοντέλα που έχουν εκπαιδευτεί στο AutoML.

Γρήγορα αποτελέσματα με τελικά σημεία μοντέλου

Τα μοντέλα εκμάθησης μηχανής στο Fabric είναι προκατασκευασμένα με ηλεκτρονικά τελικά σημεία που μπορείτε να χρησιμοποιήσετε για την προβολή προβλέψεων σε πραγματικό χρόνο. Κάθε έκδοση καταχωρημένου μοντέλου έχει μια αποκλειστική διεύθυνση URL τελικού σημείου, την οποία μπορείτε να βρείτε κάτω από την επικεφαλίδα Λεπτομέρειες τελικού σημείου στο περιβάλλον εργασίας Fabric. Αυτή η διεύθυνση URL τελειώνει με μια υποδιαδρομή που ορίζει τη συγκεκριμένη έκδοση (για παράδειγμα, /versions/1/score).

Τα τελικά σημεία μοντέλου έχουν τις ακόλουθες ιδιότητες:

Property	Description	Default
Προεπιλεγμένη έκδοση	Αυτή η ιδιότητα (Yes ή No) υποδεικνύει εάν η έκδοση έχει οριστεί ως προεπιλογή του μοντέλου για την προβολή πραγματικών προβλέψεων. Μπορείτε να προσαρμόσετε την προεπιλεγμένη έκδοση στις ρυθμίσεις του μοντέλου.	No
Status	Αυτή η ιδιότητα υποδεικνύει εάν το τελικό σημείο είναι έτοιμο να εξυπηρετήσει προβλέψεις. Η κατάσταση μπορεί να είναι Inactive, Activating, Active, , Deactivatingή Failed. Μόνο ενεργά τελικά σημεία μπορούν να εξυπηρετούν προβλέψεις.	Inactive
Αυτόματη αναστολή λειτουργίας	Αυτή η ιδιότητα (On ή Off) υποδεικνύει εάν το τελικό σημείο, όταν είναι ενεργό, θα πρέπει να μειώσει τη χρήση εκχωρημένων πόρων στο μηδέν, ελλείψει κυκλοφορίας. Εάν η αυτόματη αναστολή λειτουργίας είναι ενεργοποιημένη, το τελικό σημείο εισέρχεται σε κατάσταση αδράνειας μετά από πέντε λεπτά χωρίς εισερχόμενα αιτήματα. Η πρώτη κλήση για να ξυπνήσετε ένα αδρανές τελικό σημείο περιλαμβάνει μια μικρή καθυστέρηση.	On

Ενεργοποίηση τελικών σημείων μοντέλου

Μπορείτε να ενεργοποιήσετε τα τελικά σημεία μοντέλου απευθείας από το περιβάλλον εργασίας Fabric. Μεταβείτε στην έκδοση που θέλετε να χρησιμοποιήσετε για προβλέψεις σε πραγματικό χρόνο και επιλέξτε Ενεργοποίηση τελικού σημείου έκδοσης από την κορδέλα.

Ένα αναδυόμενο μήνυμα δείχνει ότι το Fabric προετοιμάζει το τελικό σημείο σας για την προβολή προβλέψεων και η κατάσταση του τελικού σημείου αλλάζει σε Activating. Στα παρασκήνια, το Fabric ξεκινά την υποκείμενη υποδομή κοντέινερ για να φιλοξενήσει το μοντέλο σας. Μέσα σε λίγα λεπτά, το τελικό σημείο σας είναι έτοιμο να εξυπηρετήσει προβλέψεις.

Κάθε τελικό σημείο έχει μια κατάσταση που υποδεικνύει εάν είναι έτοιμο να εξυπηρετήσει προβλέψεις σε πραγματικό χρόνο:

Status	Description
Inactive	Το τελικό σημείο δεν ενεργοποιείται για την εξυπηρέτηση προβλέψεων σε πραγματικό χρόνο και δεν καταναλώνει χωρητικότητα Fabric.
Activating	Το τελικό σημείο ρυθμίζεται για να εξυπηρετεί προβλέψεις σε πραγματικό χρόνο. Στα παρασκήνια, το Fabric δημιουργεί την υποκείμενη υποδομή κοντέινερ για να φιλοξενήσει το μοντέλο. Μέσα σε λίγα λεπτά, το τελικό σημείο είναι ενεργό.
Active	Το τελικό σημείο είναι έτοιμο να εξυπηρετήσει προβλέψεις σε πραγματικό χρόνο. Στα παρασκήνια, το Fabric διαχειρίζεται την υποκείμενη υποδομή, κλιμακώνοντας τη χρήση πόρων με βάση την εισερχόμενη κίνηση. Η υψηλότερη επισκεψιμότητα έχει ως αποτέλεσμα υψηλότερη χρήση χωρητικότητας Fabric.
Deactivating	Το τελικό σημείο απενεργοποιείται, επομένως δεν εξυπηρετεί πλέον προβλέψεις σε πραγματικό χρόνο ή δεν καταναλώνει χωρητικότητα Fabric. Στα παρασκήνια, η Fabric αποσυναρμολογεί την υποκείμενη υποδομή εμπορευματοκιβωτίων.

Note

Τα μοντέλα εκμάθησης μηχανής μπορούν να υποστηρίξουν ενεργά τελικά σημεία για έως και πέντε εκδόσεις ταυτόχρονα. Για να διανείμετε προβλέψεις από μια έκτη έκδοση, πρέπει πρώτα να απενεργοποιήσετε ένα ενεργό τελικό σημείο.

Διαχείριση τελικών σημείων μοντέλου

Για να λάβετε μια επισκόπηση των ενεργών τελικών σημείων του μοντέλου σας, επιλέξτε Διαχείριση τελικών σημείων από την κορδέλα στο περιβάλλον εργασίας. Κάθε μοντέλο έχει ένα προεπιλεγμένο τελικό σημείο με δυνατότητα προσαρμογής, το οποίο εξυπηρετεί προβλέψεις από μια έκδοση που επιλέγετε. Μπορείτε να ενημερώσετε την προεπιλεγμένη έκδοση χρησιμοποιώντας τον αναπτυσσόμενο επιλογέα στο παράθυρο ρυθμίσεων.

Important

Ορίστε την προεπιλεγμένη ιδιότητα σε μια ενεργή έκδοση, εάν σκοπεύετε να τη χρησιμοποιήσετε. Εάν δεν ορίσετε την προεπιλεγμένη ιδιότητα ή εάν την ορίσετε σε μια ανενεργή έκδοση, οι κλήσεις στο προεπιλεγμένο τελικό σημείο αποτυγχάνουν.

Οι ρυθμίσεις τελικού σημείου του μοντέλου παραθέτουν όλες τις εκδόσεις με ενεργά τελικά σημεία. Μπορείτε να τροποποιήσετε την ιδιότητα αυτόματης αναστολής λειτουργίας κάθε τελικού σημείου, αλλάζοντας τον διακόπτη σε Ενεργό ή Ανενεργό.

Tip

Τα ενεργά τελικά σημεία με ενεργοποιημένη την αυτόματη αναστολή λειτουργίας εισέρχονται σε κατάσταση αδράνειας μετά από πέντε λεπτά χωρίς κίνηση. Η πρώτη κλήση για να τους ξυπνήσετε περιλαμβάνει μια μικρή καθυστέρηση. Μπορεί να θέλετε να απενεργοποιήσετε αυτήν την ιδιότητα για τελικά σημεία στην παραγωγή.

Τελικά σημεία μοντέλου ερωτήματος για προβλέψεις σε πραγματικό χρόνο

Μπορείτε να δοκιμάσετε τα τελικά σημεία του μοντέλου αμέσως, χρησιμοποιώντας την εμπειρία χαμηλών απαιτήσεων κώδικα στο Fabric. Μεταβείτε σε μια έκδοση με ενεργό τελικό σημείο και επιλέξτε Προεπισκόπηση προβλέψεων από την κορδέλα στο περιβάλλον εργασίας. Μπορείτε να στείλετε δείγματα αιτήσεων στο τελικό σημείο και να λάβετε δείγματα προβλέψεων σε πραγματικό χρόνο, χρησιμοποιώντας πεδία φόρμας που ταιριάζουν με την υπογραφή εισόδου του μοντέλου.

Επιλέξτε Αυτόματη συμπλήρωση για να συμπληρώσετε τα πεδία φόρμας με τυχαίες τιμές δείγματος. Μπορείτε να προσθέσετε περισσότερα σύνολα τιμών φόρμας για να ελέγξετε το τελικό σημείο με πολλαπλές εισόδους. Επιλέξτε Λήψη προβλέψεων για να στείλετε στο τελικό σημείο το δείγμα αίτησής σας.

Εάν προτιμάτε να μορφοποιήσετε δείγματα αιτήσεων ως ωφέλιμα φορτία JSON, χρησιμοποιήστε τον αναπτυσσόμενο επιλογέα για να αλλάξετε την προβολή.

Απενεργοποίηση τελικών σημείων μοντέλου

Μπορείτε να απενεργοποιήσετε τα τελικά σημεία μοντέλου απευθείας από το περιβάλλον εργασίας Fabric. Μεταβείτε σε μια έκδοση που δεν χρειάζεται πλέον να προβάλλετε προβλέψεις σε πραγματικό χρόνο και επιλέξτε Απενεργοποίηση τελικού σημείου έκδοσης από την κορδέλα στο περιβάλλον εργασίας.

Ένα αναδυόμενο μήνυμα δείχνει ότι το Fabric καταργεί την ενεργή ανάπτυξή σας και η κατάσταση του τελικού σημείου αλλάζει σε Deactivating. Το τελικό σημείο δεν μπορεί να εξυπηρετήσει προβλέψεις σε πραγματικό χρόνο, εκτός εάν το ενεργοποιήσετε ξανά.

Μπορείτε να απενεργοποιήσετε τα τελικά σημεία για πολλές εκδόσεις ταυτόχρονα από το τμήμα παραθύρου ρυθμίσεων του μοντέλου. Επιλέξτε Διαχείριση τελικών σημείων από την κορδέλα στο περιβάλλον εργασίας και επιλέξτε ένα ή περισσότερα ενεργά τελικά σημεία για απενεργοποίηση.

Ποσοστό κατανάλωσης

Η φιλοξενία ενεργών τελικών σημείων μοντέλου καταναλώνει μονάδες χωρητικότητας Fabric (CU). Τα τελικά σημεία εκτελούνται σε υπολογιστικούς κόμβους και μπορούν να κλιμακωθούν αυτόματα έως και τρεις κόμβοι με βάση την εισερχόμενη κίνηση. Η χρέωση υπολογίζεται ανά κόμβο ενώ ένα τελικό σημείο είναι ενεργό. Ο παρακάτω πίνακας δείχνει την κατανάλωση CU για ένα ενεργό τελικό σημείο μοντέλου εκμάθησης μηχανής.

λειτουργίας	Μονάδα λειτουργίας μέτρησης	ποσοστού κατανάλωσης
Τελικό σημείο μοντέλου	1 τελικό σημείο μοντέλου (έκδοση) ανά δευτερόλεπτο ανά κόμβο	5 CU δευτερόλεπτα

Ο παρακάτω πίνακας δείχνει παραδείγματα σεναρίων και τα αντίστοιχα ποσοστά κατανάλωσης και ωριαίο κόστος.

Σενάριο	Description	ποσοστού κατανάλωσης	Ωριαίο κόστος
Μοντέλα με ανενεργά τελικά σημεία	Αυτά τα μοντέλα δεν έχουν τελικά σημεία ενεργής έκδοσης και καμία συσχετισμένη χρήση πόρων. Δεν συνεπάγονται επιπλέον κόστος.	0 CU δευτερόλεπτα	0 CU ώρα
Μοντέλα με ενεργά αλλά αδρανή τελικά σημεία	Αυτά τα μοντέλα έχουν ένα ή περισσότερα ενεργά τελικά σημεία έκδοσης, αλλά, χωρίς τακτική κυκλοφορία, όλα τα τελικά σημεία κλιμακώνονται στο μηδέν, μειώνοντας αυτόματα το κόστος.	5 CU δευτερόλεπτα	0.42 CU ώρες
Μοντέλα με 1 ενεργό τελικό σημείο και σταθερή χαμηλή επισκεψιμότητα	Αυτά τα μοντέλα έχουν μόνο 1 ενεργό τελικό σημείο έκδοσης που εξυπηρετεί προβλέψεις, αλλά χωρίς αρκετή κίνηση για να ενεργοποιήσει μια πλήρη κλιμάκωση. Ένας κόμβος μπορεί να εξυπηρετήσει όλη την κίνηση. Άλλα τελικά σημεία έκδοσης ενδέχεται να είναι ανενεργά ή αδρανή.	5 CU δευτερόλεπτα	5 CU ώρες
Μοντέλα με 1 ενεργό τελικό σημείο και σταθερή υψηλή επισκεψιμότητα	Αυτά τα μοντέλα έχουν μόνο 1 ενεργή έκδοση τελικών σημείων που εξυπηρετούν προβλέψεις, με αρκετή επισκεψιμότητα για να ενεργοποιήσουν μια πλήρη κλιμάκωση. Άλλα τελικά σημεία έκδοσης ενδέχεται να είναι ανενεργά ή αδρανή.	15 CU δευτερόλεπτα	15 CU ώρες
Μοντέλα με 5 ενεργά τελικά σημεία και σταθερή υψηλή επισκεψιμότητα	Αυτά τα μοντέλα έχουν 5 ενεργά τελικά σημεία έκδοσης (το τρέχον όριο) που εξυπηρετούν προβλέψεις, το καθένα με αρκετή κίνηση για να ενεργοποιήσει μια πλήρη κλιμάκωση.	75 CU δευτερόλεπτα	75 CU ώρες

Η εφαρμογή μετρικών χωρητικότητας Fabric εμφανίζει τη συνολική χρήση χωρητικότητας για λειτουργίες τελικού σημείου μοντέλου με το όνομα "Τελικό σημείο μοντέλου". Επιπλέον, οι χρήστες μπορούν να δουν μια σύνοψη των χρεώσεών τους για τη χρήση τελικού σημείου μοντέλου στο στοιχείο τιμολόγησης «CU χρήσης χωρητικότητας τελικού σημείου μοντέλου ML».

Η λειτουργία τελικού σημείου μοντέλου ταξινομείται ως λειτουργίες παρασκηνίου.

Οι ρυθμοί κατανάλωσης υπόκεινται σε αλλαγές ανά πάσα στιγμή. Η Microsoft καταβάλλει εύλογες προσπάθειες για την παροχή ειδοποίησης μέσω ηλεκτρονικού ταχυδρομείου ή μέσω ειδοποίησης εντός του προϊόντος. Οι αλλαγές ισχύουν από την ημερομηνία που αναφέρεται στις σημειώσεις έκδοσης της Microsoft ή στο ιστολόγιο του Microsoft Fabric. Εάν οποιαδήποτε αλλαγή στο τελικό σημείο του μοντέλου στο Fabric Consumption Rate αυξάνει σημαντικά τις μονάδες χωρητικότητας (CU) που απαιτούνται για χρήση, οι πελάτες μπορούν να χρησιμοποιήσουν τις διαθέσιμες επιλογές ακύρωσης για την επιλεγμένη μέθοδο πληρωμής.

Σχετικό περιεχόμενο

• Διαχειριστείτε και υποβάλετε ερωτήματα σε τελικά σημεία μέσω προγραμματισμού, χρησιμοποιώντας το REST API τελικού σημείου μοντέλου εκμάθησης μηχανής.
• Καλέστε τελικά σημεία μοντέλου από το Dataflow Gen2 για εμπλουτισμό δεδομένων σε πραγματικό χρόνο.
• Δημιουργήστε προβλέψεις δέσμης χρησιμοποιώντας τη PREDICT συνάρτηση σε σημειωματάρια Fabric.
• Μάθετε περισσότερα σχετικά με την εκπαίδευση και τον πειραματισμό model στο Fabric.
• Χάσαμε κάποια δυνατότητα που χρειάζεστε; Προτείνετέ το στο φόρουμ Fabric Ideas.