Εξυπηρέτηση προβλέψεων σε πραγματικό χρόνο με τελικά σημεία μοντέλου εκμάθησης μηχανής (Προεπισκόπηση)

Important

Αυτή η δυνατότητα είναι σε προεπισκόπηση.

Το Microsoft Fabric σάς επιτρέπει να διανείμετε προβλέψεις σε πραγματικό χρόνο από μοντέλα εκμάθησης μηχανής με ασφαλή, επεκτάσιμα και εύχρηστα online τελικά σημεία. Αυτά τα τελικά σημεία είναι διαθέσιμα ως ενσωματωμένες ιδιότητες των περισσότερων μοντέλων Fabric και δεν απαιτούν ρύθμιση για την έναρξη πλήρως διαχειριζόμενων αναπτύξεων σε πραγματικό χρόνο.

Μπορείτε να ενεργοποιήσετε, να ρυθμίσετε τις παραμέτρους και να υποβάλετε ερωτήματα σε τελικά σημεία μοντέλου με ένα δημόσιο REST API. Μπορείτε επίσης να ξεκινήσετε απευθείας από τη διασύνδεση Fabric, χρησιμοποιώντας μια εμπειρία χαμηλού κώδικα για την άμεση ενεργοποίηση τελικών σημείων μοντέλου και προβλέψεων προεπισκόπησης.

Prerequisites

• Για να εξυπηρετήσει προβλέψεις σε πραγματικό χρόνο, ο διαχειριστής σας πρέπει να ενεργοποιήσει τον διακόπτη μισθωτή για τελικά σημεία μοντέλου εκμάθησης μηχανής στην πύλη διαχείρισης Fabric.

Limitations

• Προς το παρόν, τα τελικά σημεία είναι διαθέσιμα για ένα περιορισμένο σύνολο flavor μοντέλων εκμάθησης μηχανής, συμπεριλαμβανομένων των Keras, LightGBM, Sklearn και XGBoost.
• Προς το παρόν, τα τελικά σημεία δεν είναι διαθέσιμα για μοντέλα με σχήματα που βασίζονται σε τανυστή ή χωρίς σχήματα.

Γρήγορα αποτελέσματα με τελικά σημεία μοντέλου

Τα μοντέλα εκμάθησης μηχανής στο Fabric είναι προκατασκευασμένο με online τελικά σημεία που μπορούν να χρησιμοποιηθούν για την εξυπηρέτηση προβλέψεων σε πραγματικό χρόνο. Κάθε καταχωρημένη έκδοση μοντέλου έχει μια αποκλειστική διεύθυνση URL τελικού σημείου, η οποία μπορείτε να βρείτε στην επικεφαλίδα "Λεπτομέρειες τελικού σημείου" στη διασύνδεση Fabric. Αυτή η διεύθυνση URL τελειώνει σε μια δευτερεύουσα γραμμή που ορίζει τη συγκεκριμένη έκδοση (για παράδειγμα, /versions/1/score).

Τα τελικά σημεία μοντέλου έχουν τις ακόλουθες ιδιότητες:

Property	Description	Default
Προεπιλεγμένη έκδοση	Αυτή η ιδιότητα (Yes ή No) υποδεικνύει εάν η έκδοση έχει οριστεί ως προεπιλογή του μοντέλου για την εξυπηρέτηση πραγματικών προβλέψεων. Μπορείτε να προσαρμόσετε την προεπιλεγμένη έκδοση στις ρυθμίσεις του μοντέλου.	No
Status	Αυτή η ιδιότητα υποδεικνύει εάν το τελικό σημείο είναι έτοιμο να εξυπηρετήσει προβλέψεις. Η κατάσταση μπορεί να είναι Inactive, Activating, Active, , Deactivatingή Failed. Μόνο ενεργά τελικά σημεία μπορούν να εξυπηρετούν προβλέψεις.	Inactive
Αυτόματη αναστολή λειτουργίας	Αυτή η ιδιότητα (On ή Off) υποδεικνύει εάν το τελικό σημείο, όταν είναι ενεργό, θα πρέπει να μειώσει τη χρήση εκχωρημένων πόρων στο μηδέν, ελλείψει κυκλοφορίας. Εάν η αυτόματη αναστολή λειτουργίας είναι ενεργό, το τελικό σημείο εισέρχεται σε κατάσταση αδράνειας μετά από πέντε λεπτά χωρίς εισερχόμενες αιτήσεις. Η πρώτη κλήση για να ξυπνήσετε ένα αδρανές τελικό σημείο περιλαμβάνει μια μικρή καθυστέρηση.	On

Ενεργοποίηση τελικών σημείων μοντέλου

Μπορείτε να ενεργοποιήσετε τελικά σημεία μοντέλου απευθείας από τη διασύνδεση Fabric. Μεταβείτε στην έκδοση που θέλετε να διανείμετε προβλέψεις σε πραγματικό χρόνο και επιλέξτε "Ενεργοποίηση τελικού σημείου έκδοσης" από την κορδέλα.

Ένα αναδυόμενο μήνυμα δείχνει ότι το Fabric ετοιμάζει το τελικό σημείο σας για την εξυπηρέτηση προβλέψεων και η κατάσταση του τελικού σημείου αλλάζει σε "Ενεργοποίηση". Στο παρασκήνιο, το Fabric περιστρέφει την υποκείμενη υποδομή κοντέινερ για να φιλοξενήσει το μοντέλο σας. Μέσα σε λίγα λεπτά, το τελικό σημείο σας είναι έτοιμο να εξυπηρετήσει προβλέψεις.

Κάθε τελικό σημείο έχει μια κατάσταση που υποδεικνύει εάν είναι έτοιμο να εξυπηρετήσει προβλέψεις σε πραγματικό χρόνο:

Status	Description
Inactive	Το τελικό σημείο δεν ενεργοποιείται για την εξυπηρέτηση προβλέψεων σε πραγματικό χρόνο και δεν καταναλώνει εκχωρημένους πόρους Fabric.
Activating	Το τελικό σημείο ρυθμίζεται για να εξυπηρετεί προβλέψεις σε πραγματικό χρόνο. Στο παρασκήνιο, το Fabric ρυθμίζει την υποδομή υποκείμενου κοντέινερ για τη φιλοξενία του μοντέλου. Μέσα σε λίγα λεπτά, το τελικό σημείο είναι ενεργό.
Active	Το τελικό σημείο είναι έτοιμο να εξυπηρετήσει προβλέψεις σε πραγματικό χρόνο. Στο παρασκήνιο, το Fabric διαχειρίζεται την υποκείμενη υποδομή, κλιμακώνοντας τη χρήση πόρων με βάση την εισερχόμενη κυκλοφορία. Υψηλότερη επισκεψιμότητα έχει ως αποτέλεσμα υψηλότερη χρήση των εκχωρημένων πόρων Fabric.
Deactivating	Το τελικό σημείο απενεργοποιείται, έτσι ώστε να μην εξυπηρετεί πλέον προβλέψεις σε πραγματικό χρόνο ή να καταναλώνει εκχωρημένους πόρους Fabric. Στο παρασκήνιο, το Fabric αποσυναρμολογεί την υποκείμενη υποδομή κοντέινερ.

Note

Τα μοντέλα εκμάθησης μηχανής μπορούν να υποστηρίξουν ενεργά τελικά σημεία για έως και πέντε εκδόσεις ταυτόχρονα. Για να διανείμετε προβλέψεις από μια έκτη έκδοση, πρέπει πρώτα να απενεργοποιήσετε ένα ενεργό τελικό σημείο.

Διαχείριση τελικών σημείων μοντέλου

Για μια επισκόπηση των ενεργών τελικών σημείων του μοντέλου σας, επιλέξτε "Διαχείριση τελικών σημείων" από την κορδέλα στη διασύνδεση. Κάθε μοντέλο έχει ένα προεπιλεγμένο τελικό σημείο με δυνατότητα προσαρμογής, το οποίο εξυπηρετεί προβλέψεις από μια έκδοση που επιλέγετε. Μπορείτε να ενημερώσετε την προεπιλεγμένη έκδοση χρησιμοποιώντας τον επιλογέα αναπτυσσόμενης λίστας στο τμήμα παραθύρου ρυθμίσεων.

Important

Φροντίστε να ορίσετε την προεπιλεγμένη ιδιότητα σε μια ενεργή έκδοση, εάν σκοπεύετε να τη χρησιμοποιήσετε. Εάν η προεπιλεγμένη ιδιότητα δεν έχει οριστεί ή έχει οριστεί σε ανενεργή έκδοση, τότε οι κλήσεις στο προεπιλεγμένο τελικό σημείο αποτυγχάνουν.

Όλες οι εκδόσεις με ενεργά τελικά σημεία παρατίθενται στις ρυθμίσεις τελικού σημείου του μοντέλου. Μπορείτε να τροποποιήσετε την ιδιότητα αυτόματης αναστολής για κάθε τελικό σημείο, στρέψοντας το ρυθμιστικό σε "Ενεργό" ή "Ανενεργό".

Tip

Τα ενεργά τελικά σημεία με αυτόματη αναστολή λειτουργίας είναι ενεργοποιημένα σε κατάσταση αδράνειας μετά από πέντε λεπτά χωρίς κυκλοφορία και η πρώτη κλήση για να τα ξυπνήσετε περιλαμβάνει μια μικρή καθυστέρηση. Μπορεί να θέλετε να απενεργοποιήσετε αυτήν την ιδιότητα για τα τελικά σημεία στην παραγωγή.

Τελικά σημεία μοντέλου ερωτήματος για προβλέψεις σε πραγματικό χρόνο

Τα τελικά σημεία μοντέλου είναι διαθέσιμα για άμεσες δοκιμές με εμπειρία χαμηλού κώδικα στο Fabric. Μεταβείτε σε μια έκδοση με ενεργό τελικό σημείο και επιλέξτε "Προεπισκόπηση προβλέψεων" από την κορδέλα στη διασύνδεση. Μπορείτε να στείλετε δείγματα αιτήσεων στο τελικό σημείο και να λάβετε δείγματα προβλέψεων σε πραγματικό χρόνο, χρησιμοποιώντας πεδία φόρμας που συμφωνούν με την υπογραφή εισόδου του μοντέλου.

Για να συμπληρώσετε τα πεδία φόρμας με τυχαίες τιμές δείγματος, επιλέξτε "Αυτόματη συμπλήρωση". Μπορείτε να προσθέσετε περισσότερα σύνολα τιμών φόρμας για να ελέγξετε το τελικό σημείο με πολλαπλές εισόδους. Επιλέξτε "Λήψη προβλέψεων" για να στείλετε στο τελικό σημείο το δείγμα αίτησής σας.

Εάν προτιμάτε να μορφοποιήσετε δείγματα αιτήσεων ως ωφέλιμα φορτία JSON, χρησιμοποιήστε τον αναπτυσσόμενο επιλογέα για να αλλάξετε την προβολή.

Απενεργοποίηση τελικών σημείων μοντέλου

Μπορείτε να απενεργοποιήσετε τα τελικά σημεία μοντέλου απευθείας από τη διασύνδεση Fabric. Μεταβείτε σε μια έκδοση που δεν χρειάζεται πλέον να εξυπηρετεί προβλέψεις σε πραγματικό χρόνο και επιλέξτε "Απενεργοποίηση τελικού σημείου έκδοσης" από την κορδέλα στο περιβάλλον εργασίας.

Ένα αναδυόμενο μήνυμα δείχνει ότι το Fabric αποσυναρμολογεί την ενεργή ανάπτυξή σας και η κατάσταση του τελικού σημείου αλλάζει σε "Απενεργοποίηση". Το τελικό σημείο δεν είναι πλέον σε θέση να εκτελεί προβλέψεις σε πραγματικό χρόνο, εκτός εάν τις ενεργοποιήσετε ξανά.

Μπορείτε να απενεργοποιήσετε τα τελικά σημεία για πολλές εκδόσεις ταυτόχρονα από το τμήμα παραθύρου ρυθμίσεων του μοντέλου. Επιλέξτε "Διαχείριση τελικών σημείων" από την κορδέλα στο περιβάλλον εργασίας και επιλέξτε ένα ή περισσότερα ενεργά τελικά σημεία για απενεργοποίηση.

Ποσοστό κατανάλωσης

Η φιλοξενία ενεργών τελικών σημείων μοντέλου καταναλώνει μονάδες χωρητικότητας υφάσματος (CU). Τα τελικά σημεία εκτελούνται σε υπολογιστικούς κόμβους και μπορούν να κλιμακωθούν αυτόματα έως και τρεις κόμβοι με βάση την εισερχόμενη κίνηση. Η χρέωση υπολογίζεται ανά κόμβο ενώ ένα τελικό σημείο είναι ενεργό. Ο παρακάτω πίνακας δείχνει την κατανάλωση CU για ένα ενεργό τελικό σημείο μοντέλου μηχανικής εκμάθησης.

λειτουργίας	Μονάδα λειτουργίας μέτρησης	ποσοστού κατανάλωσης
Τελικό σημείο μοντέλου	1 τελικό σημείο μοντέλου (έκδοση) ανά δευτερόλεπτο ανά κόμβο	5 CU δευτερόλεπτα

Ο παρακάτω πίνακας δείχνει παραδείγματα σεναρίων και τις αντίστοιχες τιμές κατανάλωσης και ωριαίου κόστους.

Σενάριο	Description	ποσοστού κατανάλωσης	Ωριαίο κόστος
Μοντέλα με ανενεργά τελικά σημεία	Αυτά τα μοντέλα δεν έχουν τελικά σημεία ενεργής έκδοσης και καμία συσχετισμένη χρήση πόρων. Δεν συνεπάγονται επιπλέον κόστος.	0 CU δευτερόλεπτα	0 CU ώρα
Μοντέλα με ενεργά αλλά αδρανή τελικά σημεία	Αυτά τα μοντέλα έχουν ένα ή περισσότερα τελικά σημεία ενεργής έκδοσης, αλλά, χωρίς κανονική κυκλοφορία, όλα έχουν κλιμακωθεί στο μηδέν, μειώνοντας αυτόματα το κόστος.	5 CU δευτερόλεπτα	0.42 CU ώρες
Μοντέλα με 1 ενεργό τελικό σημείο και σταθερή χαμηλή επισκεψιμότητα	Αυτά τα μοντέλα έχουν μόνο 1 ενεργό τελικό σημείο έκδοσης που εξυπηρετεί προβλέψεις, αλλά χωρίς αρκετή κίνηση για να ενεργοποιήσει μια πλήρη κλιμάκωση. Ένας κόμβος μπορεί να εξυπηρετήσει όλη την κίνηση. Άλλα τελικά σημεία έκδοσης ενδέχεται να είναι ανενεργά ή αδρανή.	5 CU δευτερόλεπτα	5 CU ώρες
Μοντέλα με 1 ενεργό τελικό σημείο και σταθερή υψηλή επισκεψιμότητα	Αυτά τα μοντέλα έχουν μόνο 1 ενεργό τελικό σημείο έκδοσης που εξυπηρετεί προβλέψεις, με αρκετή κίνηση για να ενεργοποιήσει μια πλήρη κλιμάκωση. Άλλα τελικά σημεία έκδοσης ενδέχεται να είναι ανενεργά ή αδρανή.	15 CU δευτερόλεπτα	15 CU ώρες
Μοντέλα με 5 ενεργά τελικά σημεία και σταθερή υψηλή επισκεψιμότητα	Αυτά τα μοντέλα έχουν 5 ενεργά τελικά σημεία έκδοσης (το τρέχον όριο) που εξυπηρετούν προβλέψεις, το καθένα με αρκετή κίνηση για να ενεργοποιήσει μια πλήρη κλιμάκωση.	75 CU δευτερόλεπτα	75 CU ώρες

Η εφαρμογή Fabric Capacity Metrics εμφανίζει τη συνολική χρήση χωρητικότητας για λειτουργίες τελικού σημείου μοντέλου με το όνομα "Model Endpoint". Επιπλέον, οι χρήστες μπορούν να δουν μια σύνοψη των χρεώσεών τους για τη χρήση τελικού σημείου μοντέλου κάτω από το στοιχείο τιμολόγησης "ML Model Endpoint Capacity Usage CU".

Η λειτουργία τελικού σημείου μοντέλου ταξινομείται ως λειτουργίες παρασκηνίου.

Οι ρυθμοί κατανάλωσης υπόκεινται σε αλλαγές ανά πάσα στιγμή. Η Microsoft καταβάλλει εύλογες προσπάθειες για την παροχή ειδοποίησης μέσω ηλεκτρονικού ταχυδρομείου ή μέσω ειδοποίησης εντός του προϊόντος. Οι αλλαγές θα ισχύουν κατά την ημερομηνία που αναφέρεται στις Σημειώσεις έκδοσης της Microsoft ή στο ιστολόγιο microsoft Fabric. Εάν οποιαδήποτε αλλαγή στο τελικό σημείο μοντέλου στο Ποσοστό κατανάλωσης Fabric αυξήσει σημαντικά τις μονάδες χωρητικότητας (CU) που απαιτούνται για χρήση, οι πελάτες μπορούν να χρησιμοποιήσουν τις διαθέσιμες επιλογές ακύρωσης για τον επιλεγμένο τρόπο πληρωμής.

Σχετικό περιεχόμενο

• Διαχείριση και υποβολή ερωτημάτων σε τελικά σημεία μέσω προγραμματισμού με το API REST του μοντέλου εκμάθησης μηχανής.
• Δημιουργήστε προβλέψεις δέσμης με τη PREDICT συνάρτηση στα σημειωματάρια Fabric.
• Μάθετε περισσότερα σχετικά με την εκπαίδευση και τον πειραματισμό μοντέλων στο Fabric.
• Χάσαμε κάποια δυνατότητα που χρειάζεστε; Προτείνετε το στο φόρουμ Ιδεών Fabric.