Obsługa przewidywań w czasie rzeczywistym za pomocą punktów końcowych modelu uczenia maszynowego (wersja zapoznawcza)

Ważne

Ta funkcja jest dostępna w wersji zapoznawczej.

Microsoft Fabric pozwala serwować prognozy w czasie rzeczywistym z modeli ML, korzystając z bezpiecznych, skalowalnych i łatwych w użyciu punktów końcowych online. Większość modeli Fabric zawiera te punkty końcowe jako wbudowane właściwości i nie wymagają one konfiguracji, aby rozpocząć w pełni zarządzane wdrożenia w czasie rzeczywistym.

Punkty końcowe modelu można aktywować, konfigurować i wykonywać zapytania przy użyciu publicznego interfejsu API REST. Możesz też zacząć bezpośrednio w interfejsie Fabric, korzystając ze środowiska typu low-code, aby aktywować punkty końcowe modelu i od razu wyświetlać podgląd prognoz.

Wymagania wstępne

• Twój tenant ma domyślnie włączone endpointy modelu uczenia maszynowego. Jeśli administrator chce dezaktywować tę funkcję, może wyłączyć przełącznik najemcy dla punktów końcowych modelu uczenia maszynowego w portalu administracyjnym Fabric.

Ograniczenia

• Obecnie dostępne są punkty końcowe dla ograniczonego zestawu typów modeli uczenia maszynowego, w tym Keras, LightGBM, Sklearn i XGBoost.
• Punkty końcowe nie są obecnie dostępne dla modeli ze schematami opartymi na tensorach lub bez schematów.

Uwaga / Notatka

Punkty końcowe uczenia maszynowego wspierają modele trenowane w AutoML.

Rozpoczynanie pracy z punktami końcowymi modelu

Modele ML w Fabric są gotowe z punktami końcowymi online, które możesz wykorzystać do obsługi prognoz w czasie rzeczywistym. Każda zarejestrowana wersja modelu ma dedykowany adres URL punktu końcowego, który znajdziesz pod nagłówkiem Szczegóły punktu końcowego w interfejsie Fabric. Ten adres URL kończy się podścieżką oznaczającą konkretną wersję (na przykład /versions/1/score).

Punkty końcowe modelu mają następujące właściwości:

Własność	Opis	Wartość domyślna
Wersja domyślna	Ta właściwość (Yes lub No) wskazuje, czy wersja jest ustawiona jako domyślna dla modelu do obsługi rzeczywistych prognoz. Możesz dostosować wersję domyślną w ustawieniach modelu.	No
Status	Ta właściwość wskazuje, czy punkt końcowy jest gotowy do obsługi przewidywań. Stan może być Inactive, Activating, Active, Deactivating, lub Failed. Tylko aktywne punkty końcowe mogą obsługiwać przewidywania.	Inactive
Automatyczne uśpienie	Ta właściwość (On lub Off) wskazuje, czy punkt końcowy, raz aktywny, powinien skalować użycie pojemności w dół do zera w przypadku braku ruchu. Jeśli automatyczne uśpienie jest włączone, punkt końcowy przechodzi w stan bezczynności po pięciu minutach bez otrzymania żądań przychodzących. Pierwsze wywołanie wznawiania bezczynnego punktu końcowego wiąże się z krótkim opóźnieniem.	On

Aktywowanie punktów końcowych modelu

Punkty końcowe modelu można aktywować bezpośrednio z interfejsu Fabric. Przejdź do wersji, której chcesz używać do przewidywań w czasie rzeczywistym, i na wstążce wybierz opcję Aktywuj punkt końcowy wersji.

Powiadomienie typu toast informuje, że Fabric przygotowuje twój punkt końcowy do obsługi przewidywań, a stan punktu końcowego zmienia się na Activating. Za kulisami Fabric uruchamia infrastrukturę kontenerową, aby hostować Twój model. W ciągu kilku minut punkt końcowy jest gotowy do obsługi przewidywań.

Każdy punkt końcowy ma status wskazujący, czy jest gotowy do obsługi prognoz w czasie rzeczywistym:

Status	Opis
Inactive	Punkt końcowy nie jest aktywny do udostępniania prognoz w czasie rzeczywistym i nie wykorzystuje pojemności Fabric.
Activating	Punkt końcowy jest konfigurowany do obsługi przewidywań w czasie rzeczywistym. W tle Fabric konfiguruje infrastrukturę kontenerową do hostowania modelu. W ciągu kilku minut punkt końcowy jest aktywny.
Active	Punkt końcowy jest gotowy do obsługi przewidywań w czasie rzeczywistym. W tle Fabric zarządza podstawową infrastrukturą, skalując użycie zasobów w górę na podstawie ruchu przychodzącego. Większy ruch powoduje wyższe użycie pojemności Fabric.
Deactivating	Punkt końcowy jest dezaktywowany, więc nie obsługuje już prognoz w czasie rzeczywistym ani nie zużywa pojemności Fabric. Za kulisami, Fabric rozmontowuje podstawową infrastrukturę kontenerów.

Uwaga / Notatka

Modele uczenia maszynowego mogą obsługiwać aktywne punkty końcowe dla maksymalnie pięciu wersji jednocześnie. Aby obsługiwać przewidywania z szóstej wersji, należy najpierw dezaktywować aktywny punkt końcowy.

Zarządzanie punktami końcowymi modelu

Aby zobaczyć przegląd aktywnych punktów końcowych modelu, wybierz Zarządzaj punktami końcowymi z wstążki w interfejsie. Każdy model ma dostosowywalny domyślny punkt końcowy, który obsługuje przewidywania z wybranej wersji. Możesz zaktualizować wersję domyślną, korzystając z wybierania rozwijanych menu w panelu ustawień.

Ważne

Ustaw domyślną właściwość na aktywną wersję, jeśli planujesz jej używać. Jeśli nie ustawisz właściwości domyślnej lub ustawisz ją na nieaktywną wersję, wywołania domyślnego punktu końcowego zakończą się niepowodzeniem.

Ustawienia punktów końcowych modelu wymieniają wszystkie wersje z aktywnymi punktami końcowymi. Możesz zmodyfikować właściwość automatycznego uśpienia każdego punktu końcowego, przełączając przełącznik na Włączony lub Wyłączony.

Wskazówka

Aktywne punkty końcowe z włączonym automatycznym uśpieniem wchodzą w stan bezczynności po pięciu minutach bez ruchu. Pierwsze wezwanie, które ich obudzi, wiąże się z krótkim opóźnieniem. Możesz chcieć wyłączyć tę właściwość dla punktów końcowych w produkcji.

Wykonywanie zapytań względem punktów końcowych modelu dla przewidywań w czasie rzeczywistym

Możesz natychmiast testować punkty końcowe modelu, korzystając ze środowiska low-code w usłudze Fabric. Przejdź do wersji z aktywnym punktem końcowym i na wstążce interfejsu wybierz Wyświetl podgląd prognoz. Możesz wysyłać próbne żądania do punktu końcowego i otrzymywać próbne prognozy w czasie rzeczywistym, używając pól formularza odpowiadających sygnaturze wejściowej modelu.

Wybierz Autofill , aby wypełnić pola formularza losowymi wartościami próbki. Możesz dodać więcej zestawów wartości formularza, aby przetestować punkt końcowy z wieloma wejściami. Wybierz Get predictions , aby wysłać do punktu końcowego swoje przykładowe żądanie.

Jeśli wolisz formatować przykładowe żądania jako ładunki JSON, użyj selektora listy rozwijanej, aby zmienić widok.

Dezaktywowanie punktów końcowych modelu

Punkty końcowe modelu można dezaktywować bezpośrednio z interfejsu Fabric. Przejdź do wersji, w której nie musisz już serwować przewidywań w czasie rzeczywistym, i wybierz opcję Dezaktywuj koniec wersji z wstążki w interfejsie.

Powiadomienie informuje, że Fabric usuwa aktywne wdrożenie, a stan punktu końcowego zmienia się na Deactivating. Endpoint nie może serwować prognoz w czasie rzeczywistym, chyba że go ponownie aktywujesz.

Punkty końcowe dla wielu wersji można dezaktywować jednocześnie w okienku ustawień modelu. Wybierz Zarządzanie punktami końcowymi z wstążki w interfejsie i wybierz jeden lub więcej aktywnych punktów końcowych do dezaktywacji.

Wskaźnik zużycia

Hostowanie aktywnych punktów końcowych modelu zużywa jednostki wydajności Fabric (Capacity Units, CU). Punkty końcowe działają w węzłach obliczeniowych i mogą automatycznie skalować w górę do trzech węzłów na podstawie ruchu przychodzącego. Rozliczenia są obliczane na węzeł, gdy punkt końcowy jest aktywny. Poniższa tabela przedstawia zużycie CU dla aktywnego punktu końcowego modelu ML.

Operacja	Jednostka operacji miary	Wskaźnik zużycia
Punkt końcowy modelu	1 punkt końcowy modelu (wersja) na sekundę na węzeł	5 sekund CU

Poniższa tabela przedstawia przykładowe scenariusze oraz odpowiadające im tempo zużycia i koszty godzinowe.

scenariusz	Opis	Wskaźnik zużycia	Koszt godzinowy
Modele z nieaktywnymi punktami końcowymi	Te modele nie mają aktywnych punktów końcowych wersji i nie mają skojarzonego użycia zasobów. Nie wiążą się one z dodatkowymi kosztami.	0 CU sekundy	Godzina 0 CU
Modele z aktywnymi, ale bezczynnymi punktami końcowymi	Modele te mają jeden lub więcej aktywnych punktów końcowych, ale bez regularnego ruchu wszystkie punkty skalują się do zera, co automatycznie obniża koszty.	5 sekund CU	0,42 godziny CU
Modele z 1 aktywnym punktem końcowym i stałym niskim ruchem	Te modele mają tylko jeden aktywny punkt końcowy, który obsługuje predykcje, ale bez wystarczającego ruchu, aby wywołać pełne skalowanie. Jeden węzeł może obsłużyć cały ruch. Inne punkty końcowe danej wersji mogą być nieaktywne lub bezczynne.	5 sekund CU	5 godzin CU
Modele z 1 aktywnym punktem końcowym i stałym wysokim natężeniem ruchu	Te modele mają tylko 1 aktywny punkt końcowy wersji obsługujący predykcje, przy wystarczającym natężeniu ruchu, aby uruchomić pełne skalowanie. Inne punkty końcowe wersji mogą być nieaktywne lub bezczynne.	15 sekund CU	15 godzin aktualizacji CU
Modele z 5 aktywnymi punktami końcowymi i dużym stałym ruchem	Te modele mają 5 aktywnych punktów końcowych wersji (bieżący limit) obsługujących przewidywania, z których każdy ma wystarczającą ilość ruchu, aby wyzwolić pełne skalowanie w poziomie.	75 sekund CU	75 godzin CU

Aplikacja metryk wydajności Fabric wyświetla łączne użycie pojemności dla operacji punktu końcowego modelu pod nazwą "Punkt końcowy modelu". Dodatkowo użytkownicy mogą zobaczyć podsumowanie swoich opłat rozliczeniowych za wykorzystanie Model Endpoint w pozycji rozliczeniowej "ML Model Endpoint Capacity Usage CU".

Operacja punktu końcowego modelu jest klasyfikowana jako operacje w tle.

Stawki zużycia mogą ulec zmianie w dowolnym momencie. Microsoft podejmuje rozsądne starania w celu powiadomienia za pośrednictwem poczty e-mail lub powiadomienia w aplikacji. Zmiany wchodzą w życie w dacie podanej w Microsoft Release Notes lub na blogu Microsoft Fabric. Jeśli jakakolwiek zmiana punktu końcowego modelu w Fabric Wskaźnik zużycia znacznie zwiększa liczbę jednostek pojemności (CU) wymaganych do użycia, klienci mogą skorzystać z opcji anulowania dostępnych dla wybranej formy płatności.

Treści powiązane

• Zarządzaj i zapytuj punkty końcowe programowo za pomocą modelu ML endpoint REST API.
• Wywoływanie punktów końcowych modelu z usługi Dataflow Gen2 w celu wzbogacania danych w czasie rzeczywistym.
• Generuj prognozy wsadowe za pomocą funkcji PREDICT w notesach Fabric.
• Dowiedz się więcej na temat trenowania i eksperymentowania modeli w Fabric.
• Czy brakowało nam potrzebnej funkcji? Zasugeruj go na forum Fabric Ideas.