Zobrazovanie predpovedí v reálnom čase s koncovými bodmi modelu strojového učenia (Preview)

Important

Táto funkcia je vo verzii Preview.

Microsoft Fabric vám umožňuje poskytovať predikcie v reálnom čase z ML modelov pomocou bezpečných, škálovateľných a ľahko použiteľných online koncových bodov. Väčšina modelov Fabric zahŕňa tieto endpointy ako zabudované vlastnosti a nevyžadujú žiadne nastavenie na spustenie plne spravovaných nasadení v reálnom čase.

Môžete aktivovať, konfigurovať a dotazovať koncové body modelu pomocou verejného REST API. Môžete tiež začať priamo z rozhrania Fabric použitím low-code zážitku na okamžité aktivovanie endpointov modelu a náhľadu predikcií.

Prerequisites

• Váš tenant má predvolene zapnuté endpointy strojového učenia modelov. Ak chce váš administrátor túto funkciu vypnúť, môže vypnúť prepínač tenantov pre koncové body ML modelu v Fabric admin portáli.

Limitations

• Koncové body sú v súčasnosti k dispozícii pre obmedzenú množinu variantov modelov strojového učenia vrátane modelov Keras, LightGBM, Sklearn a XGBoost.
• Koncové body momentálne nie sú k dispozícii pre modely so schémami založenými na tenzore alebo bez schém.

Note

Koncové body strojového učenia podporujú modely trénované AutoML.

Začíname s koncovými bodmi modelu

ML modely v Fabric sú predpripravené s online endpointmi, ktoré môžete použiť na poskytovanie predikcií v reálnom čase. Každá registrovaná verzia modelu má vyhradenú URL koncového bodu, ktorú nájdete pod nadpisom detailov koncových bodov v rozhraní Fabric. Táto URL končí podcestou, ktorá určuje konkrétnu verziu (napríklad /versions/1/score).

Koncové body modelu majú nasledujúce vlastnosti:

Property	Description	Default
Predvolená verzia	Táto vlastnosť (Yes alebo No) určuje, či je verzia nastavená ako predvolená pre model pre obsluhu reálnych predpovedí. Predvolenú verziu môžete prispôsobiť v nastaveniach modelu.	No
Status	Táto vlastnosť udáva, či je koncový bod pripravený na zobrazovanie predpovedí. Stav môže byť Inactive, , ActivatingActive, Deactivating, alebo Failed. Iba aktívne koncové body môžu slúžiť na predpovede.	Inactive
Automatický spánok	Táto vlastnosť (On alebo Off) udáva, či má koncový bod v prípade absencie prenosu znížiť využitie kapacity na nulu. Ak je automatické uspanie zapnuté, koncový bod prejde do stavu nečinnosti po piatich minútach bez prichádzajúcich požiadaviek. Prvé volanie prebudiť nečinný koncový bod zahŕňa krátke oneskorenie.	On

Aktivácia koncových bodov modelu

Endpointy modelu môžete aktivovať priamo z rozhrania Fabric. Prejdite na verziu, ktorú chcete použiť na predikcie v reálnom čase, a vyberte Activate version endpoint z pásky.

Správa Toast ukazuje, že Fabric pripravuje váš endpoint na spracovanie predikcií, a stav endpointu sa mení na Activating. V zákulisí Fabric spúšťa základnú kontajnerovú infraštruktúru na hostovanie vášho modelu. V priebehu niekoľkých minút bude váš koncový bod pripravený na zobrazovanie predpovedí.

Každý koncový bod má stav, ktorý naznačuje, či je pripravený slúžiť predikciám v reálnom čase:

Status	Description
Inactive	Endpoint nie je aktivovaný na poskytovanie predikcií v reálnom čase a nespotrebúva kapacitu Fabric.
Activating	Koncový bod je nakonfigurovaný tak, aby slúžil predpovediam v reálnom čase. V zákulisí Fabric nastavuje základnú kontajnerovú infraštruktúru na hostenie modelu. V priebehu niekoľkých minút je aktívny koncový bod.
Active	Koncový bod je pripravený na zobrazovanie predpovedí v reálnom čase. V zákulisí Fabric spravuje základnú infraštruktúru a škáluje využitie zdrojov na základe prichádzajúcej prevádzky. Vyššia návštevnosť vedie k vyššiemu využitiu kapacity Fabric.
Deactivating	Koncový bod sa deaktivuje, takže už neposkytuje predikcie v reálnom čase ani nespotrebúva kapacitu Fabric. V zákulisí Fabric rozoberá základnú kontajnerovú infraštruktúru.

Note

Modely strojového učenia môžu podporovať aktívne koncové body až pre päť verzií naraz. Ak chcete zobrazovať predpovede z šiestej verzie, musíte najprv deaktivovať aktívny koncový bod.

Spravovanie koncových bodov modelu

Ak chcete získať prehľad o aktívnych koncových bodoch vášho modelu, vyberte Spravovať koncové body z pásu v rozhraní. Každý model má prispôsobiteľný predvolený koncový bod, ktorý poskytuje predpovede z vybratej verzie. Predvolenú verziu môžete aktualizovať pomocou výberu rozbaľovacích zoznamov v nastaveniach.

Important

Ak ju plánujete použiť, nastavte predvolenú vlastnosť na aktívnu verziu. Ak nenastavíte predvolenú vlastnosť, alebo ak ju nastavíte na neaktívnu verziu, volania predvoleného endpointu zlyhajú.

Nastavenia koncových bodov modelu uvádzajú všetky verzie s aktívnymi koncovými bodmi. Vlastnosť automatického spánku každého koncového bodu môžete upraviť prepnutím prepínača na Zapnuté alebo Vypnuté.

Tip

Aktívne koncové body so zapnutým automatickým spánkom vstúpia do stavu nečinnosti po piatich minútach bez prevádzky. Prvý hovor na prebudenie znamená krátke oneskorenie. Možno by ste mali túto vlastnosť vypnúť pre koncové body v produkcii.

Koncové body modelu dotazu pre predpovede v reálnom čase

Endpointy modelu môžete okamžite otestovať pomocou low-code zážitku v Fabric. Prejdite na verziu s aktívnym endpointom a vyberte Preview predictions z pásky v rozhraní. Môžete posielať vzorkové požiadavky na koncový bod a získavať vzorkové predikcie v reálnom čase pomocou formulárových polí, ktoré zodpovedajú vstupnému podpisu modelu.

Vyberte Autofill na vyplnenie polí formulára náhodnými vzorkovými hodnotami. Môžete pridať viac súborov hodnôt formulára na testovanie koncového bodu s viacerými vstupmi. Vyberte Získať predpovede, aby ste koncovému bodu poslali vašu ukážkovú požiadavku.

Ak chcete formátovať vzorové požiadavky ako údajové časti JSON, pomocou rozbaľovacieho selektora zmeňte zobrazenie.

Deaktivácia koncových bodov modelu

Endpointy modelu môžete deaktivovať priamo z rozhrania Fabric. Prejdite na verziu, ktorú už nepotrebujete na poskytovanie predikcií v reálnom čase, a vyberte možnosť Deaktivovať endpoint verzie na páske v rozhraní.

Správa Toast ukazuje, že Fabric rozoberá vaše aktívne nasadenie a stav endpointu sa mení na Deactivating. Endpoint nemôže poskytovať predpovede v reálnom čase, pokiaľ ho znovu neaktivujete.

Endpointy pre viacero verzií môžete deaktivovať naraz v nastaveniach modelu. Vyberte Spravovať koncové body z pásu v rozhraní a vyberte jeden alebo viac aktívnych koncových bodov na deaktiváciu.

Miera spotreby

Hostovanie aktívnych modelových koncových bodov spotrebúva Fabric Capacity Units (CU). Koncové body bežia na výpočtových uzloch a môžu automaticky škálovať až na tri uzly na základe prichádzajúcej prevádzky. Fakturácia sa počíta za uzol, keď je koncový bod aktívny. Nasledujúca tabuľka ukazuje spotrebu CU pre aktívny koncový bod modelu ML.

Operácia	prevádzková jednotka	spotreba
Koncový bod modelu	1 koncový bod modelu (verzia) za sekundu na uzol	5 sekúnd CU

Nasledujúca tabuľka ukazuje príklady scenárov a ich zodpovedajúce miery spotreby a hodinové náklady.

Scenár	Description	spotreba	Hodinové náklady
Modely s neaktívnymi koncovými bodmi	Tieto modely nemajú žiadne koncové body aktívnej verzie a žiadne súvisiace využitie zdrojov. Nezahŕňajú žiadne dodatočné náklady.	0 CU sekúnd	0 hodín CU
Modely s aktívnymi, ale nečinnými koncovými bodmi	Tieto modely majú jeden alebo viac aktívnych koncových bodov verzie, ale bez bežnej prevádzky sa všetky koncové body škálujú na nulu, čím sa náklady automaticky znižujú.	5 sekúnd CU	0,42 hodín CU
Modely s 1 aktívnym koncovým bodom a konštantne nízkou prevádzkou	Tieto modely majú iba 1 aktívnu verziu koncového bodu obsluhujúceho predpovede, ale bez dostatočnej prevádzky na spustenie úplného škálovania na viac strán. Jeden uzol môže obsluhovať všetku prevádzku. Iné koncové body verzií môžu byť neaktívne alebo nečinné.	5 sekúnd CU	5 hodín UK
Modely s 1 aktívnym koncovým bodom a konštantnou vysokou návštevnosťou	Tieto modely majú len jednu aktívnu predikciu pre koncové body, s dostatočným množstvom prevádzky na spustenie úplného škálovania. Iné koncové body verzií môžu byť neaktívne alebo nečinné.	15 sekúnd CU	15 hodín UK
Modely s 5 aktívnymi koncovými bodmi a konštantnou vysokou prevádzkou	Tieto modely majú 5 koncových bodov aktívnej verzie (aktuálny limit), z ktorých každý má dostatočnú návštevnosť na spustenie úplného škálovania.	75 sekúnd CU	75 hodín UK

aplikácia Fabric Capacity Metrics zobrazuje celkové využitie kapacity pre operácie modelových koncových bodov pod názvom "Model Endpoint". Okrem toho si používatelia môžu pozrieť súhrn svojich fakturačných poplatkov za využitie modelových koncových bodov pod fakturačnou položkou "ML Model Endpoint Capacity Usage CU".

Operácia koncového bodu modelu je klasifikovaná ako operácie na pozadí.

Sadzby spotreby sa môžu kedykoľvek zmeniť. Microsoft využíva primerané úsilie na poskytovanie oznámenia prostredníctvom e-mailu alebo prostredníctvom notifikácií priamo v produkte. Zmeny nadobúdajú účinnosť k dátumu uvedenému v poznámkach k vydaniu Microsoft alebo na blogu Microsoft Fabric. Ak akákoľvek zmena koncového bodu modelu v Fabric Consumption Rate výrazne zvýši počet kapacitných jednotiek (CU) potrebných na použitie, zákazníci môžu využiť možnosti zrušenia pre zvolenú platobnú metódu.

Súvisiaci obsah

• Spravujte a dotazujte koncové body programovo pomocou ML modelu endpoint REST API.
• Volajte endpointy modelu z Dataflow Gen2 pre obohatenie dát v reálnom čase.
• Generujte dávkové predikcie pomocou PREDICT funkcie v Fabric notebooks.
• Viac sa dozviete o model tréningu a experimentovaní v Fabric.
• Chýbala vám funkcia, ktorú potrebujete? Navrhnite to na fóre Fabric Ideas.