Realtime voorspellingen uitvoeren met ML-modeleindpunten (preview)

Belangrijk

Deze functie is beschikbaar als preview-versie.

Microsoft Fabric stelt je in staat realtime voorspellingen te leveren vanuit ML-modellen door gebruik te maken van veilige, schaalbare en gebruiksvriendelijke online endpoints. De meeste Fabric-modellen bevatten deze eindpunten als ingebouwde eigenschappen, en ze vereisen geen setup om volledig beheerde realtime implementaties te starten.

U kunt eindpunten van modellen activeren, configureren en er query's op uitvoeren met behulp van een openbare REST API. Je kunt ook direct beginnen via de Fabric-interface door een low-code ervaring te gebruiken om modeleindpunten direct te activeren en voorspellingen te bekijken.

Schermafbeelding met een ML-model in Fabric met een ingebouwde eindpunteigenschap voor het leveren van realtime voorspellingen.

Vereiste voorwaarden

Beperkingen

  • Eindpunten zijn momenteel beschikbaar voor een beperkte set ML-model flavors, waaronder Keras, LightGBM, Sklearn en XGBoost.
  • Eindpunten zijn momenteel niet beschikbaar voor modellen met op tensor gebaseerde schema's of geen schema's.

Opmerking

Machine learning-endpoints ondersteunen door AutoML getrainde modellen.

Aan de slag met modeleindpunten

ML-modellen in Fabric worden geleverd met vooraf gebouwde endpoints die je kunt gebruiken om realtime voorspellingen te leveren. Elke geregistreerde modelversie heeft een speciale endpoint-URL, die je kunt vinden onder de kop Endpoint details in de Fabric-interface. Deze URL eindigt met een subpad dat de specifieke versie aanduidt (bijvoorbeeld /versions/1/score).

Schermopname van de eigenschappen van een ML-modeleindpunt, dat kan worden gebruikt voor realtime voorspellingen.

Modeleindpunten hebben de volgende eigenschappen:

Eigenschappen Beschrijving standaard
Standaardversie Deze eigenschap (Yes of No) geeft aan of de versie als standaard van het model is ingesteld voor het leveren van reële voorspellingen. U kunt de standaardversie aanpassen in de instellingen van het model. No
Status Deze eigenschap geeft aan of het eindpunt gereed is voor voorspellingen. De status kan zijnInactive, Activating, Active, of DeactivatingFailed. Alleen actieve eindpunten kunnen voorspellingen leveren. Inactive
Automatische slaapstand Met deze eigenschap (On of Off) wordt aangegeven of het eindpunt, zodra actief, het capaciteitsgebruik omlaag moet schalen naar nul bij afwezigheid van verkeer. Als automatische slaapstand aan staat, gaat het eindpunt na vijf minuten zonder binnenkomende verzoeken in een inactieve toestand. De eerste aanroep om een niet-actief eindpunt wakker te maken, heeft een korte vertraging. On

Modeleindpunten activeren

U kunt modeleindpunten rechtstreeks vanuit de Fabric-interface activeren. Ga naar de versie die je wilt gebruiken voor real-timevoorspellingen en selecteer Versie-eindpunt activeren op het lint.

Schermafbeelding waarin wordt getoond hoe u een ML-modeleindpunt activeert vanuit de Fabric interface.

Een toastbericht toont aan dat Fabric je endpoint klaar maakt om voorspellingen te leveren, en de status van het endpoint verandert naar Activating. Achter de schermen start Fabric de onderliggende containerinfrastructuur om je model te hosten. Binnen een paar minuten is uw eindpunt klaar om voorspellingen te leveren.

Schermopname van een ML-modeleindpunt dat nu wordt geactiveerd.

Elk eindpunt heeft een status die aangeeft of het klaar is om realtime voorspellingen te leveren:

Status Beschrijving
Inactive Het endpoint is niet geactiveerd om realtime voorspellingen te leveren, en verbruikt geen Fabric-capaciteit.
Activating Het eindpunt wordt geconfigureerd voor realtime voorspellingen. Achter de schermen stelt Fabric de onderliggende containerinfrastructuur in om het model te hosten. Binnen een paar minuten is het eindpunt actief.
Active Het eindpunt is klaar om realtime voorspellingen te leveren. Achter de schermen beheert Fabric de onderliggende infrastructuur, waarbij het gebruik van middelen wordt opgeschaald op basis van inkomend verkeer. Een hoger verkeer leidt tot een hoger Fabric capaciteitsgebruik.
Deactivating Het eindpunt wordt gedeactiveerd, waardoor het geen realtime voorspellingen meer levert of Fabric-capaciteit verbruikt. Achter de schermen demonteert Fabric de onderliggende containerinfrastructuur.

Opmerking

ML-modellen kunnen actieve eindpunten ondersteunen voor maximaal vijf versies tegelijk. Als u voorspellingen van een zesde versie wilt uitvoeren, moet u eerst een actief eindpunt deactiveren.

Modeleindpunten beheren

Om een overzicht te krijgen van de actieve eindpunten van je model, selecteer je 'Endpoints beheren' op het lint in de interface. Elk model heeft een aanpasbaar standaardeindpunt, dat voorspellingen levert van een versie die u kiest. Je kunt de standaardversie bijwerken door de dropdown-selector in het instellingenpaneel te gebruiken.

Schermopname van de standaard-URL van het ML-modeleindpunt, die u kunt configureren voor voorspellingen van een specifieke versie.

Belangrijk

Stel de standaardeigenschap in op een actieve versie als je die wilt gebruiken. Als je de standaardeigenschap niet instelt, of als je deze op een inactieve versie zet, falen aanroepen naar het standaardeindpunt.

De endpoint-instellingen van het model vermelden alle versies met actieve endpoints. Je kunt de automatische slaap-eigenschap van elk eindpunt aanpassen door de switcher naar Aan of Uit te zetten.

Schermopname van het wijzigen van de eigenschap voor automatische slaapstand op ML-modeleindpunten.

Aanbeveling

Actieve eindpunten met automatische slaapstand ingeschakeld komen na vijf minuten zonder verkeer in een idle-toestand. De eerste aanroep om ze te activeren gaat gepaard met een korte vertraging. Mogelijk wilt u deze eigenschap uitschakelen voor endpoints in productie.

Querymodeleindpunten voor realtime voorspellingen

Je kunt model-endpoints direct testen door gebruik te maken van de low-code ervaring in Fabric. Ga naar een versie met een actief eindpunt en selecteer Preview-voorspellingen vanuit het lint in de interface. Je kunt voorbeeldverzoeken naar het eindpunt sturen en in realtime voorbeeldvoorspellingen krijgen door formuliervelden te gebruiken die overeenkomen met de invoerhandtekening van het model.

Schermopname van de ingebouwde preview-ervaring voor het ophalen van voorbeeldvoorspellingen van een actief ML-modeleindpunt.

Selecteer Autofill om de formuliervelden te vullen met willekeurige steekproefwaarden. Je kunt meer sets van formulierwaarden toevoegen om het eindpunt te testen met meerdere invoer. Selecteer Get predictions om het endpoint je voorbeeldverzoek te sturen.

Schermopname van de formulierweergave voor het verzenden van voorbeeldaanvragen naar een actief ML-modeleindpunt.

Als u liever voorbeeldaanvragen opmaakt als JSON-nettoladingen, gebruikt u de vervolgkeuzelijstkiezer om de weergave te wijzigen.

Schermopname van de weergave op basis van JSON voor het verzenden van voorbeeldaanvragen naar een actief ML-modeleindpunt.

Modeleindpunten deactiveren

U kunt modeleindpunten rechtstreeks vanuit de Fabric-interface deactiveren. Ga naar een versie die je niet meer nodig hebt om realtime voorspellingen te leveren en selecteer Deactiveren versie-eindpunt via het lint in de interface.

Schermafbeelding van het deactiveren van een ML-modeleindpunt vanuit de Fabric interface.

Een toastmelding geeft aan dat Fabric je actieve implementatie aan het verwijderen is, en de status van het eindpunt wijzigt in Deactivating. Het eindpunt kan geen realtime voorspellingen leveren tenzij je het opnieuw activeert.

Schermopname van een ML-modeleindpunt dat nu wordt gedeactiveert.

U kunt eindpunten voor meerdere versies tegelijk deactiveren vanuit het deelvenster met instellingen van het model. Selecteer Beheer-endpoints van het lint in de interface en kies één of meer actieve endpoints om te deactiveren.

Schermafbeelding waarin wordt getoond hoe u meerdere ML-modeleindpunten tegelijk kunt deactiveren vanuit de Fabric interface.

Verbruikstarief

Het hosten van actieve modeleindpunten verbruikt Fabric capaciteitseenheden (CA's). Eindpunten worden uitgevoerd op rekenknooppunten en kunnen automatisch worden geschaald tot drie knooppunten op basis van inkomend verkeer. Facturering wordt per knooppunt berekend terwijl een eindpunt actief is. De volgende tabel toont het CU-verbruik voor een actief ML-model-eindpunt.

Operatie Bewerkingseenheid van meting Verbruikstarief
Modeleindpunt 1 modeleindpunt (versie) per seconde per knooppunt 5 CU seconden

De volgende tabel toont voorbeeldscenario's en hun bijbehorende consumptietarieven en uurkosten.

Scenario Beschrijving Verbruikstarief Kosten per uur
Modellen met inactieve eindpunten Deze modellen hebben geen actieve versie-eindpunten en geen gekoppeld resourcegebruik. Er zijn geen extra kosten verbonden. 0 CU seconden 0 CU-uur
Modellen met actieve maar niet-actieve eindpunten Deze modellen hebben één of meer actieve versie-eindpunten, maar zonder regulier verkeer schalen alle eindpunten naar nul, waardoor de kosten automatisch worden verlaagd. 5 CU seconden 0,42 CU-uren
Modellen met 1 actief eindpunt en constant weinig verkeer Deze modellen hebben slechts één actief versie-eindpunt dat voorspellingen biedt, maar zonder voldoende verkeer om opschaling volledig te starten. Eén knooppunt kan al het verkeer verwerken. Andere versie-endpoints kunnen inactief of ongebruikt zijn. 5 CU seconden 5 CU-uren
Modellen met 1 actief eindpunt en constant hoog verkeer Deze modellen hebben slechts één actief versie-endpoint dat voorspellingen levert, met voldoende verkeer om een volledige opschaling te veroorzaken. Andere versie-endpoints kunnen inactief zijn of niets te doen hebben. 15 CU seconden 15 CU-uren
Modellen met 5 actieve eindpunten en constant hoog verkeer Deze modellen hebben vijf actieve versie-eindpunten (de huidige limiet) die voorspellingen leveren, elk met voldoende verkeer om een volledige uitschaal te activeren. 75 CU seconden 75 CU-uren

De app Fabric Capacity Metrics geeft het totale capaciteitsgebruik weer voor modeleindpuntbewerkingen onder de naam Modeleindpunt. Daarnaast kunnen gebruikers een overzicht bekijken van hun factureringskosten voor Model Endpoint-gebruik onder het facturatie-item "ML Model Endpoint Capacity Usage CU".

De eindpuntbewerking van het model wordt geclassificeerd als achtergrondbewerkingen.

Verbruikstarieven kunnen op elk gewenst moment worden gewijzigd. Microsoft maakt gebruik van redelijke inspanningen om kennisgeving via e-mail of via een melding in het product te verstrekken. Wijzigingen zijn van kracht op de datum vermeld in de Microsoft Release Notes of de Microsoft Fabric Blog. Als een wijziging in het modeleindpunt in Fabric verbruikstarief de benodigde capaciteitseenheden (CU) aanzienlijk verhoogt, kunnen klanten de annuleringsopties gebruiken die beschikbaar zijn voor de gekozen betalingswijze.

Verwante inhoud

  • Last updated on