Hantera realtidsförutsägelser med ML-modellslutpunkter (förhandsversion)

Viktigt!

Den här funktionen är i förhandsversion.

Microsoft Fabric låter dig hantera realtidsförutsägelser från ML-modeller med säkra, skalbara och lätthanterliga onlineslutpunkter. Dessa slutpunkter är tillgängliga som inbyggda egenskaper för de flesta Fabric modeller – och de kräver ingen konfiguration för att starta fullständigt hanterade realtidsdistributioner.

Du kan aktivera, konfigurera och köra frågor mot modellslutpunkter med ett offentligt REST API. Du kan också komma igång direkt från Fabric-gränssnittet med hjälp av en lågkodsupplevelse för att aktivera modellens slutpunkter och förhandsgranska förutsägelser direkt.

Screenshot som visar en ML-modell i Fabric med en inbyggd slutpunktsegenskap för realtidsförutsägelser.

Förutsättningar

  • Endpunkter för maskininlärningsmodeller är aktiverade som standard i din klient. Om administratören vill inaktivera den här funktionen kan de inaktivera klientväxeln för ML-modellslutpunkter i Fabric administratörsportalen.

Begränsningar

  • Ändpunkter är för närvarande tillgängliga för en begränsad uppsättning ML-modelltyper, inklusive Keras, LightGBM, Sklearn och XGBoost.
  • Slutpunkter är för närvarande inte tillgängliga för modeller med tensor-baserade scheman eller inga scheman.

Anmärkning

Från och med januari 2026 har maskininlärningsslutpunkter nu stöd för AutoML-tränade modeller. Den här tidigare begränsningen har tagits bort.

Kom igång med modellslutpunkter

ML-modeller i Fabric är fördefinierade med onlineslutpunkter som kan användas för att hantera förutsägelser i realtid. Varje registrerad modellversion har en dedikerad slutpunkts-URL som finns under rubriken "Slutpunktsinformation" i Fabric-gränssnittet. Den här URL:en slutar med en underväg som anger en viss version (till exempel /versions/1/score).

Skärmbild som visar egenskaperna för en ML-modellslutpunkt, som kan användas för att hantera förutsägelser i realtid.

Modellslutpunkter har följande egenskaper:

Fastighet Beskrivning Standardinställning
Standardversion Den här egenskapen (Yes eller No) anger om versionen har angetts som modellens standardvärde för att hantera verkliga förutsägelser. Du kan anpassa standardversionen i modellens inställningar. No
Status Den här egenskapen anger om slutpunkten är redo att hantera förutsägelser. Statusen kan vara Inactive, Activating, Active, Deactivatingeller Failed. Endast aktiva slutpunkter kan hantera förutsägelser. Inactive
Automatisk viloläge Den här egenskapen (On eller Off) anger om slutpunkten, när den är aktiv, ska skala ned kapacitetsanvändningen till noll i avsaknad av trafik. Om automatisk strömsparläge är aktiverat går slutpunkten in i ett inaktivt tillstånd efter fem minuter utan inkommande begäranden. Det första anropet för att aktivera en inaktiv slutpunkt innebär en kort fördröjning. On

Aktivera modellslutpunkter

Du kan aktivera modellslutpunkter direkt från Fabric-gränssnittet. Gå till den version som du vill visa förutsägelser i realtid och välj "Aktivera versionsslutpunkt" i menyfliksområdet.

Skärmbild som visar hur du aktiverar en ML-modellslutpunkt från Fabric interface.

Ett meddelande visar att Fabric gör din slutpunkt redo att hantera förutsägelser, och statusen för slutpunkten ändras till "Aktiveras." I bakgrunden initierar Fabric den underliggande containerinfrastrukturen som är värd för din modell. Inom några minuter är slutpunkten redo att hantera förutsägelser.

Skärmbild som visar en ML-modellslutpunkt som nu aktiveras.

Varje slutpunkt har en status som anger om den är redo att hantera realtidsförutsägelser:

Status Beskrivning
Inactive Slutpunkten aktiveras inte för att hantera realtidsförutsägelser och förbrukar inte Fabric kapacitet.
Activating Slutpunkten konfigureras för att hantera realtidsförutsägelser. I bakgrunden konfigurerar Fabric den underliggande containerinfrastrukturen som värd för modellen. Inom några minuter är slutpunkten aktiv.
Active Slutpunkten är redo att hantera realtidsförutsägelser. I bakgrunden hanterar Fabric den underliggande infrastrukturen och skalar upp resursanvändningen baserat på inkommande trafik. Högre trafik resulterar i högre Fabric kapacitetsanvändning.
Deactivating Slutpunkten inaktiveras så att den inte längre hanterar förutsägelser i realtid eller förbrukar Fabric kapacitet. I bakgrunden demonterar Fabric den underliggande containerinfrastrukturen.

Anmärkning

ML-modeller kan ha stöd för aktiva slutpunkter för upp till fem versioner samtidigt. Om du vill visa förutsägelser från en sjätte version måste du först inaktivera en aktiv slutpunkt.

Hantera modellslutpunkter

Om du vill ha en översikt över modellens aktiva slutpunkter väljer du "Hantera slutpunkter" i menyfliksområdet i gränssnittet. Varje modell har en anpassningsbar standardslutpunkt som hanterar förutsägelser från en version som du väljer. Du kan uppdatera standardversionen med listruteväljaren i inställningsfönstret.

Skärmbild som visar standard-URL:en för ML-modellens slutpunkt, som du kan konfigurera för att hantera förutsägelser från en viss version.

Viktigt!

Se till att ange standardegenskapen till en aktiv version om du planerar att använda den. Om standardegenskapen inte har angetts eller är inställd på en inaktiv version misslyckas anrop till standardslutpunkten.

Alla versioner med aktiva slutpunkter visas under modellens slutpunktsinställningar. Du kan ändra egenskapen för automatisk viloläge för varje slutpunkt genom att sätta växlaren till "På" eller "Av".

Skärmbild som visar hur du ändrar egenskapen för automatisk viloläge på ML-modellslutpunkter.

Tips/Råd

Aktiva slutpunkter med automatiskt viloläge slått på går in i ett viloläge efter fem minuters inaktivitet; det första anropet för att väcka dem innebär en kort fördröjning. Du kanske vill inaktivera den här egenskapen för slutpunkter i produktion.

Frågemodellslutpunkter för realtidsförutsägelser

Modellslutpunkter är tillgängliga för omedelbar testning med låg kod i Fabric. Navigera till en version med en aktiv slutpunkt och välj "Förhandsversionsförutsägelser" i menyfliksområdet i gränssnittet. Du kan skicka exempelbegäranden till slutpunkten – och få exempelförutsägelser i realtid – med hjälp av formulärfält som matchar modellens indatasignatur.

Skärmbild som visar den inbyggda förhandsversionen för att hämta exempelförutsägelser från en aktiv ML-modellslutpunkt.

Om du vill fylla i formulärfälten med slumpmässiga exempelvärden väljer du "Autofyll". Du kan lägga till fler uppsättningar med formulärvärden för att testa slutpunkten med flera indata. Välj "Hämta förutsägelser" för att skicka slutpunkten för din exempelbegäran.

Skärmbild som visar den formulärbaserade vyn för att skicka exempelbegäranden till en aktiv ML-modellslutpunkt.

Om du föredrar att formatera exempelbegäranden som JSON-nyttolaster använder du listruteväljaren för att ändra vyn.

Skärmbild som visar den JSON-baserade vyn för att skicka exempelbegäranden till en aktiv ML-modellslutpunkt.

Inaktivera modellslutpunkter

Du kan inaktivera modellslutpunkter direkt från Fabric-gränssnittet. Navigera till en version som du inte längre behöver hantera realtidsförutsägelser och välj "Inaktivera versionsslutpunkt" i menyfliksområdet i gränssnittet.

Skärmbild som visar hur du inaktiverar en ML-modellslutpunkt från Fabric-gränssnittet.

Ett meddelande visar att Fabric håller på att demontera din aktiva utplacering och statusen för slutpunkten ändras till "Inaktiveras." Slutpunkten kan inte längre leverera förutsägelser i realtid om den inte återaktiveras.

Skärmbild som visar en ML-modellslutpunkt som nu inaktiveras.

Du kan inaktivera slutpunkter för flera versioner samtidigt från modellens inställningsfönster. Välj "Hantera slutpunkter" i menyfliksområdet i gränssnittet och välj en eller flera aktiva slutpunkter som ska inaktiveras.

Skärmbild som visar hur du inaktiverar flera ML-modellslutpunkter samtidigt från Fabric interface.

Förbrukningshastighet

Värdskap av aktiva modellslutpunkter förbrukar Fabric-kapacitetsenheter (CUs). Endpunkter körs på beräkningsnoder och kan automatiskt skala upp till tre noder beroende på inkommande trafik. Fakturering beräknas per nod medan en slutpunkt är aktiv. Tabellen nedan visar CU-förbrukningen för en aktiv Machine Learning modellslutpunkt.

Åtgärd Operationsmätenhet Förbrukningshastighet
modellslutpunkt 1 modellslutpunkt (version) per sekund per nod 5 CU sekunder

Tabellen nedan visar exempelscenarier och deras motsvarande förbrukningshastigheter och timkostnader.

Scenario Beskrivning Förbrukningshastighet Timkostnad
Modeller med inaktiva slutpunkter Dessa modeller har inga aktiva versionsslutpunkter och ingen associerad resursanvändning. De innebär ingen extra kostnad. 0 CU sekunder 0 CU-timme
Modeller med aktiva men inaktiva slutpunkter Dessa modeller har en eller flera aktiva versionsslutpunkter, men utan vanlig trafik har alla skalats till noll, vilket minskar kostnaderna automatiskt. 5 CU sekunder 0,42 CU-timmar
Modeller med en aktiv slutpunkt och konstant låg trafik Dessa modeller har bara 1 aktiv versionsslutpunkt som betjänar förutsägelser, men utan tillräckligt med trafik för att utlösa en fullständig utskalning. En nod kan hantera all trafik. Andra versionsslutpunkter kan vara inaktiva eller inaktiva. 5 CU sekunder 5 CU-timmar
Modeller med 1 aktiv slutpunkt och konstant hög trafik Dessa modeller har bara 1 aktiv versionsslutpunkt som tillhandahåller förutsägelser, med tillräckligt med trafik för att utlösa en fullständig utskalning. Andra versionsslutpunkter kan vara inaktiva eller i viloläge. 15 CU sekunder 15 CU-timmar
Modeller med 5 aktiva slutpunkter och konstant hög trafik Dessa modeller har 5 aktiva versionsslutpunkter (den aktuella gränsen) som betjänar förutsägelser, var och en med tillräckligt med trafik för att utlösa en fullständig utskalning. 75 CU sekunder 75 CU-timmar

Appen Fabric Kapacitetsmått visar den totala kapacitetsanvändningen för modellslutpunktsåtgärder under namnet "Modellslutpunkt". Dessutom kan användarna visa en sammanfattning av sina faktureringsavgifter för modellslutpunktsanvändning under faktureringsobjektet "ML Model Endpoint Capacity Usage CU".

Modellslutpunktsåtgärden klassificeras som bakgrundsåtgärder.

Förbrukningsfrekvensen kan ändras när som helst. Microsoft använder rimliga ansträngningar för att meddela via e-post eller via produktmeddelande. Ändringarna ska gälla den dag som anges i Microsoft versionsanteckningar eller Microsoft Fabric Blog. Om någon ändring av modellslutpunkten i Fabric Consumption Rate väsentligt ökar de kapacitetsenheter (CU) som krävs för användning, kan kunderna utnyttja avbokningsalternativen som är tillgängliga för den valda betalningsmetoden.

Relaterat innehåll

  • Last updated on