Reaaliaikaisten ennusteiden tarjoaminen koneoppimismallin päätepisteiden avulla (esikatselu)

Important

Tämä ominaisuus on esikatselutilassa.

Microsoft Fabric mahdollistaa reaaliaikaisten ennusteiden tarjoamisen koneoppimismalleista käyttämällä turvallisia, skaalautuvia ja helppokäyttöisiä verkkopäätelaitteita. Useimmat Fabric-mallit sisältävät nämä päätepisteet sisäänrakennettuina ominaisuuksina, eikä niiden käyttöönottoa vaadita täysin hallittujen reaaliaikaisten käyttöönottojen aloittamiseksi.

Voit aktivoida, konfiguroida ja kysyä mallin päätepisteitä käyttämällä julkista REST-rajapintaa. Voit myös aloittaa suoraan Fabric-käyttöliittymästä käyttämällä low-code-kokemusta mallin päätepisteiden aktivoimiseen ja ennusteiden esikatseluun välittömästi.

Screenshot, jossa ML-malli Fabric:ssa on sisäänrakennettu päätepisteominaisuus reaaliaikaisten ennusteiden palvelukseen.

Prerequisites

Limitations

  • Päätepisteet ovat tällä hetkellä saatavilla rajoitetulle määrälle koneoppimismallin makuja, kuten Keras, LightGBM, Sklearn ja XGBoost.
  • Päätepisteet eivät ole tällä hetkellä käytettävissä malleissa, joissa on tensoripohjaisia rakenteita tai ei rakenteita.

Note

Koneoppimisen päätepisteet tukevat AutoML-koulutettuja malleja.

Aloita mallin päätepisteiden käyttäminen

Fabric-koneoppimismallit tulevat valmiiksi rakennettuina, ja niissä on verkkopäätelaitteita, joita voit käyttää reaaliaikaisten ennusteiden tarjoamiseen. Jokaisella rekisteröidyllä malliversiolla on oma päätepisteen URL-osoite, jonka löydät Fabric-rajapinnan Päätepiste-tietojen otsikon alta. Tämä URL päättyy alipolkuun, joka osoittaa kyseisen version (esim. /versions/1/score).

Näyttökuva, jossa näkyvät koneoppimismallin päätepisteen ominaisuudet, joita voidaan käyttää reaaliaikaisten ennusteiden palvelemiseen.

Mallin päätepisteillä on seuraavat ominaisuudet:

Property Description Default
Oletusversio Tämä ominaisuus (Yes tai No) kertoo, onko versio asetettu mallin oletusarvoksi reaaliennusteiden tarjoamiseen. Voit mukauttaa oletusversiota mallin asetuksissa. No
Status Tämä ominaisuus ilmaisee, onko päätepiste valmis tekemään ennusteita. Tila voi olla Inactive, , ActivatingActive, Deactivating, tai Failed. Vain aktiiviset päätepisteet voivat palvella ennusteita. Inactive
Automaattinen lepotila Tämä ominaisuus (On tai Off) ilmaisee, tuleeko aktiivisena olevan päätepisteen skaalata kapasiteetin käyttö nollaan ilman liikennettä. Jos automaattinen lepo on päällä, päätepiste siirtyy lepotilaan viiden minuutin kuluttua ilman saapuvia pyyntöjä. Ensimmäinen kutsu, joka herättää tyhjän päätepisteen, sisältää lyhyen viiveen. On

Aktivoi mallin päätepisteet

Voit aktivoida mallin päätepisteet suoraan Fabric-rajapinnasta. Mene siihen versioon, jota haluat käyttää reaaliaikaisiin ennusteisiin, ja valitse nauhasta Aktivoi version päätepiste .

Screenshot, jossa näytetään, miten ML-mallin päätepiste aktivoidaan Fabric-rajapinnasta.

Toast-viesti näyttää, että Fabric valmistaa päätepisteesi palvelemaan ennusteita, ja päätepisteen tila muuttuu .Activating Kulissien takana Fabric käynnistää taustalla olevan konttiinfrastruktuurin mallisi isännöintiin. Päätepiste on valmis ennakoimaan ennusteita muutaman minuutin kuluessa.

Näyttökuva, jossa näkyy koneoppimismallin päätepiste, joka aktivoi nyt.

Jokaisella päätepisteellä on tila, joka kertoo, onko se valmis antamaan reaaliaikaisia ennusteita:

Status Description
Inactive Päätepiste ei ole aktivoitu palvelemaan reaaliaikaisia ennusteita, eikä se kuluta Fabric-kapasiteettia.
Activating Päätepistettä määritetään palvelemaan reaaliaikaisia ennusteita. Kulissien takana Fabric asettaa taustalla olevan konttiinfrastruktuurin mallin isännöintiin. Päätepiste on aktiivinen muutaman minuutin kuluessa.
Active Päätepiste on valmis reaaliaikaisten ennusteiden palvelemiseen. Kulissien takana Fabric hallinnoi taustalla olevaa infrastruktuuria, laajentaen resurssien käyttöä saapuvan liikenteen perusteella. Suurempi liikenne johtaa suurempaan Fabric-kapasiteetin käyttöön.
Deactivating Päätepiste on deaktivoitumassa, joten se ei enää palvele reaaliaikaisia ennusteita eikä kuluta Fabric-kapasiteettia. Kulissien takana Fabric purkaa alla olevan konttiinfrastruktuurin.

Note

Koneoppimismallit voivat tukea aktiivisia päätepisteitä enintään viidelle versiolle kerralla. Jotta voit antaa ennusteita kuudennesta versiosta, aktiivisen päätepisteen aktivointi on ensin poistettava.

Mallien päätepisteiden hallinta

Jos haluat yleiskuvan mallisi aktiivisista päätepisteistä, valitse rajapinnan nauhasta Hallinnoi päätepisteitä . Jokaisella mallilla on mukautettava oletuspäätepiste, joka lähettää ennusteita valitsemastasi versiosta. Voit päivittää oletusversion käyttämällä pudotusvalikkoa asetuksissa.

Näyttökuva, jossa näkyy koneoppimismallin oletusarvoinen päätepisteen URL-osoite, jonka voit määrittää palvelemaan tietyn version ennusteita.

Important

Aseta oletusominaisuus aktiiviseksi versioksi, jos aiot käyttää sitä. Jos et aseta oletusominaisuutta, tai jos asetat sen passiiviseksi versioksi, oletuspäätepisteen kutsut epäonnistuvat.

Mallin päätepisteasetukset listaavat kaikki versiot, joissa on aktiiviset päätepisteet. Voit muuttaa kunkin päätepisteen automaattista lepotilaa kytkemällä kytkimen päälle tai pois päälle.

Näyttökuva, jossa näytetään, miten voit muuttaa automaattianalyysipalveluiden mallin päätepisteiden automaattista lepotilaominaisuutta.

Tip

Aktiiviset päätelaitteet, joissa automaattinen lepotila on päällä, siirtyvät lepotilaan viiden minuutin kuluttua ilman liikennettä. Ensimmäinen herätyskutsu vaatii lyhyen viiveen. Saatat haluta poistaa tämän ominaisuuden käytöstä tuotannon päätepisteille.

Kyselymallin päätepisteistä reaaliaikaisia ennusteita varten

Voit testata mallin päätepisteitä välittömästi käyttämällä Fabric:n low-code-kokemusta. Mene versioon, jossa on aktiivinen päätepiste, ja valitse Esikatseluennusteet rajapinnan nauhasta. Voit lähettää näytepyyntöjä päätepisteelle ja saada näyteennusteita reaaliajassa käyttämällä lomakekenttiä, jotka vastaavat mallin syöteallekirjoitusta.

Näyttökuva, jossa näkyy sisäinen esikatselukokemus malliennusteiden hankkimiseksi aktiivisesta koneoppimismallin päätepisteestä.

Valitse Automaattinen täyttö täyttääksesi lomakkeen kentät satunnaisotosarvoilla. Voit lisätä lisää lomakearvoja testataksesi päätepistettä, jossa on useita syötteitä. Valitse Get predictions lähettääksesi päätepisteelle esimerkkipyyntösi.

Näyttökuva, jossa näkyy lomakepohjainen näkymä mallipyyntöjen lähettämiseksi aktiiviseen koneoppimismallin päätepisteeseen.

Jos haluat muotoilla mallipyyntöjä JSON-hyötykuormiksi, vaihda näkymää avattavan valikon valitsimella.

Näyttökuva, jossa näkyy JSON-pohjainen näkymä mallipyyntöjen lähettämiseksi aktiiviseen koneoppimismallin päätepisteeseen.

Mallin päätepisteiden aktivoinnin poistaminen

Voit deaktivoida mallin päätepisteet suoraan Fabric-rajapinnasta. Mene versioon, jota ei enää tarvitse reaaliaikaisten ennusteiden tarjoamiseen, ja valitse käyttöliittymän nauhasta Deaktivoi version päätepiste .

Screenshot, joka näyttää, miten ML-mallin päätepiste deaktivoidaan Fabric-rajapinnasta.

Toast-viesti näyttää, että Fabric purkaa aktiivisen käyttöönottoasi, ja päätepisteen tila muuttuu Deactivating. Päätepiste ei voi tarjota reaaliaikaisia ennusteita, ellei sitä aktivoida uudelleen.

Näyttökuva, jossa näkyy koneoppimismallin päätepiste, joka poistaa nyt käytöstä.

Voit deaktivoida päätepisteet useille versioille samanaikaisesti mallin asetuksista. Valitse käyttöliittymän nauhasta Hallinnoi päätepisteitä ja valitse yksi tai useampi aktiivinen päätepiste deaktivoitavaksi.

Screenshot, joka näyttää, miten useat ML-mallin päätepisteet deaktivoidaan samanaikaisesti Fabric-rajapinnasta.

Kulutusaste

Aktiivisten mallipäätepisteiden isännöinti kuluttaa Fabric Capacity Units (CU) -yksiköitä. Päätepisteet suoritetaan laskentasolmuissa ja voivat skaalata automaattisesti jopa kolmeen solmuun saapuvan liikenteen perusteella. Laskutus lasketaan solmukohtaisesti, kun päätepiste on aktiivinen. Seuraava taulukko näyttää aktiivisen koneoppimismallin päätepisteen CU-kulutuksen.

Toiminto Operaation mittayksikkö Kulutusaste
Mallin päätepiste 1 mallin päätepiste (versio) sekunnissa solmua kohden 5 CU-sekuntia

Seuraava taulukko näyttää esimerkkiskenaariot sekä niiden kulutusnopeudet ja tuntikustannukset.

Skenaario Description Kulutusaste Tuntikohtainen kustannus
Mallit, joissa on passiivisia päätepisteitä Näissä malleissa ei ole aktiivisia versiopäätepisteitä eikä niihin liittyvää resurssien käyttöä. Niistä ei aiheudu lisäkustannuksia. 0 CU-sekuntia 0 CU-tunti
Mallit, joissa on aktiiviset mutta käyttämättömät päätepisteet Näissä malleissa on yksi tai useampi aktiivinen versiopäätepiste, mutta ilman säännöllistä liikennettä kaikki päätepisteet skaalautuvat nollaan, mikä vähentää kustannuksia automaattisesti. 5 CU-sekuntia 0.42 CU-tuntia
Mallit, joissa on 1 aktiivinen päätepiste ja jatkuva alhainen liikenne Näissä malleissa on vain 1 aktiivinen version päätepiste, joka palvelee ennusteita, mutta ei tarpeeksi liikennettä täyden skaalauksen käynnistämiseksi. Yksi solmu voi palvella kaikkea liikennettä. Muiden versioiden päätepisteet voivat olla passiivisia tai käyttämättömiä. 5 CU-sekuntia 5 CU-tuntia
Mallit, joissa on 1 aktiivinen päätepiste ja jatkuva suuri liikenne Näissä malleissa on vain yksi aktiivinen päätelaite, joka palvelee ennusteita, ja niissä on tarpeeksi liikennettä täyden skaalauksen käynnistämiseen. Muiden versioiden päätepisteet voivat olla passiivisia tai käyttämättömiä. 15 CU-sekuntia 15 CU-tuntia
Mallit, joissa on 5 aktiivista päätepistettä ja jatkuva suuri liikenne Näissä malleissa on 5 aktiivisen version päätepistettä (nykyinen raja), jotka palvelevat ennusteita, joista jokaisella on tarpeeksi liikennettä täyden skaalauksen käynnistämiseksi. 75 CU-sekuntia 75 CU-tuntia

Fabric Capacity Metrics -sovellus näyttää mallin päätepisteoperaatioiden kokonaiskapasiteetin käytön nimellä "Model Endpoint". Lisäksi käyttäjät voivat tarkastella laskutusmaksujaan Model Endpoint -käytöstä laskutuskohdassa "ML Model Endpoint Capacity Usage CU".

Mallin päätepistetoiminto luokitellaan taustatoiminnoiksi.

Kulutusluvut voivat muuttua milloin tahansa. Microsoft käyttää kohtuullisia ponnistuksia ilmoittaakseen ilmoituksen sähköpostitse tai tuotteen sisäisen ilmoituksen kautta. Muutokset astuvat voimaan Microsoft Release Notesissa tai Microsoft Fabric Blogissa ilmoitettuna päivänä. Jos Fabric Consumption Rate -mallin päätepisteen muutos kasvattaa merkittävästi käytettävän kapasiteetin yksiköiden (CU) määrää, asiakkaat voivat käyttää valitun maksutavan peruutusvaihtoehtoja.