Suunnittele Copilot Studio agenttien käyttöönotot läpimenokyvyn ja käyttörajoitusten mukaan

Tuotantovalmiit Copilot Studion agentit tarvitsevat muutakin kuin lisensoinnin ja kokonaisviestimäärän suunnittelun. Ne tarvitsevat myös läpimenon suunnittelua. Läpimenon suunnittelussa arvioidaan, kuinka nopeasti liikenne saapuu, mitkä alustan palvelut ratkaisussa kutsutaan ja mitkä rajoitukset koskevat koko ratkaisua.

Tämä artikkeli auttaa ratkaisuarkkitehteja, kehittäjiä ja Power Platform -ylläpitäjiä suunnittelemaan Copilot Studio -agenttien suurivolyymiset käyttöönotot tuotantoliikenteeseen, käyttäjien hyväksyntätestaukseen (UAT), kuormitustestaukseen, yritys-asiakas (B2C) -skenaarioihin ja autonomisiin työkuormiin.

Nopeuden provisiointi on erillinen lisenssien provisionoinnista

Tuotannon Copilot Studio -suunnittelussa on kaksi toisiinsa liittyvää, mutta erillistä työvirtaa:

  • Lisenssiprovisiointi kattaa kaupallisen oikeuden ja kulutuksen, kuten lisenssit, krediitit, prepaid-kapasiteetin, viestipaketit ja käytön mukaan laskutettavan hinnoittelun.
  • Määrän valmistelu käsittelee sitä, miten nopeasti liikennettä voidaan käsitellä, ennen kuin käytetään rajoittamista tai palvelun suojauksen hallintaa.

Muistiinpano

Microsoft käyttää termiä kiintiöt Copilot Studion läpäisykykyrajoille. Laajemmassa alan sanastossa tätä suunnittelutoimintaa kutsutaan usein hinnan määrittelyksi. Tarkista julkaistut rajat, arvioi huippupyyntöjen määrät ja suunnittele ennen tuotantoliikenteen saapumista.

Käytön mukaan laskutus voi nostaa käytettävissä olevia rajoja verrattuna pienemmän kapasiteetin kokoonpanoihin, mutta läpimenokyky ei ole rajaton. Tarkista nykyiset Copilot Studio -rajat, Power Platform -pyyntökiintiöt, Power Automate -rajat, Dataverse -palvelusuojauksen rajat, liittimien rajoitussäännöt sekä alavirran API-rajoitukset.

Mitä tapahtuu, kun palvelun rajoittaminen tapahtuu?

Rajoittaminen on palvelun suojauksen toimintaa. Se suojaa jaettuja palveluita liikennekuvioilta, jotka ylittävät julkaistut rajat, purkauskontrollit tai palvelukapasiteetin. Tarkka ilmiö riippuu siitä, mikä palvelu on rajoitettu.

Kun raja saavutetaan, seuraus on enemmän kuin pelkkä suunnittelukysymys. Pyyntöjä voidaan rajoittaa, viivästyttää, estää tai hylätä. Käyttäjille suunnatuissa keskusteluissa tämä käyttäytyminen voi ilmetä väliaikaisena palvelun keskeytyksenä. Esimerkiksi käyttäjä ei välttämättä pysty lähettämään seuraavaa viestiä, saa agentin ei saatavilla -ilmoituksen tai käyttörajoitusilmoituksen, tai kohtaa epäonnistuneen vaiheen, koska jokin työnkulku, liitin, Dataverse-kutsu, tekoälypalvelu tai alaspäin suuntautuva API on saavuttanut rajoituksensa.

Tutustu Copilot Studio -kohtaisiin oireisiin ja virheilmoituksiin artikkelissa Ratkaise käyttörajoitusvirheitä agenteissa.

Miten nopeusrajoja mitataan

Liikennemäärärajoitukset määrittävät, kuinka paljon liikennettä palvelu voi ottaa vastaan tietyn aikaikkunan aikana. Tarkastele näitä aikaikkunoita tarkasti: minuutti, viisi minuuttia, kymmenen minuuttia, tunti, päivä, viikko ja kuukausi. Kuukausittainen tai viikoittainen volyymi auttaa arvioimaan kokonaiskysyntää, mutta lyhyemmät ikkunat ovat tärkeitä kapasiteetin suunnittelussa, koska kuristus johtuu usein keskittyneestä liikenteestä.

Esimerkiksi B2C-yritys saattaa saada suurimman osan agenttiliikenteestään yhden kohdennetun kampanjatunnin aikana. Viikoittainen keskiarvo saattaa näyttää matalalta, mutta yksittäinen tunti voi silti aiheuttaa niin paljon läpimenopainetta, että rajoittaminen tai palvelukatkos on mahdollinen. Ratkaisu, joka näyttää turvalliselta viikko- tai kuukausitasolla, voi silti ylittää rajat yhden tunnin huippukuormituksen aikana.

Ymmärrä rajoitusten laajuus

Rajoitukset eivät rajoitu pelkästään agenttitasolle. Palvelusta riippuen rajoitukset voivat kohdistua ympäristötasolle, työkalutasolle, API-tasolle, liitäntätasolle, kanavatasolle tai jatkopalvelutasolle.

Esimerkiksi Copilot Studion agentille lähetettävien viestien rajoitukset määritellään Dataverse-ympäristökohtaisesti. Kun arvioit liikennettä, ota mukaan kaikki lähteet, jotka lähettävät viestejä agenteille kyseisessä ympäristössä, mukaan lukien käyttäjäkanavat, integraatiot, autonomiset työkuormat ja Azure Bot Framework -taidot. Tarkista nykyiset arvot ja kattavuus Copilot Studion kiintiöistä ja rajoituksista.

Päätä, koskeeko nopeusprovisionointi agenttiasi

Kaikki agentit eivät tarvitse yksityiskohtaista nopeusprovisionointia. Yksinkertainen sisäinen UKK-agentti, jolla on pieni yleisö, ennustettava käyttö ja vähän tai ei lainkaan alavirran kutsuja, ei todennäköisesti kohtaa nopeusrajoituksia. Nopeusprovisionointi tulee tärkeäksi silloin, kun agentti saattaa ylittää pyyntöjen määrä minuutissa tai tunnissa -rajat, vaikka kuukausittainen kokonaismäärä olisikin vaatimaton.

Ota odotettu liikenne huomioon projektin alkuvaiheessa, ratkaisusuunnittelun yhteydessä. Ennen kuin hyväksyntätestaus (UAT) ja kuormitustestaus alkavat, tiimin tulee olla varma siitä, että agentin suunnittelu, ympäristö, liitetyt palvelut ja alajärjestelmät tukevat odotettua suorituskykyprofiilia.

Tämä ohjeistus on erityisen tärkeää suuremmille, vaativammille yrityskäyttöön suunnatuille agenteille, joissa liikenne syntyy äkillisinä piikkeinä, useat käyttäjät tai tapahtumat voivat aktivoida agentin samanaikaisesti, tai jokainen vuorovaikutus riippuu useista alustapalveluista. Se voi koskea myös pienempiä agentteja, joilla on tiiviit käyttömallit, kuten lyhyt julkaisuikkuna, osastokohtainen tapahtuma, aikataulutettu prosessi tai työnkulku, joka tuottaa paljon pyyntöjä lyhyessä ajassa.

B2C- ja autonomiset agentit vaativat varhaista kapasiteetin varausta

Asiakasrajapinnan B2C-agentit voivat vastaanottaa liikennettä kampanjoista, julkisista verkkosivustoista, asiakasportaaleista, häiriöviestinnästä, tuotelanseerauksista tai kausikysynnästä. Autonomiset agentit voivat synnyttää korkeataajuista liikennettä aikatauluista, tapahtumista, taustaprosesseista tai silloin, kun ne kutsuvat useita työkaluja ja työnkulkuja.

Vinkki

Käsittele B2C- ja autonomisia käyttötapauksia ensiluokkaisina pyyntönopeuden provisiointikohteina. Ne voivat synnyttää ruuhkaliikennettä, useita samanaikaisia pyyntöjä ja korkean taajuuden taustatoimintaa nopeammin kuin monet henkilöstölle suunnatut chat-kokemukset.

Käytä huippuikkunoita, ei vain kuukausittaisia kokonaismääriä

Kysy, voiko asiakaspalvelija luoda tiivistettyjä pyyntöjä minuutissa tai tunnissa. Pienikin skenaario voi silti tarvita kapasiteetin provisiointia, jos kuormitustesti, kampanja, häiriötilanteeseen reagoiminen tai automaattinen laukaisin aiheuttaa liian suuren määrän viestejä, generatiivisia tekoälykutsuja, työnkulkutoimintoja, liitinkutsuja tai Dataverse-pyyntöjä ympäristössä lyhyen ajan sisällä.

Kuukausivolyymi on hyödyllinen kokonaiskysynnän arvioimiseen, mutta se ei riitä hinnan provisiointiin. Muunna odotettu käyttö pienemmiksi aikaikkunoiksi, jotta voit verrata suunnitelmaa nykyisiin rajoihin: pyyntöihin minuutissa (RPM), tunnissa (RPH), purkausrajoituksiin ja päivittäisiin rajoituksiin linkitetyiltä sivuilta.

Laadi sekä keskimääräinen että huippuliikenneprofiili. Esimerkiksi, jos suurin osa liikenteestä tapahtuu päivittäin klo 17.00–18.00 välillä, tuntihuipun tulisi kuvastaa tätä keskittymää. Päivittäisen arvion ei tarvitse olla 24 kertaa ruuhka-tunnin arvo, jos liikenne keskittyy yhteen aikaikkunaan.

Missä muissa tapauksissa kuormituksen rajoittaminen voi tapahtua?

Rajoituksia voi tapahtua myös, kun:

  • Suuri joukko työntekijöitä käyttää agenttia ennustettavassa ruuhkaikkunassa, kuten osastokohtaisen tapahtuman tai koulutuksen aikana.
  • Markkinointikampanja, katkos, lanseeraus tai suunniteltu liiketoimintatapahtuma aiheuttaa lyhyen liikennepiikin.
  • Power Automate -työnkuluissa voi olla silmukoita, uudelleenyrityksiä, sivutusta tai alityönkulkuja, jotka lisäävät pyyntöjen määrää.
  • Raportointi, auditointi, telemetrian vienti tai transkriptioiden kaappaus suoritetaan synkronisesti käyttäjän vuoroprosessissa.
  • Useat agentit tai työkuormat jakavat saman ympäristön, identiteetin, liittimen tai alavirran API-kapasiteetin.
  • Kuormitustestit etenevät nopeammin kuin tuotantoarkkitehtuuri tai tukiprosessi oli valmistautunut käsittelemään.

Mistä etsiä asiaankuuluvat hintarajat

Copilot Studiolla on omat rajoituksensa, ja agentin toimintapolku voi sisältää myös muita palveluita, joilla on omat rajoituksensa. Tarkista kaikki asiaankuuluvat rajoitukset palveluille, joita agenttisi käyttää.

Copilot Studion rajat

Hinnan provisiointialue Tarkistettavat asiat Nykyisten arvojen tarkistaminen Käyttöohjeet
Viestit agentille Nykyinen RPM/RPH-raja ja soveltamisala agentille lähetettyjen viestien osalta. Copilot Studion kiintiöt ja rajoitukset Vertaa odotettujen viestien määrää minuutissa ja tunnissa kohde-Dataverse-ympäristössä.
Generatiiviset tekoälyviestit Nykyinen rajoitus generatiivisessa orkestroinnissa, agenttien toiminnoissa, tekoälytyökaluissa, agenttien työnkulkutoiminnoissa ja generatiivisissa vastauksissa. Generatiivisen tekoälyn viestit agentille Mallinna tekoälypainotteiset ja autonomiset skenaariot nykyisten julkaistujen rajojen mukaan.
Itsenäiset käynnistinsolmut Nykyiset rajoitukset, jotka koskevat autonomista agenttia, kun se laukaistaan tapahtumien, aikataulujen tai taustaprosessien perusteella. Copilot Studion kiintiöt ja rajoitukset Mallinna tapahtumalähtöiset ja aikataulutetut työkuormat erikseen interaktiivisesta chat-liikenteestä.
Copilot Studio -tilauksen pyyntörajoitukset Nykyiset Power Platform -pyyntörajat, jotka koskevat Copilot Studio käyttöä. Copilot Studio -tilauksen rajoitukset Hyödynnä näitä arvoja suunnitellessasi nopeusrajoituksia työnkuluille, Dataverselle ja yhdistetyille palveluille.

Muita alustan rajoituksia, joita kannattaa ottaa huomioon

Suorituksenaikaisen polun alin raja määrittää käyttäjäkokemuksen. Copilot Studio-agentti voi toimia omien rajoitustensa puitteissa, vaikka työnkulku, liitin, Dataverse-kutsu, kielipalvelu tai ulkoinen API olisi kuristettu.

Muistiinpano

Muut alustan rajoitukset voivat vaikuttaa agenttiin, jos se käyttää muita komponentteja agentin pyyntöpolulla. Ota nämä rajoitukset huomioon, mukaan lukien Power Platform, Power Automate, Dataverse, liittimet, kielipalvelut ja alavirran järjestelmät.

Suorituspalvelun alue Tarkistettavat asiat Kapasiteetin provisiointikysymykset Nykyisten rajoitusten tarkistaminen
Power Platform -pyynnön taso Pyynnöt Power Automate -työnkulkujen kutsuissa, Copilot Studio -työnkulkujen kutsuissa, Dataversen käytössä, Power Appsissa ja Dynamics 365:ssä. Mikä käyttäjä, yhteys, sovelluksen käyttäjä tai palvelutunnus luo pyynnöt? Ovatko pyyntöjen kiintiöt riittävät odotettuun päivittäiseen ja huippukuormaan? Pyyntörajat ja kohdistukset
Power Automate -työnkulut Laukaisimet, toiminnot, silmukat, alityönkulut, HTTP-toiminnot, liitintoiminnot, uudelleenyritykset, sivutus ja rinnakkaisuus. Kuinka monta toimintoa luodaan agentin vuoron aikana? Kuuluvatko burst-, samanaikais-, trigger- ja liitinrajoitukset tarkasteluun? Tietoja ympäristön rajoituksista ja rajoittamisen välttämisestä

Automatisoitujen, aikataulutettujen ja välittömien työnkulkujen rajoitukset
Dataverse CRUD-toiminnot, plug-init, työnkulut, assign/share-toiminnot, liitinkutsut ja järjestelmätoiminnot, jotka vaaditaan tapahtumien suorittamiseen. Mitkä käyttäjät, sovelluskäyttäjät tai palvelutunnukset muodostavat Dataverse-kutsuja? Voivatko palvelusuojan rajat tai uudelleenyrityskäytös tulla sovellettaviksi? Palvelun suojauksen ohjelmointirajapinnan rajat

Dataversen ohjelmointirajapinnan rajoitusten yleiskatsaus
Yhdistimet Vakioyhdistimet, ensisijaiset yhdistimet, räätälöidyt yhdistimet, yhdistinkohtainen rajoitus ja alavirran rajapinnat. Mikä liitin on pullonkaula? Asettaako alavirran palvelu oman kyselyrajoituksen? Ohjelmointirajapinnan siirtomäärärajoitukset yhteyksissä

Power Automate ‑yhdistimen viite
Keskustelukielen ymmärtäminen (CLU) ja tekoälypalvelut CLU-kutsut, tekoälykehotteet, haku- ja tiivistämistoiminnot, mallipohjaiset työkalut, hyötykuorman koko ja palvelukohtaiset rajoitukset. Soittaako jokainen käyttäjä kielelle vai tekoälypalvelulle? Toistetaanko näitä kutsuja uudelleenyritysten tai orkestroinnin aikana? Keskustelukielen ymmärtämisen rajat

Copilot Studion kiintiöt ja rajoitukset
Ulkoiset API:t ja liiketoimintalinjajärjestelmät Toimittajien API:t, sisäiset API:t, tietokannat, middleware, yhdyskäytävät ja räätälöidyt palvelut. Mitkä rajoitukset alavirran omistaja asettaa? Onko olemassa uudelleenyrityssopimus, jonotus tai takapainestrategia? Käytä alavirran palveluntarjoajan nykyisiä rajoituksia, palvelutasosopimusta (SLA) ja tukiprosessia.

Suunnittelu läpäisypaineen vähentämiseksi

Älä nosta määrää ensimmäisen suunnitteluvastauksen mukaan. Ensin tarkista agentin suunnittelu ja optimoi tehokkuus. Jos agentin tarvitsee hakea tietoa, tee ulkoiset kutsut harkiten, optimoi API-kutsut ja vältä turhaa pyyntömäärää Copilot Studiossa, Power Automatessa, Dataversessa, liittimissä ja alajärjestelmissä.

Kun suunnittelu on tehokas, hallitse läpimenoa niin, että liikenne saavuttaa alustalle ennustettavasti:

  • Ympäristötason rajoitusten osalta harkitse agenttien jakamista useampiin ympäristöihin, jos tämä lähestymistapa vastaa operatiivista suunnittelua. Tämä lähestymistapa auttaa estämään, että suurivolyymiset agentit, liiketoimintayksiköt, alueet tai autonomiset työkuormat kilpailevat erillisten työkuormien kanssa samoista ympäristötason rajoituksista.
  • Autonomisille agenteille käytä jonoja, eräajoja, laukaisusuodattimia, ajoitettua käsittelyä, uudelleenyrityskontrollia ja seurantaa, jotta taustatyö ei saavu hallitsemattomana ryöppynä.
  • Siirrä aikataulutettu, raportointi-, auditointivienti- ja telemetriatyö interaktiivisen chat-polun ulkopuolelle, mikäli mahdollista.
  • Tarkastele kuormitustestien tuloksia ja tuotantotelemetriaa tunnistaaksesi, mihin pyynnöt keskittyvät, ja optimoi agentti, virrat, liittimet sekä alavirran rajapinnat ennen kuin pyydät korkeampia rajoja.

Autonomiset agentit ovat ainutlaatuisessa asemassa maksimoimaan varatun kapasiteetin käytön vahvalla ennustettavuudella ja havainnointikyvyllä jonottamalla pyyntöjä ja säätelemällä käynnistysnopeuksiaan.

Mitä tehdä, jos oletusnopeusrajat eivät riitä

Jos huippuliikenteen arvio osoittaa, että agentti tai jokin liitetty palvelu saattaa ylittää nykyiset julkaistut rajoitukset, käynnistä nopeusrajojen noston tukiprosessi ennen UAT:tä, kuormitustestausta tai tuotantoon siirtymistä. Älä odota ensimmäistä tuotantovirhettä.

Muistiinpano

Copilot Studio on SaaS-palvelu, jossa on nopeusrajoituksia palvelun suojaamiseksi kaikille asiakkaille. Asianmukaisella perustelulla tekninen tiimi voi mahdollistaa mukautetut rajoitukset hyväksytyissä skenaarioissa.

Avaa tukipyyntö

Järjestelmänvalvojat voivat pyytää tukea Power Platform -hallintakeskuksesta.

Avaa tukipyyntö ajoissa ja liitä mukaan parhaat saatavilla olevat arviot. Mitä enemmän yksityiskohtia annat, sitä helpompi tarkastusprosessi on. Päivitä pyyntö, kun suunnittelua hiotaan tai kuormitustestaus tuottaa havaittua dataa.

Sisällytettävät ydintiedot

Tietoja Description
Ympäristön tunnus Dataverse-ympäristö, jossa agentti toimii.
Agentin nimi tai tunniste Agentti, jota pyyntö koskee.
Vaikutus liiketoimintaan Kriittinen vaikutus, jos oletusrajat eivät riitä.
Tunnettu tieto Mitä tiedetään skenaariosta, kanavasta, lanseerauskontekstista, liiketoiminnan kriittisyydestä sekä siitä, onko kyseessä B2C, autonominen, henkilöstölle suunnattu vai pelkästään sisäinen.
Agentin tilannekuva Tilannekuva tai vienti, joka auttaa arvioijia ymmärtämään agentin konfiguraatiota, suunnittelua, yhdistettyjä palveluita ja asiaankuuluvia asetuksia.
Agentin suunnittelu Korkean tason kuvaus aiheista, generatiivisen tekoälyn käytöstä, tietolähteistä, toiminnoista, työnkuluista, liittimistä, Dataverse-kutsuista ja ulkoisista API-rajapinnoista, joita agentti käyttää.
Keskimääräisen liikenteen arvio Odotettu keskimääräinen liikenne tuntia, päivää, viikkoa tai kuukautta kohden.
Huippuliikenteen arvio Odotettu viestien, istuntojen, generatiivisten tekoälykutsujen, Power Automate -toimintojen, liitinkutsujen, Dataverse-pyyntöjen ja ulkoisten API-kutsujen huippumäärä, jos ne ovat tiedossa.

Lisätiedot, jotka voivat auttaa

Tietoja Description
Päivämääräalue Pyydetyn korotuksen aloitus- ja päättymispäivä. Ilmoita erikseen kuormitustestin, käyttäjähyväksyntätestin ja tuotannon aikavälit, jos ne poikkeavat toisistaan.
Huippukuormitusmalli Ruuhkahuiput, aikavyöhykkeet, odotettujen piikkien tekijät sekä se, keskittyykö liikenne lyhyeen päivittäiseen ajanjaksoon.
Istuntoprofiili Samanaikaiset istunnot, keskimääräinen ja huippuistunnon kesto, viestien määrä per istunto ja kysymysten määrä per istunto.
Tyypilliset istuntoesimerkit Edustavat käyttäjäpolut, tyypilliset vaiheet, käytetyt työkalut ja istunto-ID:t, jos saatavilla.
Suorituksenaikainen polku Työnkulut, toiminnot, tekoälykehotteet, tietopyynnöt, Dataverse-pyynnöt, liittimet ja rajapinnat vuorovaikutusta kohden.
Ominaisuustason huiput Huippuvolyymi agentin, ominaisuuden, käyttäjän, ympäristön, yhdistimen, minuutin, tunnin ja päivän mukaan, mikäli nämä tiedot ovat saatavilla.
Arvioitavat tuotteet Koskeeko pyyntö Copilot Studiota, Power Platformin pyyntöallokaatiota, Power Automatea, liittimiä, Dataversea, CLU/AI-palveluita tai ulkoisia rajapintoja?
Todiste Näyteistunnon tunnisteet, virheet, korrelaatiotunnisteet, lokit, kuormitustestitulokset tai tuotantohavainnot.
Lieventämiset Anna yhteenveto toimista, joilla olet pyrkinyt vähentämään läpimenopainetta. Viittaa ohjeeseen läpimenopaineen vähentämiseksi, mukaan lukien suunnittelun arviointi, optimoidut ulkoiset kutsut, ympäristön segmentointi, eräajo, jonotus, laukaisusuodatus, ajoitus, työkuorman jakaminen ja muut jo käytössä olevat optimoinnit.

Tärkeää

Läpimenon kasvua ei voida taata. Microsoft-tuki käsittelee pyynnöt skenaarion, ympäristön, pyydetyn ajanjakson, odotetun liikenteen, kelpoisuuden, nykyisten rajoitusten ja palvelun kapasiteetin perusteella.

  • Last updated on