Sdílet prostřednictvím

Copilot ve spotřebě prostředků infrastruktury

  • Článek

Tato stránka obsahuje informace o tom, jak se fakturuje a hlásí využití prostředků infrastruktury Copilot . Copilot využití se měří počtem zpracovaných tokenů. Tokeny si lze představit jako části slov. Přibližně 1 000 tokenů je přibližně 750 slov. Ceny se počítají na 1 000 tokenů a vstupní a výstupní tokeny se spotřebovávají různými sazbami.

Poznámka:

Fakturace Copilot prostředků infrastruktury bude platit 1. března 2024 jako součást vaší stávající kapacity Power BI Premium nebo Fabric.

Míra spotřeby

Požadavky na Copilot využívání jednotek kapacity prostředků infrastruktury Tato tabulka definuje, kolik jednotek kapacity (CU) se spotřebuje při Copilot použití. Například když uživatel používá Copilot power BI,Copilot službu Data Factory nebo Copilot Datová Věda a Datoví technici.

Operace v aplikaci Metrics Popis Měrná jednotka operace Míra spotřeby
Copilot In Fabric Vstupní výzva Za 1 000 tokenů 400 SEKUND CU
Copilot In Fabric Dokončení výstupu Za 1 000 tokenů 1 200 SEKUND CU

Monitorování využití

Aplikace Fabric Capacity Metrics zobrazuje celkové využití kapacity pro Copilot operace pod názvemCopilot "v prostředcích infrastruktury". Uživatelé si navíc Copilot můžou zobrazit souhrn fakturačních poplatků za Copilot využití v položce fakturace "Copilotv prostředcích infrastruktury".

Snímek obrazovky s metrikami kapacity infrastruktury

Typ využití kapacity

Prostředky infrastruktury Copilotjsou klasifikovány jako "úloha na pozadí" jako typ využití kapacity pro zpracování většího objemu požadavků během špičky Copilot .

Prostředky infrastruktury jsou navržené tak, aby poskytovaly bleskově rychlý výkon tím, že umožňují operacím přistupovat k více prostředkům CU (kapacitní jednotky), než jsou přiděleny kapacitě. Prostředky infrastruktury vyhladí nebo zprůměrují využití "interaktivní úlohy" minimálně 5 minut, "úlohy na pozadí" během 24hodinového období. Podle zásad omezování prostředků infrastruktury začíná první fáze omezování, když kapacita spotřebovala všechny dostupné prostředky CU na dalších 10 minut.

Předpokládejme například, že každý Copilot požadavek má 2 000 vstupních tokenů a 500 výstupních tokenů. Cena za jednu Copilot žádost = (2 000 × 400+500 * 1 200)/1 000 = 1 400 CU sekund = 23,33 MINUT CU.

Copilot je úloha na pozadí, každý Copilot požadavek (přibližně 24 minutová úloha CU) spotřebovává pouze jednu minutu CU každé hodiny kapacity. Pro zákazníka na F64, který má 64 × 24 HODIN CU (1 536) za den a každá Copilot práce spotřebovává (24 minut CU / 60 minut) = 0,4 HODIN CU. Zákazníci můžou před vyčerpáním kapacity běžet přes 3,8 tisíc požadavků, ale všechno se vypne.

Mapování oblasti

Prostředky infrastruktury Copilot využívají velké jazykové modely Azure OpenAI, které jsou aktuálně nasazené v omezených datových centrech. Zákazníci ale můžou povolit použití nastavení tenanta mezi geografickými procesy tím, že zpracují Copilotsvá data v jiné oblasti, kde je dostupná služba Azure OpenAI. Tato oblast může být mimo geografickou oblast uživatele, hranici dodržování předpisů nebo národní instanci cloudu. Při mapování oblastí upřednostňujeme rezidenci dat jako nejdůležitější aspekty a snažíme se namapovat na oblast ve stejné geografické oblasti, kdykoli je to možné.

Náklady na jednotky kapacity prostředků infrastruktury se můžou lišit v závislosti na oblasti. Bez ohledu na oblast spotřeby, ve které se využívá kapacita GPU, se zákazníci účtují na základě cen jednotek kapacity prostředků infrastruktury ve své fakturační oblasti. Pokud se například požadavky zákazníka mapují z region 1 region 2region 1 oblasti fakturace a region 2 oblasti spotřeby, účtuje se zákazník na základě cen v .region 1

Copilot Změny v sazbě spotřeby prostředků infrastruktury

Sazby spotřeby se můžou kdykoli změnit. Microsoft používá přiměřené úsilí k poskytování oznámení prostřednictvím e-mailu nebo prostřednictvím oznámení o produktu. Změny musí být platné k datu uvedené v poznámkách k verzi společnosti Microsoft nebo na blogu Microsoft Fabric. Pokud se nějaká změna Copilot sazby spotřeby prostředků infrastruktury výrazně zvýší kapacitní jednotky (CU) vyžadované k použití Copilot v prostředcích infrastruktury, můžou zákazníci použít možnosti zrušení dostupné pro zvolený způsob platby.

Související obsah