Udostępnij za pośrednictwem


Copilot w przypadku użycia sieci szkieletowej

Ta strona zawiera informacje na temat sposobu naliczania i raportowania użycia sieci szkieletowej Copilot . Copilot użycie jest mierzone przez liczbę przetworzonych tokenów. Tokeny można traktować jako fragmenty słów. Około 1000 tokenów to około 750 słów. Ceny są obliczane na 1000 tokenów, a tokeny wejściowe i wyjściowe są używane w różnych stawkach.

Uwaga

Rozliczenia Copilot dla sieci szkieletowej staną się obowiązujące 1 marca 2024 r. w ramach istniejącej pojemności usługi Power BI Premium lub sieci szkieletowej.

Wskaźnik zużycia

Żądania dotyczące Copilot korzystania z jednostek pojemności sieci szkieletowej. W tej tabeli zdefiniowano, ile jednostek pojemności (CU) jest używanych w przypadku Copilot użycia. Jeśli na przykład użytkownik korzysta z usługi Power BI, Copilot usługi Data Factory lub Copilot Nauka o danych i inżynierowie danych.Copilot

Operacja w aplikacji metryk Opis Jednostka operacji miary Wskaźnik zużycia
Copilot w sieci szkieletowej Monit wejściowy Na 1000 tokenów 400 CU s
Copilot w sieci szkieletowej Uzupełnianie danych wyjściowych Na 1000 tokenów 1200 CU s

Monitorowanie użycia

Aplikacja Metryki pojemności sieci szkieletowej wyświetla łączne użycie pojemności dla Copilot operacji pod nazwą "Copilotw sieci szkieletowej". Copilot Ponadto użytkownicy mogą wyświetlić podsumowanie opłat rozliczeniowych za Copilot użycie w ramach elementu fakturowania "Copilotw sieci szkieletowej".

Zrzut ekranu przedstawiający metryki pojemności sieci szkieletowej.

Typ wykorzystania pojemności

Sieci szkieletowe Copilotsą klasyfikowane jako "zadanie w tle" jako typ wykorzystania pojemności do obsługi większej liczby żądań w godzinach szczytu Copilot .

Sieć szkieletowa została zaprojektowana tak, aby zapewnić błyskawiczną wydajność, umożliwiając operacjom uzyskiwanie dostępu do większej liczby zasobów CU (capacity Units) niż są przydzielane do pojemności. Sieć szkieletowa wygłasza lub średnio użycie aktualizacji CU "zadania interaktywnego" w ciągu co najmniej 5 minut, "zadania w tle" w okresie 24-godzinnym. Zgodnie z zasadami ograniczania przepustowości sieci szkieletowej, pierwsza faza ograniczania zaczyna się, gdy pojemność zużywała wszystkie dostępne zasoby CU przez następne 10 minut.

Załóżmy na przykład, że każde Copilot żądanie ma 2000 tokenów wejściowych i 500 tokenów wyjściowych. Cena jednego Copilot żądania = (2000 * 400+500 * 1200)/1000 = 1400 CU sekund = 23,33 CU min.

Copilot jest zadaniem w tle, każde Copilot żądanie (~24 CU minuta) zużywa tylko jedną minutę CU każdej godziny pojemności. Dla klienta na F64, który ma 64 * 24 godziny cu (1536) w ciągu dnia i każde Copilot zadanie zużywa (24 minuty CU / 60 minut) = 0,4 cu godzin. Klienci mogą uruchamiać ponad 3,8 tys. żądań, zanim wyczerpują pojemność, ale wszystko zostanie zamknięte.

Mapowanie regionu

Sieć szkieletowa Copilot jest obsługiwana przez duże modele językowe usługi Azure OpenAI, które są obecnie wdrażane w ograniczonych centrach danych. Jednak klienci mogą włączyć ustawienia dzierżawy między procesami geograficznymi, aby używać Copilotich przez przetwarzanie danych w innym regionie, w którym jest dostępna usługa Azure OpenAI. Ten region może znajdować się poza regionem geograficznym użytkownika, granicą zgodności lub wystąpieniem chmury krajowej. Podczas wykonywania mapowania regionów ustalamy priorytety rezydencji danych jako najważniejsze zagadnienia i staramy się mapować na region w tym samym obszarze geograficznym zawsze, gdy jest to możliwe.

Koszt jednostek pojemności sieci szkieletowej może się różnić w zależności od regionu. Niezależnie od regionu zużycia, w którym jest używana pojemność procesora GPU, klienci są rozliczani na podstawie cen jednostek pojemności sieci szkieletowej w swoim regionie rozliczeniowym. Jeśli na przykład żądania klienta są mapowane z region 1 na region 2, z regionem region 1 rozliczeniowym i region 2 regionem zużycia, opłaty są naliczane na podstawie cen w usłudze region 1.

Copilot Zmiany w współczynniku zużycia sieci szkieletowej

Stawki zużycia mogą ulec zmianie w dowolnym momencie. Firma Microsoft wykorzystuje uzasadnione wysiłki, aby powiadomić za pośrednictwem poczty e-mail lub powiadomienia w produkcie. Zmiany obowiązują w dniu określonym w informacjach o wersji firmy Microsoft lub blogu usługi Microsoft Fabric. Jeśli jakakolwiek zmiana stawki Copilot zużycia sieci szkieletowej znacznie zwiększy liczbę jednostek wydajności (CU) wymaganych do użycia Copilot w sieci szkieletowej, klienci mogą skorzystać z opcji anulowania dostępnych dla wybranej formy płatności.