Referentie voor Azure OpenAI-bewakingsgegevens

Dit artikel bevat alle monitoringsinformatie voor deze dienst.

Zie Monitor Azure OpenAI voor meer informatie over de gegevens die u kunt verzamelen voor Azure OpenAI in Microsoft Foundry Models.

Metrics

Deze sectie geeft alle automatisch verzamelde platformmetrics voor deze dienst weer weer. Deze metrics maken ook deel uit van de wereldwijde lijst van alle platformmetrics die worden ondersteund in Azure Monitor.

Voor informatie over het behoud van metrieken, zie Azure Monitor Overzicht van Metrics.

Ondersteunde metrics voor Microsoft. Cognitieve Diensten/accounts

Bewaak de belangrijkste metrische gegevens voor Azure OpenAI. Verderop in dit artikel vindt u een langere lijst met alle beschikbare metrische gegevens voor deze naamruimte, die meer informatie bevat over metrische gegevens in deze kortere lijst. Raadpleeg de volgende lijst voor de meest up-to-datumgegevens. Het Azure team werkt aan het vernieuwen van de tabellen in de volgende secties.

Important

Verwar de metrics in deze sectie niet met de legacy-metriek Latency die later in dit artikel onder Cognitive Services - HTTP Requests wordt vermeld. De legacy Latency metriek is niet ontworpen voor Azure OpenAI-workloads en levert misleidende resultaten op wanneer het wordt gebruikt om Azure OpenAI-latentie te diagnosticeren. Voor Azure OpenAI-latentiemonitoring gebruik Time to Response (AzureOpenAITimeToResponse), Time to Last Byte (AzureOpenAITTLTInMS), Time Between Tokens (AzureOpenAINormalizedTBTInMS), of Normalized Time to First Byte (AzureOpenAINormalizedTTFTInMS). Voor richtlijnen bij het interpreteren van deze metrics, zie Prestaties en latentie.

  • OpenAI-aanvragen Azure
  • Actieve tokens
  • Gegenereerde voltooiingstokens
  • Verwerkte FineTuned Trainingsuren
  • Verwerkte inferentietokens
  • Verwerkte prompttokens
  • Ingericht beheerd gebruik V2
  • Prompt Token Cache Match-snelheid
  • Tijd tot reactie
  • Tijd tussen tokens
  • Tijd tot laatste byte
  • Genormaliseerde tijd naar de eerste byte
  • Tokens per seconde

U kunt ook metrische gegevens over Inhoudsveiligheid bewaken die door andere gerelateerde services worden gebruikt.

  • Geblokkeerd volume
  • Schadelijk volume gedetecteerd
  • Aantal potentiële misbruikende gebruikers
  • Veiligheidssysteemgebeurtenis
  • Totaal volume verzonden voor veiligheidscontrole

Note

De Provisioned-managed Utilization metric is nu verouderd en wordt niet langer aanbevolen. Deze metrische waarde wordt vervangen door de metrische gegevens over ingericht beheerd gebruik V2 . Tokens per seconde, Time to Response en Time Between Tokens zijn momenteel niet beschikbaar voor standaardimplementaties.

Snelle referentie: Belangrijke metrics per gebruiksgeval

Gebruik deze tabel om de juiste maatstaf te vinden voor een specifiek monitoringdoel. Voor end-to-end richtlijnen voor het interpreteren van deze metrics, zie Prestaties en latentie.

Ik wil monitoren... Gebruik deze maatstaf REST API-naam
Totale responstijd Tijd tot laatste byte AzureOpenAITTLTInMS
First-token responsiviteit (streaming) Tijd tot reactie AzureOpenAITimeToResponse
Snelheid van tokengeneratie Tijd tussen tokens AzureOpenAINormalizedTBTInMS
First-token efficiëntie genormaliseerd door promptgrootte Genormaliseerde tijd naar de eerste byte AzureOpenAINormalizedTTFTInMS
Outputtokenvolume per verzoek Gegenereerde voltooiingstokens GeneratedTokens
Invoertokenvolume per verzoek Verwerkte prompttokens ProcessedPromptTokens
PTU-capaciteitsbenutting Ingericht beheerd gebruik V2 AzureOpenAIProvisionedManagedUtilizationV2
Verzoekvolume en fouten OpenAI-aanvragen Azure AzureOpenAIRequests

Tip

Koppel altijd een latentiemetriek aan een tokencount-metriek. Een toename van de latentie zonder een bijbehorende tokenverhoging kan wijzen op een echt probleem. Een toename van de latentie bij een proportionele tokenverhoging is verwacht gedrag.

Warning

De metrics onder Cognitive Services - HTTP Requests later in dit artikel zijn legacy Cognitive Services-metrics en zijn niet ontworpen voor Azure OpenAI-workloads. In het bijzonder is de Latency metric in die categorie niet hetzelfde als de Azure OpenAI-latencymetrieken (Time to Response, Time to Last Byte, Time between Tokens, Normalized Time to First Byte). Het gebruik van de legacy Latency metriek voor Azure OpenAI-probleemoplossing levert misleidende resultaten op. Gebruik in plaats daarvan de Azure OpenAI-metrics die in deze sectie zijn vermeld.

De volgende tabel geeft de beschikbare metrics voor Microsoft weer. Cognitieve Diensten/accounts resource type.

  • Niet alle kolommen zijn mogelijk in elke tabel aanwezig.
  • Sommige kolommen kunnen zich buiten het weergavegebied van de pagina bevinden. Selecteer Tabel uitbreiden om alle beschikbare kolommen te bekijken.

Kopteksten van tabellen

  • Categorie - De metricsgroep of classificatie.
  • Metric - De metriekweergavenaam zoals die in het Azure portaal verschijnt.
  • Naam in REST API - De metrieknaam zoals aangeduid in de REST API.
  • Eenheid - Eenheid van maat.
  • Aggregatie - Het standaard type aggregatie . Geldige waarden: Gemiddeld (gemiddeld), minimum (min), maximum (maximaal), totaal (som), aantal.
  • Afmetingen - Afmetingen beschikbaar voor de metriek.
  • Tijdkorrels - Intervallen waarop de metriek wordt bemonsterd. Geeft PT1M bijvoorbeeld aan dat de metriek elke minuut, PT30M elke 30 minuten, PT1H elk uur, enzovoort wordt bemonsterd.
  • DS Export- Of de metriek exporteerbaar is naar Azure Monitor Logs via diagnostische instellingen. Voor informatie over het exporteren van metrics, zie Create diagnostische instellingen in Azure Monitor.

Categorie: Azure OpenAI - HTTP Requests

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Azure OpenAI AvailabilityRate

Beschikbaarheidspercentage met de volgende berekening: (Totaal aantal oproepen - serverfouten)/Totaal aantal oproepen. Serverfouten omvatten alle HTTP-antwoorden >=500.
AzureOpenAIAvailabilityRate No Procent Minimum, Maximum, Gemiddeld ApiName, OperationName, Region, StreamType, ModelDeploymentName, , ModelName, ModelVersion PT1M No
Azure OpenAI-verzoeken

Aantal aanroepen naar de Azure OpenAI API gedurende een bepaalde periode. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen. Om API-verzoeken op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName, ModelVersion, StatusCode (succesvol, clientfouten, serverfouten), IsSpillover voor overloopinformatie, ServiceTier, StreamType (streaming versus niet-streaming verzoeken) en operatie.
AzureOpenAIRequests No Aantal Het totaal (som) ApiName, , OperationNameRegion, StreamType, ModelDeploymentName, , ModelName, , ModelVersionStatusCodeIsSpilloverServiceTierRequestServiceTierResponse PT1M Ja

Categorie: Azure OpenAI - Latency

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Tijd tussen tokens

Voor streamingverzoeken; Modeltokengeneratiesnelheid, gemeten in milliseconden. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments.
AzureOpenAINormalizedTBTInMS No Milliseconden Maximum, Minimum, Gemiddelde Region, , ModelDeploymentNameModelName, ModelVersion, , , ServiceTierRequestServiceTierResponse PT1M Ja
Genormaliseerde tijd naar de eerste byte

Voor streaming- en niet-streamingverzoeken; De tijd die nodig is om de eerste byte responsgegevens te ontvangen nadat het model een verzoek heeft gedaan, genormaliseerd per token. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments.
AzureOpenAINormalizedTTFTInMS No Milliseconden Maximum, Minimum, Gemiddelde Region, , ModelDeploymentNameModelName, ModelVersion, , , ServiceTierRequestServiceTierResponse PT1M Ja
Tijd tot reactie

Aanbevolen latency (responsiviteit) maatstaf voor streamingverzoeken. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments. Berekend als de tijd die nodig is voor de eerste reactie om te verschijnen nadat een gebruiker een prompt heeft gestuurd, gemeten door de API-gateway. Dit aantal neemt toe naarmate de promptgrootte toeneemt en/of de cache-hitgrootte afneemt. Om de tijd tot de responsmetriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName en ModelVersion.

Opmerking: deze metriek is een benadering omdat gemeten latentie sterk afhankelijk is van meerdere factoren, waaronder gelijktijdige oproepen en het algemene werkpatroon. Daarnaast houdt het geen rekening met eventuele client-side latentie die kan bestaan tussen je client en het API-endpoint. Raadpleeg je eigen logging voor optimale latentietracking.
AzureOpenAITimeToResponse No Milliseconden Minimum, Maximum, Gemiddeld ApiName, , Region, StreamTypeOperationName, , ModelDeploymentName, ModelName, , ServiceTierRequestStatusCodeModelVersionServiceTierResponse PT1M Ja
Tokens per seconde

Geeft de generatiesnelheid op voor een gegeven Azure OpenAI-modelrespons. Het totaal aantal gegenereerde tokens wordt gedeeld door de tijd om de tokens te genereren, in seconden. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments.
AzureOpenAITokenPerSecond No Aantal Maximum, Minimum, Gemiddelde Region, , ModelDeploymentNameModelName, ModelVersion, , , ServiceTierRequestServiceTierResponse PT1M Ja
Tijd tot laatste byte

Voor streaming- en niet-streamingverzoeken; De tijd die nodig is voordat de laatste byte responsgegevens is ontvangen nadat het model een verzoek heeft gedaan. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments.
AzureOpenAITTLTInMS No Milliseconden Maximum, Minimum, Gemiddelde Region, , ModelDeploymentNameModelName, ModelVersion, , , ServiceTierRequestServiceTierResponse PT1M Ja

Categorie: Azure OpenAI - Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Actieve tokens

Totaal aantal tokens minus gecachte tokens over een bepaalde periode. Van toepassing op PTU- en PTU-beheerde deployments. Gebruik deze metric om je TPS- of TPM-gebaseerde benutting voor PTU's te begrijpen en te vergelijken met je benchmarks voor target TPS of TPM voor jouw scenario's. Om API-verzoeken op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName en ModelVersion.
ActiveTokens No Aantal Minimum, Maximum, Gemiddeld, Totaal (Som) Region, , ModelDeploymentNameModelName, ModelVersion, , , ServiceTierRequestServiceTierResponse PT1M Ja
Tokens voor audiovoltooiing

Aantal audio prompt-tokens die worden gegenereerd (output) op een OpenAI-model. Van toepassing op PTU-beheerde en Pay-as-you-go modelimplementaties.
AudioCompletionTokens No Aantal Het totaal (som) ModelDeploymentName,ModelName,ModelVersion,Region PT1M Ja
Audioprompttokens

Aantal audio prompt-tokens verwerkt (input) op een OpenAI-model. Van toepassing op PTU-beheerde en Pay-as-you-go modelimplementaties.
AudioPromptTokens No Aantal Het totaal (som) ModelDeploymentName,ModelName,ModelVersion,Region PT1M Ja
Prompt Token Cache Match-snelheid

Percentage prompttokens dat in de cache terechtkomt. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments.
AzureOpenAIContextTokensCacheMatchRate No Procent Minimum, Maximum, Gemiddeld Region,ModelDeploymentName,ModelName,ModelVersion PT1M No
Provisioned-managed Utilization (verouderd)

Benutting % voor een voorzien beheerde deployment, berekend als (PTU's verbruikt / PTU's uitgerold) x 100. Wanneer het gebruik groter is dan of gelijk aan 100%, worden aanroepen afgeremd en wordt foutcode 429 teruggegeven. Om deze metriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName, ModelVersion en StreamType (Streaming versus niet-streaming verzoeken)
AzureOpenAIProvisionedManagedUtilization No Procent Minimum, Maximum, Gemiddeld Region, StreamType, ModelDeploymentName, ModelName, , ModelVersion PT1M No
Toegewezen beheerd gebruik V2

Benutting % voor een voorzien beheerde deployment, berekend als (PTU's verbruikt / PTU's uitgerold) x 100. Wanneer het gebruik groter is dan of gelijk aan 100%, worden aanroepen afgeremd en wordt foutcode 429 teruggegeven. Om deze metriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName, ModelVersion en StreamType (Streaming versus niet-streaming verzoeken)
AzureOpenAIProvisionedManagedUtilizationV2 No Procent Minimum, Maximum, Gemiddeld Region, StreamType, ModelDeploymentName, ModelName, , ModelVersion PT1M No
Verwerkte FineTuned Trainingsuren

Aantal trainingsuren verwerkt op een OpenAI FineTuned model
FineTunedTrainingHours No Aantal Het totaal (som) ApiName, ModelDeploymentName, FeatureName, UsageChannel, , Region PT1M Ja
Gegenereerde voltooiingstokens

Aantal tokens gegenereerd (output) vanuit een OpenAI-model. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments. Om deze metriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName en ModelName.
GeneratedTokens No Aantal Het totaal (som) ApiName, ModelDeploymentName, FeatureName, UsageChannel, Region, ModelVersion, , ServiceTierRequest, ServiceTierResponse PT1M Ja
Verwerkte prompttokens

Aantal prompttokens verwerkt (invoer) op een OpenAI-model. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments. Om deze metriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName en ModelName.
ProcessedPromptTokens No Aantal Het totaal (som) ApiName, ModelDeploymentName, FeatureName, UsageChannel, Region, ModelVersion, , ServiceTierRequest, ServiceTierResponse PT1M Ja
Gebruikte realtime API-seconden

RealtimeAPI aantal gebruikte seconden
RealtimeUsageTime No Aantal Het totaal (som) Region, ModelDeploymentName PT1M Ja
Verwerkte inferentietokens

Aantal inferentietokens verwerkt op een OpenAI-model. Berekend als prompttokens (input) plus gegenereerde tokens (output). Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments. Om deze metriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName en ModelName.
TokenTransaction No Aantal Het totaal (som) ApiName, ModelDeploymentName, FeatureName, UsageChannel, Region, ModelVersion, , ServiceTierRequest, ServiceTierResponse PT1M Ja

Categorie: Cognitieve diensten - HTTP-verzoeken

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Geblokkeerde oproepen

Aantal oproepen dat de limiet of quotumlimiet overschreed. Gebruik niet voor Azure OpenAI-service.
BlockedCalls No Aantal Het totaal (som) ApiName,OperationName,Region,RatelimitKey PT1M Ja
Clientfouten

Aantal oproepen met client-side fout (HTTP-responscode 4xx). Gebruik niet voor Azure OpenAI-service.
ClientErrors No Aantal Het totaal (som) ApiName,OperationName,Region,RatelimitKey PT1M Ja
Gegevens Invoer

Grootte van binnenkomende data in bytes. Gebruik niet voor Azure OpenAI-service.
DataIn No Bytes Het totaal (som) ApiName, , OperationNameRegion PT1M Ja
Gegevens uit

Grootte van uitgaande data in bytes. Gebruik niet voor Azure OpenAI-service.
DataOut No Bytes Het totaal (som) ApiName, , OperationNameRegion PT1M Ja
Latentie

Latentie in milliseconden. Gebruik niet voor Azure OpenAI-service.
Latency No Milliseconden Average ApiName,OperationName,Region,RatelimitKey PT1M Ja
Ratelimit

De huidige tarieflimiet van de ratelimit-sleutel. Gebruik niet voor Azure OpenAI-service.
Ratelimit No Aantal Het totaal (som) Region, RatelimitKey PT1M Ja
Serverfouten

Aantal oproepen met interne servicefout (HTTP-antwoordcode 5xx). Gebruik niet voor Azure OpenAI-service.
ServerErrors No Aantal Het totaal (som) ApiName,OperationName,Region,RatelimitKey PT1M Ja
Geslaagde oproepen

Aantal succesvolle oproepen. Gebruik niet voor Azure OpenAI-service.
SuccessfulCalls No Aantal Het totaal (som) ApiName,OperationName,Region,RatelimitKey PT1M Ja
Totaal aantal oproepen

Totaal aantal oproepen. Gebruik niet voor Azure OpenAI-service.
TotalCalls No Aantal Het totaal (som) ApiName,OperationName,Region,RatelimitKey PT1M Ja
Totaal aantal fouten

Totaal aantal oproepen met foutrespons (HTTP-antwoordcode 4xx of 5xx). Gebruik niet voor Azure OpenAI-service.
TotalErrors No Aantal Het totaal (som) ApiName,OperationName,Region,RatelimitKey PT1M Ja
Totale tokenoproepen

Totaal aantal tokencalls.
TotalTokenCalls No Aantal Het totaal (som) ApiName, , OperationNameRegion PT1M Ja

Categorie: Cognitieve diensten - SLI

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
AvailabilityRate

Beschikbaarheidspercentage met de volgende berekening: (Totaal aantal oproepen - serverfouten)/Totaal aantal oproepen. Serverfouten omvatten alle HTTP-antwoorden >=500. Gebruik niet voor Azure OpenAI-service.
SuccessRate No Procent Minimum, Maximum, Gemiddeld ApiName,OperationName,Region,RatelimitKey PT1M No

Categorie: Inhoudelijk begrip - Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Gezichtstransacties

Aantal API-aanroepen naar de Face-service
FaceApiTransactions No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Bewerkte Audio-notulen

Minutenlang bewerkt audio
ProcessedAudioMinutes No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte pagina's

Aantal verwerkte documentpagina's
ProcessedDocumentPages No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte afbeeldingen

Aantal bewerkte beelden
ProcessedImageCount No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte videominuten

Minuut video verwerkt
ProcessedVideoMinutes No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Tokens

Aantal geconsumeerde tokens
Tokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja

Categorie: InhoudVeiligheid - Risico's & Veiligheid

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Schadelijk volume gedetecteerd

Aantal aanroepen naar de Azure OpenAI API en als schadelijk gedetecteerd (zowel blokmodel als annoteermodus) door een contentfilter dat over een bepaalde periode wordt toegepast. Je kunt een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName en TextType.
RAIHarmfulRequests No Aantal Het totaal (som) Region, ModelDeploymentName, ModelName, ModelVersion, ApiName, TextType, , Category, Severity PT1M Ja
Geblokkeerd volume

Aantal aanroepen naar de Azure OpenAI API en afgewezen door een contentfilter dat over een bepaalde periode is toegepast. Je kunt een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName en TextType.
RAIRejectedRequests No Aantal Het totaal (som) Region, ModelDeploymentName, ModelName, ModelVersion, ApiName, , TextType, Category PT1M Ja
Veiligheidssysteemgebeurtenis

Systeemgebeurtenis voor risico- en veiligheidsmonitoring. Je kunt een filter toevoegen of splitsing toepassen op de volgende dimensie: EventType.
RAISystemEvent No Aantal Average Region, EventType PT1M Ja
Totaal volume verzonden voor veiligheidscontrole

Aantal aanroepen naar de Azure OpenAI API en gedetecteerd door een contentfilter dat over een bepaalde periode is toegepast. Je kunt een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName.
RAITotalRequests No Aantal Het totaal (som) Region, ModelDeploymentName, ModelName, ModelVersion, , ApiName PT1M Ja

Categorie: ContentVeiligheid - Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Oproepaantal voor beeldmoderatie

Aantal oproepen tot beeldmoderatie.
ContentSafetyImageAnalyzeRequestCount No Aantal Het totaal (som) ApiVersion PT1M Ja
Aantal oproepen voor tekstmoderatie

Aantal oproepen voor tekstmoderatie.
ContentSafetyTextAnalyzeRequestCount No Aantal Het totaal (som) ApiVersion PT1M Ja

Categorie: Taal - Banen

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Functieduur (Preview)

Opmerking: deze waarde hangt sterk af van de invoergrootte, het aantal documenten en de complexiteit van de taak. Dit is een aggregatiewaarde over alle taken heen.
JobDuration No Milliseconden Minimum, Maximum, Gemiddeld JobStatus, JobType PT1M Ja

Categorie: Modelrouter

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Tokens in cache van modelrouter

Het aantal prompttokens in de cache dat door de modelrouter wordt verwerkt.
ModelRouterCachedTokens No Aantal Minimum, Maximum, Gemiddeld, Totaal (Som) ModelDeploymentName, ModelName, Region, StreamType, , RouterMode PT1M Ja
Terugvalaantal modelrouters

Aantal aanvragen waarvoor een terugval naar een alternatief model is vereist.
ModelRouterFallbackCount No Aantal Het totaal (som) ModelDeploymentName,ModelName,Region,RouterMode PT1M Ja
Invoertokens voor modelrouters

Aantal prompttokens verwerkt (invoer) per modelrouter.
ModelRouterInputTokens No Aantal Minimum, Maximum, Gemiddeld, Totaal (Som) ModelDeploymentName, ModelName, Region, StreamType, , RouterMode PT1M Ja
Latentie van modelrouter

Tijd die door de modelrouter wordt genomen om een routeringsbeslissing te nemen.
ModelRouterLatency No Milliseconden Minimum, Maximum, Gemiddeld ModelDeploymentName,ModelName,Region,RouterMode PT1M Ja
Uitvoertokens van modelrouter

Aantal tokens gegenereerd (uitvoer) per modelrouter.
ModelRouterOutputTokens No Aantal Minimum, Maximum, Gemiddeld, Totaal (Som) ModelDeploymentName, ModelName, Region, StreamType, , RouterMode PT1M Ja
Routeraanvragen model

Het totale aantal aanvragen dat door de modelrouter wordt verwerkt.
ModelRouterRequests No Aantal Het totaal (som) ModelDeploymentName,ModelName,Region,RouterMode PT1M Ja
Terugval van modelrouterbronmodel

Aantal aanvragen waarbij het eerste pogingsmodel is mislukt, waardoor een terugval naar een ander model wordt veroorzaakt.
ModelRouterSourceModelFallback No Aantal Het totaal (som) ModelDeploymentName, ModelName, Region, RouterMode, , SourceModelName PT1M Ja
Geslaagde aanvragen van modelrouter

Aantal aanvragen dat zonder fouten is gerouteerd.
ModelRouterSuccessfulRequests No Aantal Het totaal (som) ModelDeploymentName,ModelName,Region,RouterMode PT1M Ja

Categorie: Modellen - HTTP-verzoeken

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Modelbeschikbaarheidspercentage

Beschikbaarheidspercentage met de volgende berekening: (Totaal aantal oproepen - serverfouten)/Totaal aantal oproepen. Serverfouten omvatten alle HTTP-antwoorden >=500.
ModelAvailabilityRate No Procent Minimum, Maximum, Gemiddeld Region,ModelDeploymentName,ModelName,ModelVersion PT1M No
Modelaanvragen

Aantal aanroepen naar de model-API gedurende een bepaalde periode. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
ModelRequests No Aantal Het totaal (som) ApiName, , OperationNameRegion, StreamType, ModelDeploymentName, , ModelName, , ModelVersionStatusCodeIsSpilloverServiceTierRequestServiceTierResponse PT1M Ja

Categorie: Modellen - Latentie

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Tijd tussen tokens

Model-tokengeneratiesnelheid, gemeten in milliseconden. Van toepassing op PTU- en PTU-beheerde deployments. Voor niet-streaming verzoeken is deze waarde een schatting.
NormalizedTimeBetweenTokens No Milliseconden Maximum, Minimum, Gemiddelde ApiName, OperationName, Region, StreamType, ModelDeploymentName, , ModelName, ModelVersion PT1M Ja
Genormaliseerde tijd naar de eerste byte

De tijd die het kost voordat de eerste byte responsgegevens is ontvangen nadat het verzoek per model is gedaan, genormaliseerd per token. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments. Voor niet-streaming verzoeken is deze waarde een schatting.
NormalizedTimeToFirstToken No Milliseconden Maximum, Minimum, Gemiddelde ApiName, OperationName, Region, StreamType, ModelDeploymentName, , ModelName, ModelVersion PT1M Ja
Tijd tot laatste byte

De tijd die het kost om de laatste byte responsgegevens te ontvangen nadat het model een verzoek heeft gedaan. Van toepassing op PTU-, PTU-beheerde en Pay-as-you-go deployments. Voor niet-streaming verzoeken is deze waarde een schatting.
TimeToLastByte No Milliseconden Maximum, Minimum, Gemiddelde ApiName, OperationName, Region, StreamType, ModelDeploymentName, , ModelName, ModelVersion PT1M Ja
Tijd tot reactie

Aanbevolen latency (responsiviteit) maatstaf. Van toepassing op PTU- en PTU-beheerde deployments. Berekend als de tijd die nodig is voor de eerste reactie om te verschijnen nadat een gebruiker een prompt heeft gestuurd, gemeten door de API-gateway. Dit aantal neemt toe naarmate de promptgrootte toeneemt en/of de cache-hitgrootte afneemt. Om de tijd tot de responsmetriek op te splitsen, kun je een filter toevoegen of splitsing toepassen op de volgende dimensies: ModelDeploymentName, ModelName en ModelVersion.

Opmerking: deze metriek is een benadering omdat gemeten latentie sterk afhankelijk is van meerdere factoren, waaronder gelijktijdige oproepen en het algemene werkpatroon. Daarnaast houdt het geen rekening met eventuele client-side latentie die kan bestaan tussen je client en het API-endpoint. Voor niet-streaming verzoeken is deze waarde een schatting. Raadpleeg je eigen logging voor optimale latentietracking.
TimeToResponse No Milliseconden Minimum, Maximum, Gemiddeld ApiName, OperationName, Region, StreamType, ModelDeploymentName, ModelName, , ModelVersion, StatusCode PT1M Ja
Tokens per seconde

Geeft de generatiesnelheid voor een gegeven modelrespons op. Het totaal aantal gegenereerde tokens wordt gedeeld door de tijd om de tokens te genereren, in seconden. Van toepassing op PTU- en PTU-beheerde deployments. Voor niet-streaming verzoeken is deze waarde een schatting.
TokensPerSecond No Aantal Maximum, Minimum, Gemiddelde ApiName, OperationName, Region, StreamType, ModelDeploymentName, , ModelName, ModelVersion PT1M Ja

Categorie: Modellen - Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Geannoteerde pagina's

Totaal aantal pagina's verwerkt met annotaties. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
AnnotatedPages No Aantal Het totaal (som) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Ja
Audio-invoertokens

Aantal audio prompt-tokens verwerkt (input) op een OpenAI-model. Van toepassing op PTU-beheerde modelimplementaties.
AudioInputTokens No Aantal Het totaal (som) ModelDeploymentName,ModelName,ModelVersion,Region PT1M Ja
Audio-uitvoertokens

Aantal audio prompt-tokens die worden gegenereerd (output) op een OpenAI-model. Van toepassing op PTU-beheerde modelimplementaties.
AudioOutputTokens No Aantal Het totaal (som) ModelDeploymentName,ModelName,ModelVersion,Region PT1M Ja
Prompttokens gelezen uit de cache

Totaal aantal tokens dat uit de cache wordt gelezen. Van toepassing op Anthropic-modelimplementaties. Verscheen in de sectie voor responsgebruik als cache_read_input_tokens
cacheReadInputTokens No Aantal Het totaal (som) ApiName, , RegionModelDeploymentName, ModelName, , , ModelVersionContextLength PT1M Ja
Prompttokens geschreven naar cache (1 uur TTL)

Het aantal prompttokens dat is gebruikt om de 1-uur-invoer te maken. Van toepassing op Anthropic-modelimplementaties. Verscheen in de sectie voor responsgebruik als cache_creation.ephemeral_1h_input_tokens
ephemeral1hInputTokens No Aantal Het totaal (som) ApiName, , RegionModelDeploymentName, ModelName, , , ModelVersionContextLength PT1M Ja
Prompttokens geschreven naar cache (5 minuten TTL)

Het aantal prompttokens dat wordt gebruikt om de 5-minuten cache-invoer te maken. Van toepassing op Anthropic-modelimplementaties. Verscheen in de sectie voor responsgebruik als cache_creation.ephemeral_5m_input_tokens
ephemeral5mInputTokens No Aantal Het totaal (som) ApiName, , RegionModelDeploymentName, ModelName, , , ModelVersionContextLength PT1M Ja
Geschatte kosten van foundry-model (preview)

Geschatte USD-kosten voor modelgebruik voor dit account. Alleen van toepassing op Foundry-modellen. Deze waarde is een schatting en is geen factuur of gefactureerde kosten.
FoundryModelEstimatedCost No Onbepaald Het totaal (som) ProjectId, ModelDeploymentName, ModelName, ModelVersion, , Region PT1M No
Gegenereerde installatiekopieën

Totaal aantal gegenereerde afbeeldingen. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
GeneratedImages No Aantal Het totaal (som) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Ja
Invoertokens

Aantal prompttokens verwerkt (invoer) op een model. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
InputTokens No Aantal Het totaal (som) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Ja
Uitvoertokens

Aantal tokens gegenereerd (output) vanuit een OpenAI-model. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
OutputTokens No Aantal Het totaal (som) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Ja
Voorzien gebruik

Benutting % voor een voorzien beheerde deployment, berekend als (PTU's verbruikt / PTU's uitgerold) x 100. Wanneer het gebruik groter is dan of gelijk aan 100%, worden aanroepen afgeremd en wordt foutcode 429 teruggegeven.
ProvisionedUtilization No Procent Minimum, Maximum, Gemiddeld Region,ModelDeploymentName,ModelName,ModelVersion PT1M No
Totaal aantal pagina's

Totaal aantal verwerkte pagina's. Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
TotalPages No Aantal Het totaal (som) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Ja
Totaal aantal tokens

Aantal inferentietokens dat op een model wordt verwerkt. Berekend als prompttokens (input) plus gegenereerde tokens (output). Van toepassing op PTU-, PTU-Managed- en Pay-as-you-go uitzendingen.
TotalTokens No Aantal Het totaal (som) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Ja

Categorie: SpeechServices - Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Audio Seconds Batch Getranscribeerd

Batch aantal getranscribeerde seconden
AudioSecondsBatchTranscribed No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Audio Seconds Batch Whisper Getranscribeerd

Batch fluister aantal seconden getranscribeerd
AudioSecondsBatchWhisperTranscribed No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Audioseconden snel getranscribeerd

Snel aantal seconden getranscribeerd
AudioSecondsFastTranscribed No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Audio Seconds Fast Whisper getranscribeerd

Snel fluisteren aantal seconden getranscribeerd
AudioSecondsFastWhisperTranscribed No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Audio-seconden getranscribeerd

Aantal getranscribeerde seconden
AudioSecondsTranscribed No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Audio Seconds Vertaald

Aantal seconden vertaald
AudioSecondsTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Avatar-Model Hosting Seconden

Aantal seconden.
AvatarModelHostingSeconds No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Avatar Model Training Seconden

Aantal seconden.
AvatarModelTrainingSeconds No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Quotumlimiet voor spraak-naar-tekstbasismodel

Quotumlimiet voor spraak-naar-tekstbasismodel
QuotaLimit No Aantal Maximum ApiName,FeatureName,UsageChannel,Region PT1M Ja
Gelijktijdigheid van aanvraag voor spraak-naar-tekstbasismodel

Aantal gelijktijdige aanvragen voor spraak-naar-tekstbasismodel
RequestConcurrency No Aantal Maximum ApiName,FeatureName,UsageChannel,Region PT1M Ja
Uren voor het hosten van spraakmodellen

Aantal uren voor het hosten van spraakmodellen
SpeechModelHostingHours No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Gesynthetiseerde tekens

Aantal tekens.
SynthesizedCharacters No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Video Seconds gesynthetiseerd

Aantal gesynthetiseerde seconden
VideoSecondsSynthesized No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Invoertokens voor Voice Live Audio

Aantal audio-invoertokens, exclusief gecachte tokens.
VoiceLiveAudioInputTokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Audio-uitvoertokens voor Voice Live

Aantal audio-uitgangstokens.
VoiceLiveAudioOutputTokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Voice Live gecachte audio-invoertokens

Aantal gecachte audio-invoertokens.
VoiceLiveCachedAudioInputTokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Voice Live gecachte tekstinvoertokens

Aantal gecachte tekstinvoertokens.
VoiceLiveCachedTextInputTokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Spraak Live Text Invoertokens

Aantal tekstinvoertokens, exclusief gecachte tokens.
VoiceLiveTextInputTokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Uitvoertokens voor spraak livetekst

Aantal tekstuitvoertokens.
VoiceLiveTextOutputTokens No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Uren voor het hosten van stemmodellen

Aantal uren.
VoiceModelHostingHours No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Trainingsminuten voor Stemmodellen

Aantal minuten.
VoiceModelTrainingMinutes No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja

Categorie: Vertalerdiensten - Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Vertaalde documenttekens

Aantal tekens in het document vertaalverzoek.
DocumentCharactersTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Aangepaste Documenttekens vertaald

Aantal tekens in een verzoek om aangepaste documentvertaling.
DocumentCustomCharactersTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Vertaalde Document Sync Tekens

Aantal tekens in documentvertaling (synchrone) verzoeken.
OneDocumentCharactersTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Vertaalde aangepaste tekens van documentsynchronisatie

Aantal tekens in een aangepaste documentvertaling (synchrone) aanvraag.
OneDocumentCustomCharactersTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Vertaalde teksttekens

Aantal tekens in het verzoek om binnenkomende tekstvertaling.
TextCharactersTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Tekst Aangepaste Tekens Vertaald

Aantal tekens in binnenkomend verzoek om aangepaste tekstvertaling.
TextCustomCharactersTranslated No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Tekstgetrainde Tekens

Aantal tekens getraind met tekstvertaling.
TextTrainedCharacters No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Translator Pro App Seconds

Aantal seconden gebruik van de Translator Pro App.
TranslatorProAppSeconds No Seconds Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja

Categorie: Gebruik

Metriek Naam in REST API Geavanceerde metrische platformgegevens Unit Aggregation Afmetingen Tijdgranulen DS Exporteren
Computer Vision Transacties

Aantal Computer Vision-transacties
ComputerVisionTransactions No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Trainingstijd voor aangepaste visie

Trainingstijd voor aangepaste Vision
CustomVisionTrainingTime No Seconds Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Aangepaste Vision Transacties

Aantal Custom Vision-voorspellingstransacties
CustomVisionTransactions No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Getrainde gezichtsafbeeldingen

Aantal getrainde beelden. 1.000 afbeeldingen getraind per transactie.
FaceImagesTrained No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Opgeslagen gezichten

Aantal opgeslagen gezichten, dagelijks naar rato berekend. Het aantal opgeslagen gezichten wordt dagelijks gerapporteerd.
FacesStored No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Gezichtstransacties

Aantal API-aanroepen naar de Face-service
FaceTransactions No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Opgeslagen afbeeldingen

Aantal opgeslagen Custom Vision-afbeeldingen.
ImagesStored No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Geleerde gebeurtenissen

Aantal geleerde gebeurtenissen.
LearnedEvents No Aantal Het totaal (som) IsMatchBaseline, , ModeRunId PT1M Ja
LUIS Spraakverzoeken

Aantal LUIS speech-to-intent begripverzoeken
LUISSpeechRequests No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
LUIS Tekstverzoeken

Aantal LUIS-tekstverzoeken
LUISTextRequests No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Overeenkomende beloningen

Aantal gematchte beloningen.
MatchedRewards No Aantal Het totaal (som) Mode, RunId PT1M Ja
Niet-geactiveerde gebeurtenissen

Aantal overgeslagen evenementen.
NonActivatedEvents No Aantal Het totaal (som) Mode, RunId PT1M Ja
Geobserveerde beloningen

Aantal waargenomen beloningen.
ObservedRewards No Aantal Het totaal (som) Mode, RunId PT1M Ja
Verwerkte tekens

Aantal tekens verwerkt door Immersive Reader.
ProcessedCharacters No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte gezondheidstekstgegevens

Aantal verwerkte gezondheidstekstgegevens
ProcessedHealthTextRecords No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte afbeeldingen

Aantal bewerkte beelden
ProcessedImages No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte pagina's

Aantal verwerkte pagina's
ProcessedPages No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Verwerkte tekstrecords

Aantal tekstrecords.
ProcessedTextRecords No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
QA Tekstrecords

Aantal verwerkte tekstrecords
QuestionAnsweringTextRecords No Aantal Het totaal (som) ApiName,FeatureName,UsageChannel,Region PT1M Ja
Totaal aantal gebeurtenissen

Aantal evenementen.
TotalEvents No Aantal Het totaal (som) Mode, RunId PT1M Ja
Totale transacties (verouderd)

Totaal aantal transacties.
TotalTransactions No Aantal Het totaal (som) <Geen> PT1M Ja

Metrische dimensies

Voor informatie over wat metrische dimensies zijn, zie Multidimensionale metrics.

Deze dienst heeft de volgende dimensies die met haar meetwaarden te maken hebben.

  • ApiName
  • Functienaam
  • ModelDeploymentName
  • Modelnaam
  • ModelVersion
  • NaamVanOperatie
  • Region
  • Statuscode
  • StreamType
  • UsageChannel

Logboeken van bronnen

Deze sectie geeft een overzicht van de soorten resourcelogs die je voor deze dienst kunt verzamelen. De sectie haalt uit de lijst van alle resourcelogs categorietypen die worden ondersteund in Azure Monitor.

Ondersteunde resourcelogs voor Microsoft. Cognitieve Diensten/accounts

Categorie Kosten voor export Logaritmetafel Ondersteunt een basislogplan Ondersteunt transformatie tijdens de opnametijd Voorbeeldvragen
Audit No AzureDiagnostics

Logs van meerdere Azure-bronnen.

No No
AzureOpenAIRequestUsage Ja AzureDiagnostics

Logs van meerdere Azure-bronnen.

No No
ManagedNetworkEvent Ja AzureDiagnostics

Logs van meerdere Azure-bronnen.

No No
RequestResponse No AzureDiagnostics

Logs van meerdere Azure-bronnen.

No No
Traceren No AzureDiagnostics

Logs van meerdere Azure-bronnen.

No No

Azure Monitor-logboekentabellen

Deze sectie geeft een overzicht van de Azure Monitor Logs-tabellen die relevant zijn voor deze service, die beschikbaar zijn voor opvragingen door Log Analytics met behulp van Kusto-queries. De tabellen bevatten resourceloggegevens en mogelijk meer, afhankelijk van wat er wordt verzameld en doorgestuurd.

Azure OpenAI microsoft.cognitiveservices/accounts

Activiteitenlogboek

De gekoppelde tabel geeft een overzicht van de bewerkingen die in het activiteitenlogboek voor deze dienst kunnen worden geregistreerd. Deze bewerkingen zijn een deelverzameling van alle mogelijke resource provider-operaties in het activiteitenlogboek.

Voor meer informatie over het schema van activiteitslogboeken, zie Activity Log schema.