OpenAI izleme veri başvurusu (klasik) Azure

Şu anda izleniyor:Foundry (klasik) portal versiyonu - Yeni Foundry portalı için sürüme geç

Bu makale, bu hizmet için tüm izleme referans bilgilerini içermektedir.

Microsoft DökümHane Modellerinde Azure OpenAI için toplayabileceğiniz veriler ve nasıl kullanılacağı hakkında ayrıntılı bilgi için bkz. Monitor Azure OpenAI.

Metrics

Bu bölüm, bu hizmet için otomatik olarak toplanan tüm platform metriklerini listelemektedir. Bu metrikler aynı zamanda Azure İzleyici tarafından desteklenen all platform metriklerinin küresel listesinin bir parçasıdır.

Metrik tutulması hakkında bilgi için bkz. Azure İzleyici Metrikler genel büzezi.

Microsoft için desteklenen metrikler. Bilişsel Hizmetler/hesaplar

Azure OpenAI için en önemli ölçümleri izleyin. Bu makalenin ilerleyen bölümlerinde, bu ad alanı için kullanılabilir tüm ölçümlerin daha uzun bir listesini bulacaksınız. Bu liste, bu daha kısa listedeki ölçümlerle ilgili daha fazla ayrıntı içerir. En up-totarih bilgileri için lütfen aşağıdaki listeye bakın. Azure ekibi, aşağıdaki bölümlerde yer alan tabloları yenilemek için çalışmaktadır.

Important

Bu bölümdeki metrikleri, bu makalenin Latency bölümünde listelenen eski metrikle karıştırmayın. Eski Latency metriki, Azure OpenAI iş yükü için tasarlanmamış ve OpenAI gecikmesini teşhis etmek için kullanıldığında yanıltıcı sonuçlar Azure. OpenAI gecikme izleme Azure için Time to Response (AzureOpenAITimeToResponse), Time to Last Byte (AzureOpenAITTLTInMS), Tokens Arasındaki Zaman (AzureOpenAINormalizedTBTInMS) veya Normalized Time to First Bayt (AzureOpenAINormalizedTTFTInMS) kullanabilirsiniz. Bu metriklerin yorumlanması için rehberlik için Performans ve gecikme bölümünü inceleyebilirsiniz.

  • OpenAI İsteklerini Azure
  • Etkin Belirteçler
  • Oluşturulan Tamamlama Belirteçleri
  • İşlenen İnce Ayarlanmış Eğitim Saatleri
  • İşlenen Çıkarım Tokenları
  • İşlenen İstem Belirteçleri
  • Sağlanan yönetilen Kullanım V2
  • İstem Token Önbellek Eşleşme Oranı
  • Yanıt Süresi
  • Belirteçler Arasındaki Süre
  • Son Bayt Süresi
  • Normalleştirilmiş İlk Bayt Zamanı
  • Saniyede Jeton

Ayrıca, diğer ilgili hizmetlerin kullandığı İçerik Güvenliği ölçümlerini de izleyebilirsiniz.

  • Engellenen Birim
  • Zararlı Hacim Tespit Edildi
  • Potansiyel Kötü Kullanıcı Sayısı
  • Güvenlik Sistemi Etkinliği
  • Güvenlik Kontrolü İçin Gönderilen Toplam Hacim

Note

Provisioned-managed Kullanım metriği artık kullanımdan kaldırılmıştır ve önerilmez. Bu ölçüm, Sağlanan yönetilen Kullanım V2 ölçümüyle değiştirilir. Saniye Başına Belirteç sayısı, Yanıt Süresi ve Belirteçler Arasındaki Süre şu anda Standart dağıtımlarda kullanılamaz.

Hızlı referans: Kullanım senaryolarına göre anahtar metrikler

Bu tabloyu kullanarak belirli bir izleme hedefi için doğru metriki bulun. Bu metriklerin yorumlanmasına dair uçtan uca rehberlik için bkz. Performans ve gecikme.

İzlemek istiyorum... Bu metrik kullanın REST API adı
Genel yanıt süresi Son Bayt Süresi AzureOpenAITTLTInMS
İlk token yanıt verme (akış) Yanıt Süresi AzureOpenAITimeToResponse
Token üretim hızı Belirteçler Arasındaki Süre AzureOpenAINormalizedTBTInMS
İlk token verimliliği, prompt boyutuyla normalleştirilmiş Normalleştirilmiş İlk Bayt Zamanı AzureOpenAINormalizedTTFTInMS
İstek başına çıkış token hacmi Oluşturulan Tamamlama Belirteçleri GeneratedTokens
İstek başına giriş token hacmi İşlenen İstem Belirteçleri ProcessedPromptTokens
PTU kapasite kullanımı Sağlanan yönetilen Kullanım V2 AzureOpenAIProvisionedManagedUtilizationV2
İstek sesi ve hatalar OpenAI İsteklerini Azure AzureOpenAIRequests

Tip

Gecikme süresi ölçümünü her zaman belirteç sayısı ölçümüyle eşleştirin. Karşılık gelen token artışı olmadan gecikme artışı gerçek bir sorunu gösterebilir. Orantılı token artışıyla gecikme artışı beklenen bir davranıştır.

Warning

Bu makalenin ilerleyen bölümlerinde yer alan Bilişsel Hizmetler - HTTP İstekleri eski Bilişsel Hizmetler metrikleridir ve Azure OpenAI iş yükleri için tasarlanmamıştır. Özellikle, bu kategorideki Latency metriği, Azure OpenAI gecikme metrikleriyle aynı değildir (Yanıt Süresi, Son Bayta Kadar Süre, Tokenlar Arasındaki Zaman, Normalize Edilmiş İlk Bayta Kadar). OpenAI sorun giderme Azure için eski Latency metrikini kullanmak yanıltıcı sonuçlar verir. Bunun yerine bu bölümde listelenen Azure OpenAI metriklerini kullanın.

Aşağıdaki tablo, Microsoft için mevcut metrikleri listelemektedir. Bilişsel Hizmetler/hesap kaynak türü.

  • Tüm sütunlar her tabloda olmayabilir.
  • Bazı sütunlar sayfanın izleme alanının dışında olabilir. Tüm mevcut sütunları görmek için Tabloyu Genişlet seçeneğini seçin.

Tablo Başlıkları

  • Kategori - Metrik grubu veya sınıflandırması.
  • Metric - Azure portalında görünen metrik adı.
  • REST API'deki isim - REST API'de referans verilen metrik adı.
  • Birim - Ölçü birimi.
  • Aggregation - Varsayılan toplama türü. Geçerli değerler: Ortalama (Orta), Minimum (Minimum), Maksimum (Max), Toplam (Toplam), Sayı.
  • Boyutlar - Metrik için mevcut boyutlar.
  • Zaman Taneleri - Metrikin örneklendiği aralıklar. Örneğin, PT1M metrikin her dakikada, PT30M her 30 dakikada, PT1H her saatte ve benzeri şekilde örneklendiğini gösterir.
  • DS Dışa Aktarma- Metrikin tanı ayarlarıyla Azure İzleyici Logs'a dışa aktarılabilen olup olmadığı. Ölçütlerin dışa aktarılması hakkında bilgi için bkz. Create diagnostik ayarları Azure İzleyici.

Kategori: Azure OpenAI - HTTP Requests

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Azure OpenAI Kullanılabilirlik Hızı

Erişilebilirlik yüzdesi aşağıdaki hesaplamayla: (Toplam Çağrılar - Sunucu Hataları)/Toplam Arama. Server Hataları, HTTP yanıtlarını >=500 içerir.
AzureOpenAIAvailabilityRate No Yüzde Minimum, Maksimum, Ortalama ApiName, OperationName, Region, , StreamType, ModelDeploymentName, ModelName, ModelVersion PT1M No
Azure OpenAI İstekleri

Bir süre içinde Azure OpenAI API'sine yapılan çağrı sayısı. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir. API isteklerini ayrıştırmak için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDağıtımName, ModelName, ModelVersion, StatusCode (başarılı, istemci hataları, sunucu hataları), IsSpillover (spillover bilgisi için), ServiceTier, StreamType (Streaming vs non-streaming istekleri) ve operasyon.
AzureOpenAIRequests No Sayı Toplam (Miktar) ApiName, OperationName, , Region, StreamType, ModelDeploymentName, ModelName, , ModelVersionStatusCode, IsSpillover, ServiceTierRequest,ServiceTierResponse PT1M Evet

Kategori: Azure OpenAI - Latency

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Token Arasındaki Süre

Yayın talepleri için; model token üretim hızı, milisaniyeler cinsinden ölçülür. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir.
AzureOpenAINormalizedTBTInMS No Milisaniye Maksimum, Minimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Normalize Edilmiş İlk Bayta Kadar Süre

Yayın ve yayın dışı talepler için; Model tarafından talep edildikten sonra ilk bayt yanıt verisinin alınması gereken süre, token ile normalleştirilir. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir.
AzureOpenAINormalizedTTFTInMS No Milisaniye Maksimum, Minimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Yanıt Zamanı

Yayın talepleri için önerilen gecikme (yanıtlanma) ölçütü. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir. API geçidi tarafından ölçüldüğünde, bir kullanıcı bir prompt gönderdikten sonra ilk yanıtın görünmesi için geçen süre olarak hesaplanır. Bu sayı, prompt boyutu arttıkça ve/veya önbellek vuruş boyutu küçüldükçe artar. Yanıt metriğine kadar olan zamanı ayırmak için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName, ModelName ve ModelVersion.

Not: Bu metrik, ölçülen gecikme birden fazla faktöre büyük ölçüde bağlıdır; bunlar arasında eşzamanlı çağrılar ve genel iş yükü deseni de vardır. Ayrıca, istemciniz ile API uç noktası arasında olabilecek herhangi bir istemci tarafı gecikmesini hesaba katmaz. Optimal gecikme takibi için lütfen kendi kayıtlarınıza bakınız.
AzureOpenAITimeToResponse No Milisaniye Minimum, Maksimum, Ortalama ApiName, OperationName, Region, , StreamTypeModelDeploymentNameModelNameModelVersionStatusCode PT1M Evet
Saniyede Jeton

Verilen bir Azure OpenAI model yanıtının üretim hızını sıralar. Üretilen toplam jetonlar, jetonların üretilme süresine saniyeler cinsinden bölünür. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir.
AzureOpenAITokenPerSecond No Sayı Maksimum, Minimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Son Bayt Zamanı

Yayın ve yayın dışı talepler için; Model tarafından talep edildikten sonra yanıt verisinin son baytının alınması gereken süre. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir.
AzureOpenAITTLTInMS No Milisaniye Maksimum, Minimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M Evet

Kategori: Azure OpenAI - Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Etkin Belirteçler

Toplam tokenlar çıkar önbelleklenmiş tokenlar belirli bir süre için. PTU ve PTU tarafından yönetilen dağıtımlar için geçerlidir. Bu ölçütü kullanarak PTU veya TPM tabanlı kullanımınızı anlayın ve senaryolarınız için hedef TPS veya TPM kıyaslamalarınızla karşılaştırın. API isteklerini ayırmak için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName, ModelName ve ModelVersion.
ActiveTokens No Sayı Minimum, Maksimum, Ortalama, Toplam (Toplam) Region, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Ses Tamamlama Tokenları

OpenAI modelinde oluşturulan (çıktı) ses yönlendirme tokenlarının sayısı. PTU tarafından yönetilen ve Öde olarak kullandığın model dağıtımları için geçerlidir.
AudioCompletionTokens No Sayı Toplam (Miktar) ModelDeploymentName, ModelName, ModelVersion, Region PT1M Evet
Ses İstemi Tokenları

Bir OpenAI modelinde işlenen (girdi) sesli prompt tokenlarının sayısı. PTU tarafından yönetilen ve Öde olarak kullandığın model dağıtımları için geçerlidir.
AudioPromptTokens No Sayı Toplam (Miktar) ModelDeploymentName, ModelName, ModelVersion, Region PT1M Evet
İstem Token Önbellek Eşleşme Oranı

Önbelleğe ulaşan prompt tokenlarının yüzdesi. PTU ve PTU tarafından yönetilen dağıtımlar için geçerlidir.
AzureOpenAIContextTokensCacheMatchRate No Yüzde Minimum, Maksimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M No
Sağlanan-yönetilen Kullanım (deprecated)

Kullanım %, (tüketilen PTU'lar / dağıtılan PTU'lar) x 100 olarak hesaplanan bir imkanlı-yönetilen dağıtım için kullanılır. Kullanım 100%'den büyük veya eşit olduğunda, çağrılar kısıtlanır ve hata kodu 429 döner. Bu ölçütünü çözmek için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName, ModelName, ModelVersion ve StreamType (Streaming vs non-streaming isterekleri)
AzureOpenAIProvisionedManagedUtilization No Yüzde Minimum, Maksimum, Ortalama Region, StreamType, ModelDeploymentName, ModelName, , ModelVersion PT1M No
Tahsis Edilmiş Yönetilen Kullanım V2

Kullanım %, (tüketilen PTU'lar / dağıtılan PTU'lar) x 100 olarak hesaplanan bir imkanlı-yönetilen dağıtım için kullanılır. Kullanım 100%'den büyük veya eşit olduğunda, çağrılar kısıtlanır ve hata kodu 429 döner. Bu ölçütünü çözmek için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName, ModelName, ModelVersion ve StreamType (Streaming vs non-streaming isterekleri)
AzureOpenAIProvisionedManagedUtilizationV2 No Yüzde Minimum, Maksimum, Ortalama Region, StreamType, ModelDeploymentName, ModelName, , ModelVersion PT1M No
İşlenen İnce Ayarlanmış Eğitim Saatleri

OpenAI FineTuned modelinde işlenen eğitim saatleri sayısı
FineTunedTrainingHours No Sayı Toplam (Miktar) ApiName, ModelDeploymentName, FeatureName, UsageChannel, , Region PT1M Evet
Oluşturulan Tamamlama Tokenları

OpenAI modelinden üretilen (çıktı) token sayısı. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir. Bu ölçütüğü çözmek için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName ve ModelName.
GeneratedTokens No Sayı Toplam (Miktar) ApiName, ModelDeploymentName, FeatureName, , UsageChannel, Region, ModelVersion PT1M Evet
İşlenen İstem Tokenları

Bir OpenAI modelinde işlenen (girdi) prompt tokenlarının sayısı. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir. Bu ölçütüğü çözmek için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName ve ModelName.
ProcessedPromptTokens No Sayı Toplam (Miktar) ApiName, ModelDeploymentName, FeatureName, , UsageChannel, Region, ModelVersion PT1M Evet
Gerçek zamanlı API Saniyeleri Kullanımı

RealtimeAPI'nin kullanılan saniye sayısı
RealtimeUsageTime No Sayı Toplam (Miktar) Region, ModelDeploymentName PT1M Evet
İşlenen Çıkarım Tokenları

OpenAI modelinde işlenen çıkarım tokenlarının sayısı. İstem belirteçleri (girdi) ve üretilen tokenlar (çıktı) olarak hesaplanır. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir. Bu ölçütüğü çözmek için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName ve ModelName.
TokenTransaction No Sayı Toplam (Miktar) ApiName, ModelDeploymentName, FeatureName, , UsageChannel, Region, ModelVersion PT1M Evet

Kategori: Bilişsel Hizmetler - HTTP İstekleri

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Engellenen Aramalar

Oran veya kota sınırını aşan çağrı sayısı. Azure OpenAI servisini kullanmayın.
BlockedCalls No Sayı Toplam (Miktar) ApiName, OperationName, Region, RatelimitKey PT1M Evet
İstemci Hataları

İstemci tarafı hatalı çağrı sayısı (HTTP yanıt kodu 4xx). Azure OpenAI servisini kullanmayın.
ClientErrors No Sayı Toplam (Miktar) ApiName, OperationName, Region, RatelimitKey PT1M Evet
Veri Girişi

Gelen verilerin bayt cinsinden boyutu. Azure OpenAI servisini kullanmayın.
DataIn No Bytes Toplam (Miktar) ApiName, OperationName, Region PT1M Evet
Veri Çıkışı

Giden verinin bayt cinsinden boyutu. Azure OpenAI servisini kullanmayın.
DataOut No Bytes Toplam (Miktar) ApiName, OperationName, Region PT1M Evet
Gecikme

Gecikme milisaniyelerde. Azure OpenAI servisini kullanmayın.
Latency No Milisaniye Ortalama ApiName, OperationName, Region, RatelimitKey PT1M Evet
Ratelimit

Tarife sınırı anahtarının mevcut oran sınırı. Azure OpenAI servisini kullanmayın.
Ratelimit No Sayı Toplam (Miktar) Region, RatelimitKey PT1M Evet
Sunucu Hataları

Hizmet içi hatalı çağrı sayısı (HTTP yanıt kodu 5xx). Azure OpenAI servisini kullanmayın.
ServerErrors No Sayı Toplam (Miktar) ApiName, OperationName, Region, RatelimitKey PT1M Evet
Başarılı Çağrılar

Başarılı arama sayısı. Azure OpenAI servisini kullanmayın.
SuccessfulCalls No Sayı Toplam (Miktar) ApiName, OperationName, Region, RatelimitKey PT1M Evet
Toplam Çağrı Sayısı

Toplam arama sayısı. Azure OpenAI servisini kullanmayın.
TotalCalls No Sayı Toplam (Miktar) ApiName, OperationName, Region, RatelimitKey PT1M Evet
Toplam Hata Sayısı

Hata yanıtlı çağrıların toplam sayısı (HTTP yanıt kodu 4xx veya 5xx). Azure OpenAI servisini kullanmayın.
TotalErrors No Sayı Toplam (Miktar) ApiName, OperationName, Region, RatelimitKey PT1M Evet
Toplam Token Çağrıları

Toplam token çağrı sayısı.
TotalTokenCalls No Sayı Toplam (Miktar) ApiName, OperationName, Region PT1M Evet

Kategori: Bilişsel Hizmetler - SLI

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Kullanılabilirlik Hızı

Erişilebilirlik yüzdesi aşağıdaki hesaplamayla: (Toplam Çağrılar - Sunucu Hataları)/Toplam Arama. Server Hataları, HTTP yanıtlarını >=500 içerir. Azure OpenAI servisini kullanmayın.
SuccessRate No Yüzde Minimum, Maksimum, Ortalama ApiName, OperationName, Region, RatelimitKey PT1M No

Kategori: İçerik Anlama - Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Yüz Tanıma İşlemleri

Face servisine yapılan API çağrılarının sayısı
FaceApiTransactions No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Ses Dakikaları

Dakikalık ses işlendi
ProcessedAudioMinutes No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Sayfalar

İşlenen belge sayfa sayısı
ProcessedDocumentPages No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Görüntüler

İşlenen görüntü sayısı
ProcessedImageCount No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Video Dakikaları

Dakikalık video işlendi
ProcessedVideoMinutes No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Belirteçler

Tüketilen jeton sayısı
Tokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet

Kategori: İçerikGüvenlik - Riskler ve Güvenlik

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Zararlı Hacim Tespit Edildi

Azure OpenAI API'ye yapılan ve bir süre içinde uygulanan içerik filtresi tarafından zararlı olarak tespit edilen çağrıların sayısı (hem blok modeli hem de annotasyon modu). Bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDağıtımAdı, ModelAdı ve Metin Tipi.
RAIHarmfulRequests No Sayı Toplam (Miktar) Region, ModelDeploymentName, ModelName, , ModelVersionApiNameTextTypeCategorySeverity PT1M Evet
Engellenen Birim

Azure OpenAI API'sine yapılan ve bir süre içinde uygulanan içerik filtresi tarafından reddedilen çağrıların sayısı. Bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDağıtımAdı, ModelAdı ve Metin Tipi.
RAIRejectedRequests No Sayı Toplam (Miktar) Region, ModelDeploymentName, ModelName, , ModelVersion, ApiName, TextType, Category PT1M Evet
Güvenlik Sistemi Etkinliği

Risk ve güvenlik izleme için sistem etkinliği. Bir filtre ekleyebilir veya aşağıdaki boyuta göre bölme uygulayabilirsiniz: EventType.
RAISystemEvent No Sayı Ortalama Region, EventType PT1M Evet
Güvenlik Kontrolü İçin Gönderilen Toplam Hacim

Azure OpenAI API'sine yapılan ve bir süre içinde uygulanan içerik filtresiyle tespit edilen çağrı sayısı. Bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDağıtımAdı, ModelAdı.
RAITotalRequests No Sayı Toplam (Miktar) Region, ModelDeploymentName, ModelName, ModelVersion, , ApiName PT1M Evet

Kategori: ContentSafety - Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Görüntü Moderasyonu için Çağrı Sayısı

Görüntü moderasyonu için yapılan çağrı sayısı.
ContentSafetyImageAnalyzeRequestCount No Sayı Toplam (Miktar) ApiVersion PT1M Evet
Mesaj Moderasyonu için Çağrı Sayısı

Metin moderasyonu için yapılan çağrı sayısı.
ContentSafetyTextAnalyzeRequestCount No Sayı Toplam (Miktar) ApiVersion PT1M Evet

Kategori: Dil - İşler

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
İş Süresi (Önizleme)

Not: Bu değer büyük ölçüde giriş boyutuna, belge sayısına ve görevin karmaşıklığına bağlıdır. Bu, tüm iş görevleri için toplam bir değerdir.
JobDuration No Milisaniye Minimum, Maksimum, Ortalama JobStatus, JobType PT1M Evet

Kategori: Modeller - HTTP İstekleri

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Model Kullanılabilirlik Oranı

Erişilebilirlik yüzdesi aşağıdaki hesaplamayla: (Toplam Çağrılar - Sunucu Hataları)/Toplam Arama. Server Hataları, HTTP yanıtlarını >=500 içerir.
ModelAvailabilityRate No Yüzde Minimum, Maksimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M No
Model İstekleri

Model API'sine yapılan çağrı sayısı, belirli bir süre içinde yapılır. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
ModelRequests No Sayı Toplam (Miktar) ApiName, OperationName, , Region, StreamType, ModelDeploymentName, ModelName, , ModelVersionStatusCode, IsSpillover, ServiceTierRequest,ServiceTierResponse PT1M Evet

Kategori: Modeller - Gecikme

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Jetonlar Arasındaki Süre

Model token üretim hızı, milisaniyeler cinsinden ölçülür. PTU ve PTU tarafından yönetilen dağıtımlar için geçerlidir. Yayın dışı talepler için bu değer bir tahmindir.
NormalizedTimeBetweenTokens No Milisaniye Maksimum, Minimum, Ortalama ApiName, OperationName, Region, , StreamType, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Normalize Edilmiş İlk Bayta Kadar Süre

Talep edildikten sonra ilk bayt yanıt verisinin alınması için geçen süre, model tarafından normalleştirilir ve token ile normalleştirilir. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir. Yayın dışı talepler için bu değer bir tahmindir.
NormalizedTimeToFirstToken No Milisaniye Maksimum, Minimum, Ortalama ApiName, OperationName, Region, , StreamType, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Son Bayt Zamanı

Model tarafından talep edildikten sonra yanıt verisinin son baytının alınması gereken süre. PTU, PTU tarafından yönetilen ve Öde gibi dağıtımlar için geçerlidir. Yayın dışı talepler için bu değer bir tahmindir.
TimeToLastByte No Milisaniye Maksimum, Minimum, Ortalama ApiName, OperationName, Region, , StreamType, ModelDeploymentName, ModelName, ModelVersion PT1M Evet
Yanıt Zamanı

Önerilen gecikme (yanıtlanma) ölçümü. PTU ve PTU tarafından yönetilen dağıtımlar için geçerlidir. API geçidi tarafından ölçüldüğünde, bir kullanıcı bir prompt gönderdikten sonra ilk yanıtın görünmesi için geçen süre olarak hesaplanır. Bu sayı, prompt boyutu arttıkça ve/veya önbellek vuruş boyutu küçüldükçe artar. Yanıt metriğine kadar olan zamanı ayırmak için bir filtre ekleyebilir veya aşağıdaki boyutlara göre bölme uygulayabilirsiniz: ModelDeploymentName, ModelName ve ModelVersion.

Not: Bu metrik, ölçülen gecikme birden fazla faktöre büyük ölçüde bağlıdır; bunlar arasında eşzamanlı çağrılar ve genel iş yükü deseni de vardır. Ayrıca, istemciniz ile API uç noktası arasında olabilecek herhangi bir istemci tarafı gecikmesini hesaba katmaz. Yayın dışı talepler için bu değer bir tahmindir. Optimal gecikme takibi için lütfen kendi kayıtlarınıza bakınız.
TimeToResponse No Milisaniye Minimum, Maksimum, Ortalama ApiName, OperationName, Region, , StreamTypeModelDeploymentNameModelNameModelVersionStatusCode PT1M Evet
Saniyede Jeton

Verilen bir model yanıtı için üretim hızını sayar. Üretilen toplam jetonlar, jetonların üretilme süresine saniyeler cinsinden bölünür. PTU ve PTU tarafından yönetilen dağıtımlar için geçerlidir. Yayın dışı talepler için bu değer bir tahmindir.
TokensPerSecond No Sayı Maksimum, Minimum, Ortalama ApiName, OperationName, Region, , StreamType, ModelDeploymentName, ModelName, ModelVersion PT1M Evet

Kategori: Modeller - Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Ek Açıklamalı Sayfalar

Açıklamalarla işlenen toplam sayfa sayısı. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
AnnotatedPages No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Evet
Ses Giriş Tokenları

Bir OpenAI modelinde işlenen (girdi) sesli prompt tokenlarının sayısı. PTU tarafından yönetilen model dağıtımları için geçerlidir.
AudioInputTokens No Sayı Toplam (Miktar) ModelDeploymentName, ModelName, ModelVersion, Region PT1M Evet
Ses Çıkış Tokenları

OpenAI modelinde oluşturulan (çıktı) ses yönlendirme tokenlarının sayısı. PTU tarafından yönetilen model dağıtımları için geçerlidir.
AudioOutputTokens No Sayı Toplam (Miktar) ModelDeploymentName, ModelName, ModelVersion, Region PT1M Evet
Önbellekten okunan prompt token'ları

Önbellekten okunan toplam token sayısı. Anthropic model dağıtımları için geçerlidir. Yanıt kullanım bölümünde şu şekilde ortaya çıktı cache_read_input_tokens
cacheReadInputTokens No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, , ModelName, ModelVersion, ContextLength PT1M Evet
Önbelleğe yazılmış prompt token'lar (1 saat TTL)

1 saatlik girişi oluşturmak için kullanılan prompt tokenlarının sayısı. Anthropic model dağıtımları için geçerlidir. Yanıt kullanım bölümünde şu şekilde ortaya çıktı cache_creation.ephemeral_1h_input_tokens
ephemeral1hInputTokens No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, , ModelName, ModelVersion, ContextLength PT1M Evet
Önbelleğe yazılmış prompt token'lar (5 dakikalık TTL)

5 dakikalık önbellek girişini oluşturmak için kullanılan prompt token'larının sayısı. Anthropic model dağıtımları için geçerlidir. Yanıt kullanım bölümünde şu şekilde ortaya çıktı cache_creation.ephemeral_5m_input_tokens
ephemeral5mInputTokens No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, , ModelName, ModelVersion, ContextLength PT1M Evet
Oluşturulan Görüntüler

Oluşturulan toplam görüntü sayısı. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
GeneratedImages No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Evet
Giriş Belirteçleri

Bir modelde işlenen (girdi) prompt tokenlarının sayısı. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
InputTokens No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Evet
Çıkış Belirteçleri

OpenAI modelinden üretilen (çıktı) token sayısı. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
OutputTokens No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Evet
Sağlanan Kullanım

Kullanım %, (tüketilen PTU'lar / dağıtılan PTU'lar) x 100 olarak hesaplanan bir imkanlı-yönetilen dağıtım için kullanılır. Kullanım 100%'den büyük veya eşit olduğunda, çağrılar kısıtlanır ve hata kodu 429 döner.
ProvisionedUtilization No Yüzde Minimum, Maksimum, Ortalama Region, ModelDeploymentName, ModelName, ModelVersion PT1M No
Toplam Sayfa Sayısı

İşlenen toplam sayfa sayısı. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
TotalPages No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Evet
Toplam Belirteç sayısı

Bir modelde işlenen çıkarım tokenlarının sayısı. İstem belirteçleri (girdi) ve üretilen tokenlar (çıktı) olarak hesaplanır. PTU, PTU-Managed ve Öde olarak görevlendirmeler için geçerlidir.
TotalTokens No Sayı Toplam (Miktar) ApiName, Region, ModelDeploymentName, ModelName, , ModelVersion PT1M Evet

Kategori: SpeechServices - Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Ses Saniyeleri Toplu Transkripsiyonu

Parti yazısı saniye sayısı
AudioSecondsBatchTranscribed No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Saniyeleri Toplu Fısıltı Transkribe Edildi

Batch whisper saniye sayısı transkripsiyon
AudioSecondsBatchWhisperTranscribed No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Saniyeler Hızlı Aktarıldı

Hızlı transkribe edilen saniye sayısı
AudioSecondsFastTranscribed No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Saniyeler Hızlı Fısıltı Yazısı

Hızlı fısıltılı saniye sayısı transkribe edildi
AudioSecondsFastWhisperTranscribed No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Saniyeleri Aktarıldı

Transkripsiyon sayısı
AudioSecondsTranscribed No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Saniyeleri Çevrildi

Çevirilmiş saniye sayısı
AudioSecondsTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Avatar Modeli İkinci Sınıfı Barındırıyor

Saniye sayısı.
AvatarModelHostingSeconds No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Avatar Model Eğitim Saniyeleri

Saniye sayısı.
AvatarModelTrainingSeconds No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Konuşma Modeli Sunuculuk Saatleri

Konuşma modeli sunucu saatlerinin sayısı
SpeechModelHostingHours No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Birleştirilmiş Karakterler

Karakter sayısı.
SynthesizedCharacters No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Video Saniyeleri Sentezlendi

Sentezlenen saniye sayısı
VideoSecondsSynthesized No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Sesli Canlı Ses Giriş Tokenları

Ses giriş tokenlarının sayısı, önbelleklenmiş tokenlar hariç.
VoiceLiveAudioInputTokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Sesli Canlı Ses Çıkış Tokenları

Ses çıkış jeton sayısı.
VoiceLiveAudioOutputTokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Voice Live Cache Ses Giriş Tokenları

Önbelleğe alınan ses giriş tokenlarının sayısı.
VoiceLiveCachedAudioInputTokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Voice Live Cache Metin Giriş Token'ları

Önbelleklenmiş metin giriş tokenlarının sayısı.
VoiceLiveCachedTextInputTokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Sesli Canlı Metin Giriş Tokenları

Metin giriş belirtekonlarının sayısı, önbelleklenmiş tokenlar hariç.
VoiceLiveTextInputTokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Sesli Canlı Metin Çıkış Tokenları

Metin çıkış tokenlarının sayısı.
VoiceLiveTextOutputTokens No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Modeli Sunuculuk Saatleri

Saat sayısı.
VoiceModelHostingHours No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Ses Modeli Eğitim Dakikaları

Dakika sayısı.
VoiceModelTrainingMinutes No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet

Kategori: Çevirici Hizmetler - Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Çevrilmiş Belge Karakterleri

Belge çeviri talebindeki karakter sayısı.
DocumentCharactersTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Belge Özel Karakterler Çevrildi

Özel belge çeviri isteğinde karakter sayısı.
DocumentCustomCharactersTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Belge Senkronizasyonu Karakterleri Çevrildi

Belge çevirisindeki (eşzamanlı) karakter sayısı.
OneDocumentCharactersTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Belge Senkronizasyonu Özel Karakterler Çevrildi

Özel belge çevirisi (senkron) isteğinde karakter sayısı.
OneDocumentCustomCharactersTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Metin Karakterleri Çevrildi

Gelen metin çeviri isteğindeki karakter sayısı.
TextCharactersTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Metin Özel Karakterler Çevrildi

Gelen özel metin çeviri isteğindeki karakter sayısı.
TextCustomCharactersTranslated No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Metin Eğitimli Karakterler

Metin çevirisi kullanılarak eğitilen karakter sayısı.
TextTrainedCharacters No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Translator Pro Uygulaması Seconds

Translator Pro Uygulaması kullanım süresi saniye.
TranslatorProAppSeconds No Seconds Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet

Kategori: Kullanım

Metric REST API'de isim Gelişmiş platform ölçümleri Unit Aggregation Dimensions Zaman Granülleri DS İhracat
Görüntü İşleme İşlemler

Görüntü İşleme İşlem Sayısı
ComputerVisionTransactions No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Özel Vizyon Eğitim Süresi

Özel Vizyon eğitim süresi
CustomVisionTrainingTime No Seconds Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Özel Vizyon İşlemleri

Custom Vision tahmin işlemlerinin sayısı
CustomVisionTransactions No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Yüz Görüntüleri Eğitimi

Eğitilen görüntü sayısı. Her işlem için 1.000 resim eğitilir.
FaceImagesTrained No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Depolanan Yüzler

Depolanan yüz sayısı, günlük oranı olarak ölçülüyor. Depolanan yüz sayısı günlük olarak rapor edilir.
FacesStored No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Yüz Tanıma İşlemleri

Face servisine yapılan API çağrılarının sayısı
FaceTransactions No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Depolanan Görüntüler

Saklanan Custom Vision görüntü sayısı.
ImagesStored No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Öğrenilen Olaylar

Öğrenilen Olayların Sayısı.
LearnedEvents No Sayı Toplam (Miktar) IsMatchBaseline, Mode, RunId PT1M Evet
LUIS Konuşma Talepleri

LUIS konuşmadan niyete anlama taleplerinin sayısı
LUISSpeechRequests No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
LUIS Metin İstekleri

LUIS metin isteği sayısı
LUISTextRequests No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Eşleştirilen Ödüller

Eşleşen Ödüller Sayısı.
MatchedRewards No Sayı Toplam (Miktar) Mode, RunId PT1M Evet
Aktif Olmayan Etkinlikler

Atlanan etkinlik sayısı.
NonActivatedEvents No Sayı Toplam (Miktar) Mode, RunId PT1M Evet
Gözlemlenen Ödüller

Gözlemlenen Ödüller Sayısı.
ObservedRewards No Sayı Toplam (Miktar) Mode, RunId PT1M Evet
İşlenen Karakterler

Immersive Reader tarafından işlenen karakter sayısı.
ProcessedCharacters No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Sağlık Metin Kayıtları

İşlenen sağlık metin kayıtlarının sayısı
ProcessedHealthTextRecords No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Görüntüler

İşlenen görüntü sayısı
ProcessedImages No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Sayfalar

İşlenen sayfa sayısı
ProcessedPages No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
İşlenen Metin Kayıtları

Metin kayıtlarının sayımı.
ProcessedTextRecords No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
QA Metin Kayıtları

İşlenen metin kayıt sayısı
QuestionAnsweringTextRecords No Sayı Toplam (Miktar) ApiName, FeatureName, UsageChannel, Region PT1M Evet
Toplam Olay Sayısı

Etkinlik sayısı.
TotalEvents No Sayı Toplam (Miktar) Mode, RunId PT1M Evet
Toplam İşlemler (Kullanımdan Kaldırıldı)

Toplam işlem sayısı.
TotalTransactions No Sayı Toplam (Miktar) <Hiçbiri> PT1M Evet

Ölçüm boyutları

Metrik boyutların ne olduğu hakkında bilgi için bkz. Çok boyutlu metrikler.

Bu hizmetin metrikleriyle ilişkili aşağıdaki boyutlar vardır.

  • ApiName
  • Özellik Adı
  • ModelDeploymentName
  • Model Adı
  • ModelVersion
  • Operasyon İsmi
  • Bölge
  • Durum Kodu
  • StreamType
  • KullanımChannel

Kaynak günlükleri

Bu bölüm, bu hizmet için toplanabileceğiniz kaynak kayıtları türlerini listeler. Bu bölüm, Azure İzleyici içinde desteklenen all kaynak kayıtları kategori türleri listesinden çekilir.

Microsoft için desteklenen kaynak kayıtları. Bilişsel Hizmetler/hesaplar

Kategori İhracat maliyetleri logaritma tablosu Temel log planını destekler Alım zamanı dönüşümünü destekler Örnek sorgular
Audit No AzureDiagnostics

Birden fazla Azure kaynağından kayıtlar.

No No
AzureOpenAIRequestUsage Evet AzureDiagnostics

Birden fazla Azure kaynağından kayıtlar.

No No
ManagedNetworkEvent Evet AzureDiagnostics

Birden fazla Azure kaynağından kayıtlar.

No No
RequestResponse No AzureDiagnostics

Birden fazla Azure kaynağından kayıtlar.

No No
İzleme No AzureDiagnostics

Birden fazla Azure kaynağından kayıtlar.

No No

Azure İzleyici Günlükleri tabloları

Bu bölüm, bu hizmetle ilgili Azure İzleyici Logs tablolarını listeler; bunlar Log Analytics tarafından Kusto sorguları kullanılarak sorgulanabilir. Tablolar, toplanan ve yönlendirilen verilere bağlı olarak kaynak kayıt verileri ve muhtemelen daha fazlasını içerir.

OpenAI microsoft.cognitiveservices/accounts Azure

Etkinlik günlüğü

Bağlantılı tablo, bu hizmetin faaliyet günlüğüne kaydedilebilecek işlemleri listeler. Bu işlemler, faaliyet günlüğündeki tüm olası kaynak sağlayıcı işlemlerinin bir alt kümesidir.

Etkinlik günlüğü girişlerinin şeması hakkında daha fazla bilgi için Etkinlik Günlüğü şemasına bakınız.