İzleme ve veri işleme

Foundry izleme, Microsoft Foundry'de AI aracılarına ait Müşteri Verilerini yakalayan bir gözlemlenebilirlik özelliğidir. Geliştiricilerin ve operatörlerin sistem davranışını anlamasına, sorunları ayıklamalarına ve performansı iyileştirmelerine yardımcı olur.

İzleme, aşağıdakiler gibi bilgileri kaydeder:

  • Kullanıcı girişleri ve istemleri
  • Ajan ve model girişleri ve çıkışları
  • Araç çağrıları ve ara adımlar
  • Yürütme meta verileri (zaman damgaları, gecikme süresi, belirteç kullanımı, hatalar vb.)

Bu veriler, kullanıcı tarafından oluşturulan içeriği ve işletimsel telemetriyi içerebilir.

Bu veriler aracıların nasıl çalıştığına ilişkin görünürlük sağlamak için kullanılır ve aracı iş akışlarında sorun giderme ve performans geliştirmeleri sağlar. Foundry, OpenTelemetry standartlarını kullanır ve izleme verilerini Application Insights Azure İzleyici bağlı telemetri sistemlerinde depolar.

Important

Bir proje için AppInsights'ı etkinleştirdiğinizde, AppInsights aracılarla kullanıcı düzeyinde etkileşimleri izlemeye ve değerlendirmeye yardımcı olmak için izlemeleri günlüğe kaydeder. AppInsights'ta Log Analytics Okuyucu rolüne sahip Project üyeler, kişisel veriler ve müşteri içeriği içerebilen izleme verilerini görüntüleyebilir. Temeldeki Log Analytics tabloları korunuyorsa (koruma düzeyleri Protected olarak ayarlanmışsa), üyelerin bu iz verilerini görüntülemek için Privileged Monitoring Data Reader rolüne sahip olması gerekir. Hangi izleme verilerinin toplandığını ve bu verileri kimlerin görüntüleyip kullanabileceğini gözden geçirin. Daha fazla bilgi aşağıdaki bölümdedir.

Varsayılan durum:

  • İzleme varsayılan olarak kapalıdır.
  • DökümHane Hesabı Sahibi veya DökümHane Sahibi tarafından açıkça etkinleştirilmediği sürece hiçbir izleme verisi toplanmaz veya depolanmaz.

Ek Azure İzleyici App Insights fiyatlandırması uygulanabilir.

Bu, müşterilerin veri toplamanın ne zaman başladığını denetlemesini sağlar.

İzlemeyi etkinleştir

proje bir Azure İzleyici Application Insights kaynağına bağlandığında izleme etkinleştirilir. Yaygın etkinleştirme akışları şunlardır:

  • Proje oluşturma sırasında Application Insights kaynağı oluşturma veya bağlama.
  • Application Insights kaynağı bağlı olmayan mevcut bir proje için bir Application Insights kaynağı oluşturma veya bağlama.

İzlemeyi etkinleştirdiğinizde:

  • İzleme verileri projedeki tüm aracılar için toplanmaya ve depolanmaya başlar.
  • Foundry Tracing kullanıcı arabiriminde izleri görüntülemek için kullanıcıların Foundry projesine erişimlerinin olması ve bağlı Application Insights veya Log Analytics çalışma alanında okuma iznine sahip olmaları gerekir. Örneğin, Application Insights kaynağında, Log Analytics çalışma alanında veya uygun bir üst kapsamda Log Analytics Okuyucusu, İzleme Okuyucusu ya da Okuyucu gibi roller bu erişimi sağlayabilir. Temelindeki Log Analytics tabloları korunuyorsa, atanan kişilerin de bu verileri okumak için Privileged Monitoring Data Reader rolüne sahip olması gerekir.

İzlemeyi devre dışı bırakma

İzlemeyi devre dışı bırakmak için:

  • Application Insights kaynağının bağlantısını kesme veya kaldırma.

İzlemeyi devre dışı bırakdıktan sonra:

  • Bu projedeki aracılar üzerinde yeni izleme verileri toplanmaz.
  • Daha önce toplanan veriler Application Insights'ın bekletme ilkelerine tabidir.

Uyarı

İzlemeyi devre dışı bırakmayla ilgili tam adımlar kullanıcı arabirimine veya SDK yüzeyine bağlıdır ve ürün belgeleriyle uyumlu olmalıdır.

Verilerin depolandığı yer

  • Foundry projesine bağlı Application Insights kaynağı izleme verilerini depolar.
  • Application Insights ve Log Analytics yapılandırmanız veri saklamayı ve depolamayı yönetir. Daha fazla bilgi için bkz . Log Analytics çalışma alanında veri saklamayı yönetme.

Veri paylaşımında dikkat edilmesi gerekenler

  • İzleme verilerine bağlı telemetri kaynağı üzerinde uygun izinlere sahip kullanıcılar erişebilir.
  • Yapılandırmaya bağlı olarak, aynı proje veya kiracıdaki kullanıcılar verileri görebilir.
  • Foundry Tracing kullanıcı arabiriminde izlemeleri görüntülemek için kullanıcıların Foundry projesine erişimi ve bağlı Application Insights veya Log Analytics çalışma alanında okuma izni olması gerekir. Örneğin, Application Insights kaynağında, Log Analytics çalışma alanında veya uygun bir üst kapsamda Log Analytics Okuyucusu, İzleme Okuyucusu ya da Okuyucu gibi roller bu erişimi sağlayabilir. Log Analytics'in temelindeki tablolar korunuyorsa, görevlendirilenlerin bu verileri okuyabilmesi için Privileged Monitoring Data Reader rolüne de sahip olması gerekir.
  • Barındırılan aracılara özgü ek konular ve önemli bilgiler için barındırılan aracıları ve barındırılan aracının platform tarafından eklenen ortam değişkenlerini gözden geçirin.

Müşteriler erişim denetimlerini yapılandırmak ve kuruluş ilkeleriyle uyumluluğu sağlamakla sorumludur.

Gizlilik

İzleme, aşağıdakiler dahil olmak üzere kişisel verileri yakalayabilir:

  • Kullanıcı istemleri ve yanıtları
  • Uygulamaya özgü içerik

En iyi uygulamalar

  • Gizli bilgileri, kimlik bilgilerini veya belirteçleri günlüğe kaydetmekten kaçının.
  • Kişisel verileri günlüğe kaydedilmeden önce yeniden işlemden geçirme veya en aza indirme.
  • Verileri izlemek için erişim denetimleri ve bekletme ilkeleri uygulayın.

Veri koruma denetimleri

  • Kişisel verilerin gizlenmesi: E-posta adresleri ve telefon numaraları gibi kişisel verileri gizleyin.
  • Hangi kullanıcılara RBAC Log Analytics Okuyucu rolü verildiğini dikkatle yöneterek izleme verilerine erişimi kısıtlayın. Temelindeki Log Analytics tabloları korunduğunda, Privileged Monitoring Data Reader rolüne kimlerin sahip olduğunu da yönetin; çünkü bu rol, korumalı tablolara okuma erişimi verir.
  • Yapılandırılabilir ilkeler: Hangi verilerin yakalandığını ve görünür olduğunu denetleyin.

Bu denetimler riski yönetmenize ve gizlilik gereksinimlerine uymanıza yardımcı olur.

Müşteri sorumlulukları

İzlemeyi etkinleştirdiğinizde, şu işlemden siz sorumlusunuz:

  • Toplanan veri türleri, amaç, görünürlüğü olan kişiler, seçenekleri ve makul seçimler yapmaları için gereken diğer bilgiler (uygun olduğunda) dahil olmak üzere veri toplama hakkında son kullanıcıları bilgilendirme.
  • Gizlilik, yasal ve mevzuat gereksinimleriyle uyumluluğu sağlama.
  • Uygun erişim denetimlerini ve veri saklama ilkelerini yapılandırma.

Summary

Dökümhane İzleme, yapay zeka aracılarının hata ayıklamasını, izlenmesini ve iyileştirilmesini sağlayan güçlü bir gözlemlenebilirlik özelliğidir. Şu şekildedir:

  • Varsayılan olarak kapalı.
  • Telemetri kaynakları bağlanılarak açıkça etkinleştirilir.
  • Verilerin toplanması ve işlenmesi üzerinde müşteri kontrolü sağlayacak şekilde tasarlanmıştır.