Aracılığıyla paylaş

Model kalitesini ve uç nokta durumunu izleme

  • Makale

Mozaik AI Model Sunma, modellerin ve bunların dağıtımlarının kalitesini ve durumunu izlemek için gelişmiş araçlar sağlar. Aşağıdaki tabloda, kullanılabilen her izleme aracına genel bir bakış sunulmaktadır.

Araç Açıklama Amaç Erişim
Hizmet günlükleri stdout Uç noktaya hizmet veren modelden yakalar ve stderr akışlar. Model dağıtımı sırasında hata ayıklama için kullanışlıdır. Günlüklerde anında görüntülemek için kullanın print(..., flush=true) . Sunum kullanıcı arabirimindeki Günlükler sekmesini kullanarak erişilebilir. Günlükler gerçek zamanlı olarak akışla aktarılır ve API aracılığıyla dışarı aktarılabilir.
Derleme günlükleri Model sunum uç noktası için otomatik olarak üretime hazır bir Python ortamı oluşturan işlemin çıkışını görüntüler. Model dağıtımı ve bağımlılık sorunlarını tanılamak için kullanışlıdır. Derlemeyi sunan modelin Tamamlanmasının ardından Günlükler sekmesindeki Derleme günlükleri altında kullanılabilir. Günlükler API aracılığıyla dışarı aktarılabilir.
Uç nokta durumu ölçümleri Gecikme süresi, istek hızı, hata oranı, CPU kullanımı ve bellek kullanımı gibi altyapı ölçümleri hakkında içgörüler sağlar. Hizmet veren altyapının performansını ve durumunu anlamak için önemlidir. Son 14 gün için Sunum Kullanıcı Arabirimi'nde varsayılan olarak kullanılabilir. Veriler gerçek zamanlı olarak gözlemlenebilirlik araçlarına da aktarılabilir.
Çıkarım tabloları Çevrimiçi tahmin isteklerini ve yanıtlarını Unity Kataloğu tarafından yönetilen Delta tablolarında otomatik olarak günlüğe kaydeder. Model kalitesini veya yanıtlarını izlemek ve hata ayıklamak, eğitim veri kümeleri oluşturmak veya uyumluluk denetimleri gerçekleştirmek için bu aracı kullanın. Kullanıcı arabiriminde veya API'de tek tıklamayla mevcut ve yeni model sunan uç noktalar için etkinleştirilebilir.

Ek kaynaklar