Anlam Çekirdeğinde Gözlemlenebilirlik

Gözlemlenebilirliğe kısa bir giriş

Yapay zeka çözümleri oluştururken, hizmetlerinizin davranışını gözlemleyebilmek istersiniz. Gözlemlenebilirlik, dağıtılmış sistem içindeki bileşenlerin iç durumunu izleme ve analiz etme özelliğidir. Kurumsal kullanıma hazır yapay zeka çözümleri oluşturmak için önemli bir gereksinimdir.

Gözlemlenebilirlik genellikle loglama, metrikler ve iz sürme yoluyla sağlanır. Bunlar genellikle gözlemlenebilirliğin üç sütunu olarak adlandırılır. Bu üç sütun tarafından toplanan verileri açıklamak için kullanılan "telemetri" terimini de duyarsınız. Hata ayıklamadan farklı olarak gözlemlenebilirlik, sistemin sistem durumu ve performansı hakkında sürekli bir genel bakış sağlar.

Daha fazla okuma için yararlı malzemeler:

• Cloud Native Computing Foundation tarafından tanımlanan gözlemlenebilirlik
• Dağıtılmış izleme
• .Net'te gözlemlenebilirlik
• OpenTelemetry

Anlam Çekirdeğinde Gözlemlenebilirlik

Semantik Çekirdek, gözlemlenebilir olacak şekilde tasarlanmıştır. OpenTelemetry standardıyla uyumlu günlükler, ölçümler ve izlemeler yayar. Semantik Çekirdek üzerine kurulu hizmetlerinizin davranışını izlemek ve analiz etmek için en sevdiğiniz gözlemlenebilirlik araçlarını kullanabilirsiniz.

Semantik Çekirdek özellikle aşağıdaki gözlemlenebilirlik özelliklerini sağlar:

• Günlüğe kaydetme: Anlam Çekirdeği, çekirdek, çekirdek eklentileri ve işlevlerinin yanı sıra yapay zeka bağlayıcılarından anlamlı olayları ve hataları günlüğe kaydeder.

  Önemli

  Application Insights'taki izlemeler geleneksel günlük girdilerini ve OpenTelemetry span olaylarını temsil eder. Bunlar, dağıtılmış izlerle aynı şey değildir.

• Ölçümler: Anlam Çekirdeği, çekirdek işlevlerinden ve yapay zeka bağlayıcılarından ölçümleri yayar. Çekirdek işlevi yürütme süresi, yapay zeka bağlayıcılarının belirteç tüketimi gibi ölçümleri izleyebilirsiniz.
• İzleme: Anlam Çekirdeği dağıtılmış izlemeyi destekler. Farklı hizmetler genelinde ve Anlam Çekirdeği içinde etkinlikleri izleyebilirsiniz.

Telemetri	Açıklama
Günlük	Günlükler Çekirdek genelinde kaydedilir. .Net'te oturum açma hakkında daha fazla bilgi için lütfen bu belgeye bakın. Çekirdek fonksiyonu argümanları ve sonuçları gibi hassas veriler, iz düzeyinde günlüğe kaydedilir. Log düzeyleri hakkında daha fazla bilgi için lütfen bu tabloya başvurun.
Etkinlik	Her çekirdek işlevi yürütmesi ve yapay zeka modeline yapılan her çağrı etkinlik olarak kaydedilir. Tüm etkinlikler "Microsoft.SemanticKernel" adlı bir etkinlik kaynağı tarafından oluşturulur.
Ölçü birimi	Semantik Çekirdek, çekirdek işlevlerinden aşağıdaki ölçümleri yakalar: semantic_kernel.function.invocation.duration (Histogram) - işlev yürütme süresi (saniye) semantic_kernel.function.streaming.duration (Histogram) - işlev akış yürütme süresi (saniye) semantic_kernel.function.invocation.token_usage.prompt (Histogram) - istem belirteci kullanım sayısı (yalnızca KernelFunctionFromPrompt için) semantic_kernel.function.invocation.token_usage.completion (Histogram) - tamamlama belirteci kullanım sayısı (yalnızca KernelFunctionFromPrompt için)

Telemetri	Açıklama
Günlük	Günlükler Çekirdek genelinde kaydedilir. Python'da günlüğe kaydetme hakkında daha fazla bilgi için lütfen bu belgeye bakın. Çekirdek işlevinin bağımsız değişkenleri ile sonuçları gibi hassas veriler, hata ayıklama düzeyinde günlüğe kaydedilir.
Span	Her otomatik işlev çağırma döngüsü, her çekirdek işlevi yürütmesi ve bir yapay zeka modeline yapılan her çağrı bir yayılma alanı olarak kaydedilir.
Ölçü birimi	Semantik Çekirdek, çekirdek işlevlerinden aşağıdaki ölçümleri yakalar: semantic_kernel.function.invocation.duration (Histogram) - işlev yürütme süresi (saniye) semantic_kernel.function.streaming.duration (Histogram) - işlev akış yürütme süresi (saniye)

Not

Semantik Çekirdek Gözlemlenebilirliği henüz Java için kullanılamıyor.

OpenTelemetry Semantik Kuralı

Semantik Çekirdek, Gözlemlenebilirlik için OpenTelemetry Semantic Convention'u izler. Bu, Anlam Çekirdeği tarafından yayılan günlüklerin, ölçümlerin ve izlemelerin yapılandırıldığı ve ortak bir şemayı izlediği anlamına gelir. Bu, Anlam Çekirdeği tarafından yayılan telemetri verilerini daha etkili bir şekilde analiz etmenizi sağlar.

Not

Şu anda, Üretken Yapay Zeka için Anlam Kuralları deneysel durumdadır. Anlam Çekirdeği, OpenTelemetry Semantic Convention'ı mümkün olduğunca yakından izlemeye ve yapay zeka çözümleri için tutarlı ve anlamlı bir gözlemlenebilirlik deneyimi sağlamaya çalışır.

Sonraki adımlar

Artık Anlam Çekirdeği'nde gözlemlenebilirlik hakkında temel bilgilere sahip olduğunuz için, telemetri verilerini konsola nasıl çıkarabileceğiniz hakkında daha fazla bilgi edinebilir veya telemetri verilerini görselleştirmek ve analiz etmek için APM araçlarını kullanabilirsiniz.

Konsol