Bagikan melalui


Pengamatan dalam Kernel Semantik

Pengantar singkat untuk pengamatan

Saat Anda membangun solusi AI, Anda ingin dapat mengamati perilaku layanan Anda. Pengamatan adalah kemampuan untuk memantau dan menganalisis status internal komponen dalam sistem terdistribusi. Ini adalah persyaratan utama untuk membangun solusi AI siap perusahaan.

Pengamatan biasanya dicapai melalui pengelogan, metrik, dan pelacakan. Mereka sering disebut sebagai tiga pilar pengamatan. Anda juga akan mendengar istilah "telemetri" yang digunakan untuk menggambarkan data yang dikumpulkan oleh tiga pilar ini. Tidak seperti penelusuran kesalahan, pengamatan memberikan gambaran umum yang berkelanjutan tentang kesehatan dan performa sistem.

Bahan yang berguna untuk dibaca lebih lanjut:

Pengamatan dalam Kernel Semantik

Kernel Semantik dirancang agar dapat diamati. Ini memancarkan log, metrik, dan jejak yang kompatibel dengan standar OpenTelemetry. Anda dapat menggunakan alat pengamatan favorit Anda untuk memantau dan menganalisis perilaku layanan Anda yang dibangun di Semantic Kernel.

Secara khusus, Kernel Semantik menyediakan fitur pengamatan berikut:

  • Pengelogan: Kernel Semantik mencatat peristiwa dan kesalahan yang bermakna dari kernel, plugin dan fungsi kernel, serta konektor AI. Log dan peristiwa

    Penting

    Jejak dalam Application Insights mewakili entri log tradisional dan peristiwa rentang OpenTelemetry. Mereka tidak sama dengan jejak terdistribusi.

  • Metrik: Kernel Semantik memancarkan metrik dari fungsi kernel dan konektor AI. Anda akan dapat memantau metrik seperti waktu eksekusi fungsi kernel, konsumsi token konektor AI, dll. Metrik
  • Pelacakan: Semantic Kernel mendukung pelacakan terdistribusi. Anda dapat melacak aktivitas di berbagai layanan dan dalam Kernel Semantik. Menyelesaikan transaksi end-to-end permintaan
telemetri Deskripsi
Catatan Log dicatat di seluruh Kernel. Untuk informasi selengkapnya tentang Pengelogan di .Net, silakan lihat dokumen ini. Data sensitif, seperti argumen dan hasil fungsi kernel, dicatat pada tingkat pelacakan. Silakan merujuk ke tabel ini untuk informasi lebih lanjut tentang tingkat log.
Tinggi Setiap eksekusi fungsi kernel dan setiap panggilan ke model AI dicatat sebagai aktivitas. Semua aktivitas dihasilkan oleh sumber aktivitas bernama "Microsoft.SemanticKernel".
Metrik Kernel Semantik mengambil metrik berikut dari fungsi kernel:
  • semantic_kernel.function.invocation.duration (Histogram) - waktu eksekusi fungsi (dalam detik)
  • semantic_kernel.function.streaming.duration (Histogram) - waktu eksekusi streaming fungsi (dalam detik)
  • semantic_kernel.function.invocation.token_usage.prompt (Histogram) - jumlah penggunaan token prompt (hanya untuk KernelFunctionFromPrompt)
  • semantic_kernel.function.invocation.token_usage.completion (Histogram) - jumlah penggunaan token penyelesaian (hanya untuk KernelFunctionFromPrompt)
telemetri Deskripsi
Catatan Log dicatat di seluruh Kernel. Untuk informasi selengkapnya tentang Pengelogan di Python, silakan lihat dokumen ini. Data sensitif, seperti argumen dan hasil fungsi kernel, dicatat pada tingkat debug.
Jengkal Setiap perulangan pemanggilan fungsi otomatis, setiap eksekusi fungsi kernel, dan setiap panggilan ke model AI dicatat sebagai rentang.
Metrik Kernel Semantik mengambil metrik berikut dari fungsi kernel:
  • semantic_kernel.function.invocation.duration (Histogram) - waktu eksekusi fungsi (dalam detik)
  • semantic_kernel.function.streaming.duration (Histogram) - waktu eksekusi streaming fungsi (dalam detik)

Catatan

Pengamatan Kernel Semantik belum tersedia untuk Java.

Konvensi Semantik OpenTelemetry

Kernel Semantik mengikuti Konvensi Semantik OpenTelemetry untuk Pengamatan. Ini berarti bahwa log, metrik, dan jejak yang dipancarkan oleh Kernel Semantik disusun dan mengikuti skema umum. Ini memastikan bahwa Anda dapat menganalisis data telemetri yang dipancarkan oleh Semantic Kernel secara lebih efektif.

Catatan

Saat ini, Konvensi Semantik untuk AI Generatif berada dalam status eksperimental. Semantic Kernel berusaha untuk mengikuti Konvensi Semantik OpenTelemetry sedekat mungkin, dan memberikan pengalaman pengamatan yang konsisten dan bermakna untuk solusi AI.

Langkah berikutnya

Sekarang setelah Anda memiliki pemahaman dasar tentang pengamatan di Kernel Semantik, Anda dapat mempelajari lebih lanjut tentang cara menghasilkan data telemetri ke konsol atau menggunakan alat APM untuk memvisualisasikan dan menganalisis data telemetri.