Pantau aplikasi AI generatif Anda (pratinjau)

Penting

Item-item yang ditandai (pratinjau) dalam artikel ini saat ini sedang berada dalam pratinjau publik. Pratinjau ini disediakan tanpa kesepakatan tingkat layanan, dan kami tidak merekomendasikannya untuk penggunaan dalam lingkungan produksi. Fitur tertentu mungkin tidak didukung atau mungkin memiliki kemampuan terbatas. Untuk informasi lebih lanjut, lihat Supplemental Terms of Use for Microsoft Azure Previews.

Memantau aplikasi AI generatif Anda tidak pernah lebih penting, karena kompleksitas dan perkembangan industri AI yang cepat. Azure AI Foundry Observability, yang terintegrasi dengan Azure Monitor Application Insights, memungkinkan Anda untuk terus memantau aplikasi AI yang disebarkan untuk memastikan bahwa aplikasi tersebut berkinerja, aman, dan menghasilkan hasil berkualitas tinggi dalam produksi. Selain kemampuan pemantauan berkelanjutan, kami juga menyediakan kemampuan evaluasi berkelanjutan untuk Agen guna lebih meningkatkan dasbor Foundry Observability dengan memberikan visibilitas terhadap metrik kualitas dan keamanan yang sangat penting.

Nota

Anda harus menggunakan proyek Foundry untuk fitur ini. Proyek berbasis hub tidak didukung. Lihat Bagaimana cara mengetahui jenis proyek mana yang saya miliki? dan Membuat proyek Foundry.

Cara mengaktifkan pemantauan

Untuk menggunakan kemampuan pemantauan di Azure AI Foundry, Anda perlu menyambungkan sumber daya Application Insights ke proyek Azure AI Foundry Anda.

1. Navigasi ke Pemantauan di panel navigasi kiri portal Azure AI Foundry.
2. Pilih tab Analitik aplikasi .
3. Buat sumber daya Application Insights baru jika Anda belum memilikinya.
4. Sambungkan sumber daya ke proyek AI Foundry Anda.

Mengumpulkan data produksi untuk pemantauan

Dari sini, Anda ingin mulai mengumpulkan telemetri untuk aplikasi yang dapat Anda pantau dalam tampilan bawaan kami. Untuk melakukan ini, kami sarankan:

• Pelacakan instrumenting memungkinkan Anda mengambil data telemetri terperinci dari aplikasi Anda. Data ini memberikan wawasan tentang performa, latensi, dan perilaku aplikasi Anda dalam produksi.

• Evaluasi berkelanjutan membantu memantau kualitas dan keamanan agen Anda dalam produksi dengan menilai outputnya terhadap metrik dan ambang batas yang telah ditentukan sebelumnya.

Menampilkan hasil pemantauan

Di portal Azure AI Foundry, tampilan dasbor Analitik aplikasi menggunakan sinyal dari Azure Monitor Application Insights, mengkuerinya melalui Azure Workbooks dan membuat visualisasi.

Tampilan ini dirancang untuk membawa metrik utama - konsumsi token, latensi, pengecualian, kualitas respons ke dalam satu panel kaca yang memberikan transparansi kepada tim untuk melacak kesehatan dan kualitas operasional, memahami tren, dan menilai terus menerus untuk meningkatkan aplikasi mereka.

Ikuti langkah-langkah ini untuk mengakses dan menggunakan tampilan pemantauan bawaan di Proyek AI Foundry Anda:

1. Navigasi ke Proyek AI Foundry Anda di portal Azure AI Foundry.
2. Pilih Pemantauan dari panel navigasi kiri.
3. Di bawah tab Analitik aplikasi, tinjau gambaran umum kesehatan aplikasi Anda.
4. Gunakan filter untuk menentukan rentang waktu, aplikasi, dan/atau model untuk mengekstrak wawasan terperinci.
5. Jika Anda melihat masalah, seperti menurunnya metrik kualitas, pergi ke Menelusuri untuk mendebug masalah di aplikasi Anda.
6. Untuk menyesuaikan pengalaman pemantauan Anda lebih lanjut dan menggunakan kemampuan tingkat lanjut di Azure Monitor, gulir ke bagian bawah dan pilih Tampilkan di Azure Monitor Application Insights.

Nota

Saat Anda berbagi buku kerja ini dengan anggota tim Anda, mereka harus memiliki setidaknya peran 'Pembaca' ke sumber daya Application Insights yang tersambung untuk melihat informasi yang ditampilkan.

Sesuaikan dan bagikan dasbor Anda

Application Insights adalah alat canggih untuk pemantauan performa aplikasi (APM) yang memberikan wawasan tentang kesehatan dan performa aplikasi Anda.

Anda dapat membuka dasbor Analitik aplikasi di galeri buku kerja Application Insights Azure Monitor dengan memilih tautan Tampilkan di Azure Monitor Application Insights di akhir halaman.

Dasbor ini dibuka sebagai buku kerja yang dapat diedit di mana Anda bisa mengkustomisasi buku kerja dan menyimpan sesuai dengan kebutuhan Anda.

1. Pilih Edit di bilah perintah.

2. Ubah elemen sesuai kebutuhan sesuai kasus penggunaan Anda. Pilih ... pada elemen untuk mengedit, menambahkan, memindahkan/mengubah ukuran, mengkloning, atau menghapus. Misalnya, Anda dapat menambahkan petak peta menggunakan KQL untuk melacak atribut kustom yang Anda kumpulkan dan tidak ditampilkan dalam tampilan bawaan kami.

3. Simpan perubahan terbaru Anda dan buat tampilan yang berbeda sesuai kebutuhan dengan memilih Simpan.

4. Bagikan dengan tim Anda dengan memilih ikon "Bagikan" di bilah perintah.

Menjelajahi dan menganalisis dengan Kusto Query Language (KQL)

KQL (Bahasa Kueri Kusto) adalah bahasa kueri canggih yang digunakan di Azure untuk menjelajahi, menganalisis, dan memvisualisasikan data telemetri dan log dalam volume besar.

Dalam tampilan dasbor Analitik aplikasi , Anda dapat Membuka tautan kueri dengan memilih ikon di kanan atas untuk petak atau bagan tertentu.

Setelah memilihnya, Anda dapat melihat dan menjalankan kueri KQL yang sama yang mendukung tampilan pemantauan Anda dan mendalami data terkait.

Menyiapkan Pemberitahuan Azure

Anda dapat menentukan aturan Pemberitahuan Azure berdasarkan kueri KQL sebelumnya untuk secara proaktif mendeteksi masalah dengan operasi pasca-produksi Anda di masa mendatang. Pilih ... untuk melihat opsi lainnya seperti Aturan pemberitahuan baru.

Memilih tombol Aturan pemberitahuan baru membuka wizard untuk membuat aturan pemberitahuan pada sinyal terkait.

Untuk mempelajari selengkapnya tentang menyiapkan dan mengelola Pemberitahuan Azure untuk mengatasi masalah secara proaktif, lihat Pemberitahuan di Azure Monitor.

Konten terkait

• Pemantauan penyebaran model