Kongsi melalui

Pengoptimuman prestasi untuk beban kerja aplikasi pintar

Kecekapan prestasi ialah keupayaan beban kerja anda untuk berskala dengan cekap untuk memenuhi permintaan yang dikenakan kepadanya oleh pengguna. Memantau prestasi beban kerja aplikasi pintar anda adalah penting untuk memastikan ia beroperasi dengan berkesan dan cekap.

Pasukan beban kerja perlu mewujudkan metrik prestasi utama, menyemak prestasi sistem secara berkala dan mendiagnosis sebarang isu dengan segera. Prosedur pemantauan dan diagnostik yang berkesan membantu mengekalkan kebolehpercayaan sistem dan kepuasan pengguna.

Tentukan sasaran prestasi

Mengenal pasti metrik prestasi utama melibatkan penentuan ukuran penting yang menjejaki kemajuan ke arah mencapai matlamat prestasi beban kerja. Metrik ini menyediakan cara yang boleh diukur untuk mengukur dan meningkatkan kecekapan prestasi.

Apabila anda mengenal pasti metrik utama untuk difokuskan, pertimbangkan metrik yang berkaitan dengan kapasiti, masa tindak balas, kadar pesongan dan penglibatan dan hasil:

  • Kapasiti: Daya pemprosesan dan serentak ialah metrik kapasiti sampel. Pemprosesan merujuk kepada keupayaan untuk mengendalikan bilangan transaksi tertentu dalam tempoh masa tertentu. Sebagai contoh, ejen mungkin mengendalikan 200,000 sesi sembang setiap bulan. Pertimbangkan juga variasi bermusim dan puncak maksimum perbualan serentak yang dijangkakan. Serentak ialah ukuran pengguna atau tindakan serentak. Sebagai contoh, ejen mungkin mengendalikan maksimum 5,000 sembang serentak semasa musim puncak. Memahami volum sasaran membantu mengesahkan seni bina dan skala sasaran.

  • Masa tindak balas: Kependaman dan masa muat ialah metrik masa tindak balas biasa. Kependaman ialah masa yang diperlukan untuk bertindak balas terhadap permintaan (200 milisaat). Masa muat ialah masa yang diperlukan untuk ejen menjadi aktif dan bertindak balas kepada mesej pertama. Fahami kependaman maksimum yang dijangkakan untuk ejen menjawab pertanyaan dan tentukan pendekatan untuk mengendalikan tindakan yang berjalan lama (contohnya, menunggu sistem luaran mengembalikan data).

  • Kadar pesongan: Dalam konteks AI perbualan, pesongan ialah penunjuk yang mewakili peratusan permintaan yang diselesaikan dalam fesyen layan diri yang sebaliknya akan dikendalikan oleh wakil perkhidmatan pelanggan. Dalam erti kata lain, ia merujuk kepada bilangan tugas yang tidak lagi perlu dikendalikan oleh pasukan kerana automasi. Mengoptimumkan kadar pesongan ejen ialah salah satu bidang tumpuan utama bagi organisasi untuk mencapai matlamat perniagaan mereka, daripada pulangan pelaburan (ROI) dan kepuasan pelanggan (CSAT), kepada peningkatan prestasi keseluruhan ejen. Microsoft Copilot Studio memberikan gambaran keseluruhan prestasi ejen anda, termasuk penunjuk utama seperti kadar penyelesaian, kadar peningkatan dan CSAT.

  • Penglibatan dan hasil: Menjejaki penglibatan dan hasil perbualan adalah kunci untuk mengukur metrik prestasi ejen dan mengenal pasti bidang untuk penambahbaikan. Ketahui lebih lanjut dalam Mengukur penglibatan ejen dan Mengukur hasil ejen.

Perancangan prestasi

Sumber dalam beban kerja anda mempunyai had prestasi. Had prestasi dikenakan pada ciri dalam setiap perkhidmatan. Anda perlu memahami had sumber dalam beban kerja anda dan mengambil kira had tersebut dalam keputusan reka bentuk anda. Sebagai contoh, anda harus tahu sama ada had sumber memerlukan anda mengubah pendekatan reka bentuk atau menukar sumber sama sekali.

  • Fahami volum sasaran. Volum sasaran membantu mengesahkan seni bina dan skala sasaran, aspek pelesenan ejen dan potensi kesan pada Dataverse storan untuk transkrip perbualan.
  • Fahami had platform. Apabila menyepadukan beban kerja aplikasi pintar anda dengan sistem luaran, contohnya melalui Power Automate atau permintaan HTTP, adalah penting untuk mengesahkan bahawa setiap komponen boleh mengendalikan beban.
  • Kenal pasti kesesakan. Ukur pemprosesan dan masa tindak balas untuk mengenal pasti komponen sistem anda yang mungkin menjadi bermasalah apabila beban kerja berkembang. Kenal pasti kesesakan dalam proses hujung ke hujung dengan menggunakan keupayaan analisis perlombongan proses seperti kerja semula dan analisis punca akar.

Ketahui lebih lanjut: Cadangan untuk perancangan prestasi

Pemantauan prestasi

Pengoptimuman prestasi memerlukan data untuk mengukur prestasi semasa beban kerja atau aliran terhadap sasaran prestasinya. Kumpulkan jumlah dan kepelbagaian data yang mencukupi untuk mengukur prestasi kod dan infrastruktur dengan tepat terhadap sasaran prestasi yang ditetapkan. Pastikan setiap komponen dan aliran dalam beban kerja secara automatik menjana metrik dan log yang berterusan dan bermakna.

Pantau prestasi beban kerja aplikasi pintar anda dengan berhati-hati untuk memastikan ia beroperasi pada keberkesanan dan kecekapan puncak.

Copilot Studio menyediakan analisis luar kotak yang komprehensif yang membolehkan anda memahami penggunaan ejen dan penunjuk prestasi utama.

Anda boleh melihat laporan yang berkaitan dengan:

  • Prestasi dan penggunaan
  • Kepuasan pelanggan
  • Maklumat sesi
  • Penggunaan topik
  • Sesi yang dibilkan

Sebagai tambahan kepada ciri analitik asli di dalamnya Copilot Studio, anda boleh menghantar data telemetri kepada Application Insights. Ketahui lebih lanjut dalam Tangkap telemetri dengan Application Insights. Pantau prestasi secara berterusan dan kesan anomali dengan menggunakan alatan seperti Azure Monitor, Analitis Application Insights Log dan makluman.

Tentukan penunjuk prestasi utama (KPI) yang anda ingin pantau untuk mengukur kejayaan beban kerja aplikasi pintar anda, seperti kadar penglibatan, kadar resolusi dan kadar pesongan. Mula-mula, semak papan pemuka asli untuk memahami data yang tersedia. Kemudian, tentukan sama ada mencipta laporan tersuai akan memenuhi keperluan khusus anda dengan lebih baik.

Ketahui lanjut:

Pengoptimuman prestasi berterusan

Mengoptimumkan prestasi secara proaktif melibatkan pelaksanaan langkah-langkah untuk menambah baik dan meningkatkan prestasi beban kerja sebelum sebarang isu timbul. Langkah proaktif termasuk mengenal pasti potensi kesesakan, memantau metrik prestasi dan melaksanakan pengoptimuman untuk memastikan beban kerja berjalan dengan cekap dan memenuhi matlamat prestasi.

Untuk meningkatkan beban kerja aplikasi pintar anda secara berterusan, jadualkan semakan berkala prestasi ejen:

Penunjuk prestasi Takrif
Kadar penyelesaian Peratusan permintaan pengguna yang berjaya diselesaikan oleh ejen tanpa memerlukan peningkatan kepada wakil perkhidmatan pelanggan.
Kadar penglibatan Peratusan daripada jumlah sesi yang terlibat. Sesi dianggap terlibat apabila pengguna berinteraksi dengan ejen dengan cara yang bermakna, seperti mencetuskan topik bukan sistem, meningkatkan sesi atau memanggil topik sandaran.
Kadar tinggalkan Peratusan sesi terlibat yang berakhir tanpa mencapai penyelesaian atau peningkatan. Pada asasnya, ia mengukur kekerapan pengguna meninggalkan atau berhenti berinteraksi dengan ejen sebelum isu mereka diselesaikan atau ditingkatkan kepada wakil.
Kadar peningkatan Peratusan sesi terlibat yang ditingkatkan kepada wakil. Metrik ini adalah kunci untuk memahami kekerapan ejen tidak dapat menyelesaikan pertanyaan pengguna sendiri dan memerlukan campur tangan manusia.
Ucapan yang tidak dikenali Berlaku apabila model pemahaman bahasa semula jadi (NLU) ejen tidak dapat memadankan input pengguna dengan mana-mana niat atau topik yang telah ditetapkan. Sistem tidak dapat menentukan niat pengguna berdasarkan input yang disediakan.
CSAT Kepuasan.
Topik dengan resolusi rendah Merujuk kepada topik perbualan yang sering gagal menyelesaikan pertanyaan pengguna dengan berkesan. Topik ini sering membawa kepada rasa tidak puas hati pengguna, pengabaian atau peningkatan kepada wakil.

Ulasan ini membantu mengutamakan tunggakan kemas kini ejen. Sebagai contoh, jika ucapan yang tidak dikenali sering ditingkatkan kepada wakil perkhidmatan pelanggan, ambil peluang untuk meningkatkan pesongan. Analisis corak pengguna yang mencetuskan sandaran dan ucapan yang tidak dikenali, dan sama ada melatih topik sedia ada atau mencipta topik baharu untuk melengkapkan ejen untuk menangani keperluan pengguna dengan lebih baik.

Ketahui lanjut: