Bagikan melalui

Pengenalan intent dan opsi ekstraksi entitas untuk beban kerja aplikasi cerdas Anda

Pengenalan niat dan ekstraksi entitas adalah komponen kunci dari pemahaman bahasa alami.

Pengenalan niat melibatkan identifikasi tujuan atau tujuan pengguna di balik input mereka. Misalnya, jika pengguna mengatakan, "Saya ingin memesan penerbangan", tujuannya adalah untuk memesan penerbangan. Pengenalan niat membantu agen memahami tindakan apa yang perlu diambil berdasarkan permintaan pengguna.

Ekstraksi entitas melibatkan identifikasi dan ekstraksi informasi tertentu dari input pengguna. Entitas dapat berupa hal-hal seperti tanggal, nama, lokasi, atau data relevan lainnya. Misalnya, dalam kalimat "Pesan penerbangan ke New York pada 15 September", "New York" dan "15 September" adalah entitas.

Agen menggunakan maksud untuk memahami tujuan pengguna dan entitas untuk mengidentifikasi detail spesifik yang diperlukan untuk menyelesaikan tugas. Oleh karena itu, pengenalan maksud dan ekstraksi entitas memungkinkan agen untuk memberikan respons yang akurat dan efisien terhadap pertanyaan pengguna.

Saat merancang beban kerja aplikasi cerdas, Anda perlu memilih opsi terbaik untuk pengenalan maksud dan ekstraksi entitas untuk memastikan beban kerja aplikasi cerdas Anda memberikan pengalaman pengguna yang positif.

Definisi

Istilah Devinisi
NLU Pemahaman bahasa alami adalah bagian dari pemrosesan bahasa alami dalam AI yang berfokus pada pemahaman membaca mesin.
CLU Pemahaman bahasa percakapan adalah fitur Azure AI yang memungkinkan pembuatan model NLU kustom.
LLM Model bahasa besar adalah jenis model AI yang dirancang untuk memahami dan menghasilkan bahasa manusia.
GPT Trafo generatif yang telah dilatih sebelumnya mengacu pada keluarga model bahasa besar yang menggunakan arsitektur transformator untuk memahami dan menghasilkan teks seperti manusia.
Penautan dinamis Rantai dinamis adalah metode untuk mengotomatiskan pemicu untuk tindakan generatif. Alih-alih mendefinisikan secara manual setiap topik atau frasa pemicu yang memungkinkan, rantai dinamis memungkinkan AI untuk menentukan topik atau tindakan plugin mana yang perlu dipanggil berdasarkan konteks percakapan.

Memilih opsi yang tepat untuk pengenalan maksud dan ekstraksi entitas dalam beban kerja aplikasi cerdas Anda melibatkan beberapa pertimbangan utama:

  • Entitas bawaan vs. entitas kustom: Evaluasi apakah entitas bawaan yang disediakan oleh Microsoft Copilot Studio memenuhi kebutuhan Anda. Entitas bawaan mencakup jenis informasi umum seperti tanggal, angka, dan nama. Jika aplikasi Anda memerlukan pengetahuan khusus domain, Anda mungkin perlu membuat entitas kustom.

  • Kompleksitas input pengguna: Pertimbangkan kompleksitas dan variabilitas input pengguna. Untuk skenario langsung, entitas bawaan mungkin cukup. Untuk interaksi yang lebih kompleks, entitas kustom dan konfigurasi lanjutan seperti ekspresi reguler (ekspresi reguler) mungkin diperlukan.

  • Pengisian slot: Tentukan apakah aplikasi Anda memerlukan pengisian slot proaktif, di mana agen secara aktif mencari dan mengisi informasi yang hilang dari input pengguna. Pengisian slot dapat meningkatkan pengalaman pengguna dengan mengurangi kebutuhan akan pertanyaan tindak lanjut.

  • Performa dan skalabilitas: Menilai performa dan skalabilitas metode yang Anda pilih. Entitas kustom dan konfigurasi kompleks seringkali memerlukan lebih banyak daya pemrosesan dan dapat memengaruhi waktu respons.

  • Kemudahan pemeliharaan: Pertimbangkan kemudahan pemeliharaan dan pembaruan entitas Anda. Entitas bawaan lebih mudah dikelola, sementara entitas kustom memerlukan penyesuaian berkelanjutan seiring berkembangnya aplikasi Anda.

Pilih antara NLU standar, Azure CLU, atau rantai dinamis

Pemicu dalam Copilot Studio, topik, atau tindakan dapat dicapai dengan menggunakan model NLU standar, menggabungkan atau menggantinya dengan model Azure CLU kustom, atau dengan sepenuhnya mengganti model NLU dengan rantai dinamis, model berbasis model bahasa besar GPT.

Model NLU standar Model Azure CLU kustom Penautan dinamis
Pro Model default siap pakai yang dilatih sebelumnya, dengan banyak jenis entitas yang telah ditentukan sebelumnya.

Konfigurasi dilakukan dengan menambahkan frasa pemicu dan entitas kustom (baik daftar tertutup dengan nilai dan sinonim, atau ekspresi reguler).		 Mendukung lebih banyak bahasa, dengan model asli.

Mendukung penyesuaian model pemicu niat untuk pengenalan niat yang lebih baik atau untuk memenuhi persyaratan industri tertentu.

Memungkinkan ekstraksi entitas kompleks (misalnya, dari jenis yang sama).

Ekstraksi entitas juga dapat menggunakan Copilot Studio NLU standar.		 Menggunakan model bahasa besar GPT dan dilatih sebelumnya pada spektrum data yang lebih luas.

Dapat menangani beberapa maksud dan rantai topik dan/atau plugin.

Secara otomatis menghasilkan pertanyaan untuk input yang hilang dan menjawab entitas dan pertanyaan kompleks dari konteks percakapan.

Konfigurasi dilakukan dengan mendeskripsikan topik, tindakan plugin, input, dan output.
Tipu Pengenalan maksud tunggal per kueri.

Tidak dapat diperpanjang. Anda tidak dapat memodifikasi perilaku model atau menyempurnakan model. Itu disediakan apa adanya.

Mengisi beberapa entitas dengan jenis yang sama kueri yang sama memerlukan disambiguasi untuk masing-masing (misalnya, dari dan ke kota).		 Pengenalan maksud tunggal per kueri.

Konfigurasi dilakukan di Azure dengan biaya tambahan.

Memiliki batas layanan sendiri yang perlu dievaluasi.

Maksud dan Copilot Studio topik Azure CLU harus disinkronkan dengan hati-hati.		 Karena ini adalah fitur AI generatif, tingkat pembakaran lisensi pesan lebih tinggi daripada pemicu topik biasa.

Frasa pemicu dan pengisian slot

Saat mengembangkan beban kerja aplikasi cerdas, gunakan kemampuan asli untuk meningkatkan pengenalan niat dan merampingkan percakapan. Mulailah dengan mengidentifikasi frasa pemicu topik dari database FAQ dan transkrip obrolan yang ada untuk memastikan frasa yang diantisipasi relevan dan akurat. Pertimbangkan bagaimana Anda akan menggunakan entitas; misalnya, apakah Anda akan menggunakan ekspresi reguler untuk menemukan ID pesanan, entitas bawaan untuk email, atau daftar tertutup untuk jenis operasi dengan sinonim. Rencanakan juga bagaimana Anda akan menguji pemicu topik dengan frasa sampel untuk memvalidasi dan menyempurnakan akurasi proses pengenalan maksud dan ekstraksi entitas Anda. Pelajari selengkapnya di Pertimbangan penyebaran dan pengujian.

Frasa pemicu

Frasa pemicu melatih model NLU agen Anda. Mereka membantu agen mengenali dan merespons secara akurat ucapan pengguna dengan mendefinisikan frasa tertentu yang memicu topik tertentu. Konfigurasi yang tepat dari frasa pemicu ini memastikan bahwa agen dapat mengidentifikasi maksud pengguna dengan benar dan merespons dengan tepat. Ketika agen tidak yakin tentang topik mana yang akan dipicu, agen dapat menyarankan hingga tiga kandidat topik potensial (topik sistem Beberapa Topik yang Cocok) atau kembali ke respons default jika tidak ada topik yang diidentifikasi. Mekanisme ini membantu menjaga alur percakapan dan memastikan bahwa agen dapat menangani berbagai input pengguna secara efektif.

Ekstraksi entitas dan pengisian slot

Ekstraksi entitas dan pengisian slot merupakan komponen penting dalam mengembangkan agen yang efektif. Proses ini memungkinkan agen untuk memperoleh dan menggunakan informasi secara efisien dengan mengidentifikasi dan mengekstrak detail yang relevan dari kueri pengguna.

Ekstraksi entitas melibatkan penguraian input pengguna untuk mengidentifikasi informasi tertentu. Misalnya, dalam kueri "Saya ingin memesan tiga t-shirt biru besar", model NLU agen harus mengekstrak entitas berikut:

  • Kuantitas: 3
  • Warna: Biru
  • Ukuran: Besar
  • Jenis Barang: T-Shirt

Pengisian slot adalah proses menggunakan entitas yang diekstraksi ini untuk menyelesaikan informasi yang diperlukan untuk tugas tertentu. Dalam contoh ini, agen mengenali topik sebagai pesanan dan mengisi slot yang diperlukan dengan entitas yang diekstraksi. Agen dapat memahami permintaan pengguna tanpa mengajukan lebih banyak pertanyaan, merampingkan interaksi.

Ekstraksi entitas dan pengisian slot memungkinkan agen menangani kueri kompleks dengan lebih efektif, memberikan respons yang akurat dan relevan secara kontekstual, serta meningkatkan pengalaman pengguna.

Selengkapnya:

Mengintegrasikan Microsoft Copilot Studio dengan Azure CLU

Mengintegrasikan model CLU dengan Copilot Studio agen dapat meningkatkan kemampuan agen secara signifikan. Integrasi ini melibatkan pemetaan maksud Azure CLU ke Copilot Studio topik, memungkinkan agen untuk memahami dan merespons maksud pengguna dengan lebih akurat. Selain itu, Copilot Studio entitas bawaan dapat digunakan bersama entitas Azure CLU, menyediakan kerangka kerja yang kuat untuk ekstraksi entitas.

Saat mempertimbangkan integrasi ini, penting untuk mengevaluasi apakah beban kerja aplikasi cerdas Anda memerlukan Azure CLU. Misalnya, Azure CLU mendukung lebih banyak bahasa, kamus khusus industri, dan ekstraksi entitas kompleks, yang mungkin penting untuk aplikasi Anda. Ekstraksi entitas kustom dengan Azure CLU juga dapat mengaktifkan pengisian slot senyap atau "beruntung", yang memungkinkan agen menangani skenario seperti mengidentifikasi kota sumber dan tujuan dalam satu frasa tanpa mengajukan pertanyaan tindak lanjut.

Aspek penting lainnya adalah memastikan bahwa kuota dan batas layanan Azure CLU selaras dengan penggunaan agen Anda. Misalnya, jika Anda mengantisipasi kurang dari 1.000 panggilan yang memerlukan pengenalan maksud per menit, Anda dapat menyiapkan Azure CLU menggunakan tingkat S. Konfigurasi ini memastikan bahwa agen Anda dapat menangani beban kerja yang diharapkan tanpa melebihi batas layanan atau mengeluarkan biaya yang tidak terduga.

Selengkapnya:

Pertimbangan untuk struktur topik

Menyusun topik secara efektif penting untuk menciptakan percakapan yang alami dan mulus. Topik adalah jalur percakapan terpisah yang, ketika digabungkan, memungkinkan pengguna untuk berinteraksi dengan agen dengan lancar. Berikut adalah beberapa pertimbangan utama untuk merancang struktur topik:

  • Topik berbasis pemicu: Topik ini diaktifkan berdasarkan ucapan pengguna dan berfungsi sebagai titik masuk. Tentukan frasa pemicu yang jelas untuk topik ini. Jika frasa pemicu tumpang tindih di beberapa topik, pertimbangkan untuk menerapkan topik umum yang dapat mengalihkan ke topik yang sesuai setelah mengajukan pertanyaan klarifikasi. Dengan ekstraksi entitas dan pengisian slot, pertanyaan klarifikasi ini dapat dilewati jika informasi yang diperlukan sudah disediakan.

  • Topik berbasis pengalihan: Topik ini dipicu oleh tindakan, aktivitas, atau peristiwa pengalihan, dan dapat dipanggil oleh beberapa topik lainnya. Mereka harus dirancang agar dapat digunakan kembali dan modular, dengan variabel input dan output untuk memfasilitasi integrasi yang mulus ke dalam berbagai jalur percakapan.

  • Topik pemicu ganda: Beberapa topik dapat dipicu baik melalui pengenalan maksud atau dengan pengalihan eksplisit. Fleksibilitas ini memungkinkan percakapan yang lebih dinamis dan responsif.

  • Peningkatan percakapan dan penggantian: Buat topik penggantian untuk situasi di mana tidak ada topik yang cocok yang dipicu oleh kueri pengguna. Topik-topik ini dapat menawarkan tanggapan umum atau menyarankan topik yang relevan untuk mempertahankan alur percakapan.

Pendekatan desain:

  • Topik kustom untuk skenario utama: Kembangkan beberapa topik kustom untuk skenario utama dengan frasa pemicu dan pengalihan yang relevan. Gunakan struktur topik induk-anak untuk mengelola interaksi yang kompleks. Untuk maksud yang tidak dikenali, terapkan jawaban generatif dan mekanisme penggantian.

  • Topik disambiguasi: Rencanakan untuk menggunakan topik disambiguasi untuk operasi yang memerlukan pertanyaan klarifikasi. Misalnya, operasi akun pengguna mungkin memerlukan klarifikasi tentang jenis operasi (misalnya, membuat, membuka kunci, menangguhkan) dan sistem yang terlibat (misalnya, SAP, ServiceNow, Microsoft).

  • Menghindari duplikasi: Untuk menghindari duplikasi konten, buat topik yang dapat digunakan kembali untuk jalur dialog yang perlu diulang. Topik yang dapat digunakan kembali ini dapat dipanggil oleh topik induk dan, setelah selesai, percakapan dapat melanjutkan logika topik induk.

Selengkapnya:

Menangani intent yang tidak dikenali

Mengelola intent yang tidak dikenali secara efektif memastikan pengalaman pengguna yang lancar. Intent yang tidak dikenali terjadi ketika agen tidak memahami ucapan pengguna dan tidak memiliki kepercayaan diri yang cukup untuk memicu topik yang ada. Berikut adalah beberapa saran untuk menangani skenario ini:

  • Mengelola maksud yang tidak dikenali: Awalnya, arahkan maksud yang tidak dikenali ke topik Sistem peningkatan percakapan, yang mencari jawaban di situs web publik dan sumber daya perusahaan seperti SharePoint situs. Jika tidak ada informasi yang relevan yang ditemukan, sistem kemudian dapat kembali ke pengalaman seperti ChatGPT menggunakan prompt sistem khusus dengan model Azure OpenAI GPT-4 . Pendekatan ini memastikan bahwa pengguna menerima respons yang bermanfaat bahkan ketika kueri tidak direncanakan.

  • Integrasi dengan sistem eksternal: Pertimbangkan apakah Anda mengintegrasikan dengan sistem eksternal sebagai bagian dari strategi penggantian Anda. Misalnya, mengintegrasikan dengan model Azure OpenAI GPT-4 menggunakan permintaan HTTP untuk memberikan pengalaman seperti ChatGPT yang sesuai.

  • Memantau penggunaan penggantian: Tinjau secara teratur persentase percakapan yang mencapai penggantian. Gunakan wawasan ini untuk memperkaya topik yang ada atau membuat topik baru, memastikan bahwa agen terus meningkatkan kemampuan pemahaman dan responsnya.

  • Topik penggantian dan jawaban generatif: Topik sistem penggantian dipicu ketika tidak ada topik yang cocok yang diidentifikasi. Jika Jawaban Generatif diaktifkan, topik Peningkatan percakapan dipicu terlebih dahulu pada peristiwa maksud yang tidak diketahui, diikuti oleh topik Penggantian sesuai kebutuhan. Pendekatan berlapis ini membantu mengelola niat yang tidak dikenali secara efektif.

  • Gunakan peningkatan percakapan dan penggantian: Gunakan Jawaban Generatif untuk mencari berbagai sumber data atau berintegrasi dengan sistem lain seperti Azure Cognitive Service for Language. Layanan ini dapat menangani pasangan tanya jawab dalam jumlah besar dan menyertakan model obrolan untuk pertanyaan acak.

  • Skenario inti dan topik kustom: Pastikan skenario dan topik inti didefinisikan dengan baik dan ditangani melalui topik kustom. Tentukan dengan jelas hasil dari topik-topik ini untuk menjaga alur percakapan yang terstruktur dan efisien.

Pelokalan dan bahasa

Saat membuat agen, pertimbangkan bahasa dan pasar yang harus didukung oleh beban kerja aplikasi cerdas Anda. Pelokalan dan dukungan bahasa adalah faktor penting untuk memastikan beban kerja aplikasi cerdas Anda memenuhi kebutuhan basis pengguna yang beragam. Berikut adalah beberapa pendekatan yang disarankan:

  • Satu agen per bahasa: Pendekatan ini melibatkan pembuatan agen terpisah untuk setiap bahasa. Ini memastikan bahwa setiap agen sepenuhnya dioptimalkan untuk bahasa spesifiknya; namun, ini bisa memakan banyak sumber daya untuk memelihara banyak agen.

  • Satu agen untuk beberapa bahasa (terjemahan yang dikonfigurasi): Dengan pendekatan ini, satu agen mendukung beberapa bahasa, dengan terjemahan yang disediakan sebagai bagian dari konfigurasi agen. Pendekatan ini memerlukan pembaruan terjemahan setiap kali agen diperbarui atau konten baru ditambahkan. Ini menawarkan keseimbangan antara efisiensi sumber daya dan dukungan bahasa tetapi memerlukan pengelolaan pembaruan terjemahan yang cermat.

  • Satu agen untuk beberapa bahasa (terjemahan real-time): Metode ini menggunakan agen relai untuk menyediakan terjemahan real-time saat runtime. Ini memungkinkan penyebaran lebih banyak bahasa yang cepat dan mengurangi kebutuhan akan pembaruan terjemahan yang sering. Namun, ini memperkenalkan dependensi pada agen relai dan lapisan terjemahan real-time, seperti Azure Service Copilot dan Azure Cognitive Services Translator.

Pertimbangan utama:

  • Bahasa dan pasar: Bahasa dan pasar yang harus didukung agen Anda memengaruhi strategi pelokalan Anda.

  • Agen tunggal vs. multibahasa: Putuskan apakah akan mengembangkan agen tunggal yang mendukung beberapa bahasa atau agen terpisah untuk setiap bahasa. Keputusan ini bergantung pada faktor-faktor seperti ketersediaan sumber daya, kemampuan pemeliharaan, dan kompleksitas bahasa yang terlibat.

  • Waktu terjemahan: Pertimbangkan apakah terjemahan harus diatur selama fase konfigurasi atau disediakan secara real time saat runtime. Terjemahan yang dikonfigurasi menawarkan stabilitas dan kontrol, sementara terjemahan real-time memberikan fleksibilitas dan penerapan yang cepat.

Selengkapnya: