Bagikan melalui

Deteksi groundedness

  • Artikel

API deteksi Groundedness mendeteksi apakah respons teks model bahasa besar (LLM) di-grounded dalam materi sumber yang disediakan oleh pengguna. Ketidakalahan mengacu pada instans di mana LLM menghasilkan informasi yang tidak faktual atau tidak akurat dari apa yang ada dalam materi sumber.

Istilah kunci

  • Pengambilan Augmented Generation (RAG): RAG adalah teknik untuk menambah pengetahuan LLM dengan data lain. LLM dapat beralasan tentang topik yang luas, tetapi pengetahuan mereka terbatas pada data publik yang tersedia pada saat mereka dilatih. Jika Anda ingin membangun aplikasi AI yang dapat beralasan tentang data privat atau data yang diperkenalkan setelah tanggal cutoff model, Anda perlu memberikan model dengan informasi spesifik tersebut. Proses membawa informasi yang sesuai dan memasukkannya ke dalam prompt model dikenal sebagai Retrieval Augmented Generation (RAG). Untuk informasi selengkapnya, lihat Pengambilan-augmented generation (RAG).

  • Groundedness dan Ungroundedness di LLM: Ini mengacu pada sejauh mana output model didasarkan pada informasi yang disediakan atau mencerminkan sumber yang andal secara akurat. Respons beralasan mematuhi informasi yang diberikan, menghindari spekulasi atau fabrikasi. Dalam pengukuran groundedness, informasi sumber sangat penting dan berfungsi sebagai sumber dasar.

Fitur deteksi groundedness

  • Pemilihan Domain: Pengguna dapat memilih domain yang dibuat untuk memastikan deteksi yang lebih disesuaikan yang selaras dengan kebutuhan spesifik bidang mereka. Saat ini domain yang tersedia adalah MEDICAL dan GENERIC.
  • Spesifikasi Tugas: Fitur ini memungkinkan Anda memilih tugas yang Anda lakukan, seperti Tanya Jawab (tanya jawab) dan Ringkasan, dengan pengaturan yang dapat disesuaikan sesuai dengan jenis tugas.
  • Kecepatan vs Interpretabilitas: Ada dua mode yang memperdagangkan kecepatan dengan interpretabilitas hasil.
    • Mode Non-Penalaran: Menawarkan kemampuan deteksi cepat; mudah disematkan ke dalam aplikasi online.
    • Mode penalaran: Menawarkan penjelasan terperinci untuk segmen yang terdeteksi tidak teralihkan; lebih baik untuk pemahaman dan mitigasi.

Kasus penggunaan

Deteksi groundedness mendukung tugas Ringkasan dan Tanya Jawab berbasis teks untuk memastikan bahwa ringkasan atau jawaban yang dihasilkan akurat dan dapat diandalkan. Berikut adalah beberapa contoh setiap kasus penggunaan:

Tugas ringkasan:

  • Ringkasan medis: Dalam konteks artikel berita medis, deteksi Groundedness dapat digunakan untuk memastikan bahwa ringkasan tidak berisi informasi yang dibuat atau menyesatkan, menjamin bahwa pembaca mendapatkan informasi medis yang akurat dan andal.
  • Ringkasan makalah akademik: Ketika model menghasilkan ringkasan makalah akademik atau artikel penelitian, fungsi ini dapat membantu memastikan bahwa konten yang dirangkum secara akurat mewakili temuan dan kontribusi utama tanpa memperkenalkan klaim palsu.

Tugas QnA:

  • Chatbot dukungan pelanggan: Dalam dukungan pelanggan, fungsi dapat digunakan untuk memvalidasi jawaban yang diberikan oleh chatbot AI, memastikan bahwa pelanggan menerima informasi yang akurat dan dapat dipercaya ketika mereka mengajukan pertanyaan tentang produk atau layanan.
  • QnA Medis: Untuk QnA medis, fungsi ini membantu memverifikasi keakuratan jawaban medis dan saran yang diberikan oleh sistem AI kepada profesional dan pasien kesehatan, mengurangi risiko kesalahan medis.
  • QnA Pendidikan: Dalam pengaturan pendidikan, fungsi dapat diterapkan pada tugas QnA untuk mengonfirmasi bahwa jawaban atas pertanyaan akademik atau kueri persiapan pengujian secara faktual akurat, mendukung proses pembelajaran.

Batasan

Ketersediaan bahasa

Saat ini, API deteksi Groundedness mendukung konten bahasa Inggris. Meskipun API kami tidak membatasi pengiriman konten non-bahasa Inggris, kami tidak dapat menjamin tingkat kualitas dan akurasi yang sama dalam analisis konten bahasa lain. Sebaiknya pengguna mengirimkan konten terutama dalam bahasa Inggris untuk memastikan hasil yang paling andal dan akurat dari API.

Batasan panjang teks

Batas karakter maksimum untuk sumber grounding adalah 55.000 karakter per panggilan API, dan untuk teks dan kueri, itu adalah 7.500 karakter per panggilan API. Jika input Anda (baik teks atau sumber dasar) melebihi batasan karakter ini, Anda akan mengalami kesalahan.

Wilayah

Untuk menggunakan API ini, Anda harus membuat sumber daya Azure AI Content Brankas ty di wilayah yang didukung. Lihat Ketersediaan wilayah.

Batasan TPS

Lihat Laju kueri.

Jika Anda memerlukan tarif yang lebih tinggi, hubungi kami untuk memintanya.

Langkah berikutnya

Ikuti mulai cepat untuk mulai menggunakan Azure AI Content Brankas ty untuk mendeteksi groundedness.

Mulai cepat deteksi groundedness