Pertanyaan yang Sering Diajukan (FAQ) untuk penalaran mendalam

Pertanyaan yang sering diajukan (FAQ) ini menjelaskan dampak AI dari fitur penalaran mendalam di Copilot Studio.

Apa itu penalaran mendalam?

Model penalaran mendalam adalah model bahasa besar tingkat lanjut yang dirancang untuk memecahkan masalah kompleks. Mereka mempertimbangkan setiap pertanyaan dengan cermat, menghasilkan rangkaian pemikiran internal yang terperinci sebelum memberikan respons kepada pengguna.

Bagaimana cara menggunakan model penalaran mendalam di Copilot Studio?

Model penalaran mendalam di Copilot Studio menawarkan kemampuan yang ampuh untuk menciptakan agen yang canggih. Model seperti Azure OpenAI o3 menggunakan penalaran mendalam untuk meningkatkan pengambilan keputusan agen dan memberikan respons yang lebih akurat.

Saat membuat agen, Anda dapat menambahkan instruksi yang mendefinisikan tugas agen dan bagaimana agen tersebut menyelesaikannya. Tugas-tugas ini dapat berkisar dari yang sederhana hingga yang sangat kompleks, dan memerlukan analisis yang mendalam.

Para pembuat dapat menerapkan model penalaran pada langkah-langkah spesifik dalam instruksi agen, sehingga meningkatkan kemampuan agen untuk melakukan penalaran tingkat lanjut dan memberikan hasil yang lebih akurat dan mendalam. Anda dapat menambahkan model penalaran mendalam untuk tugas-tugas yang membutuhkan penelitian ilmiah, pertanyaan kompleks, dan analisis mendalam terhadap data yang tidak terstruktur. Model-model ini memberikan wawasan yang melampaui kemampuan model-model yang lebih sederhana.

Untuk menggunakan model penalaran, tambahkan kata kunci reason ke langkah-langkah spesifik instruksi agen. Misalnya: Gunakan penalaran untuk menentukan item berikutnya dalam deret matematika, seperti 2, 5, 10, 17. Ini memicu model penalaran selama waktu eksekusi agen untuk langkah spesifik tersebut. Saat ini, Copilot Studio menggunakan model Azure OpenAI o3 untuk kemampuan penalaran tingkat lanjutnya.

Apa saja kegunaan yang dimaksudkan dari model penalaran mendalam?

 Model penalaran mendalam dirancang untuk menangani tugas-tugas kompleks yang membutuhkan penalaran logis, pemecahan masalah, dan analisis langkah demi langkah. Sebagai contoh, Anda dapat menggunakan model penalaran mendalam untuk:

• Mengevaluasi tren pasar dan merekomendasikan peluang investasi terbaik. Model penalaran mendalam dapat memecah data pasar menjadi langkah-langkah yang lebih kecil dan mudah dikelola; menganalisis tren; dan merekomendasikan peluang investasi terbaik. Mereka dapat mempertimbangkan berbagai faktor seperti data historis, kondisi pasar saat ini, dan proyeksi masa depan untuk memberikan rekomendasi investasi yang tepat.

• Menganalisis peningkatan permintaan dan merekomendasikan strategi untuk mengelola persediaan. Model dapat menganalisis pola permintaan dan penawaran, memprediksi kebutuhan persediaan di masa mendatang, dan merekomendasikan strategi untuk mengelola persediaan secara efektif. Dengan mempertimbangkan faktor-faktor seperti tren musiman, fluktuasi pasar, dan dinamika rantai pasokan, model penalaran mendalam dapat membantu bisnis mengoptimalkan manajemen inventaris mereka.

• Selesaikan persamaan diferensial dan berikan penjelasan langkah demi langkah. Model dapat menyelesaikan masalah matematika yang kompleks, seperti persamaan diferensial, dan memberikan penjelasan langkah demi langkah tentang solusinya. Dengan memecah masalah menjadi langkah-langkah yang lebih kecil dan menerapkan penalaran logis, model penalaran mendalam dapat menawarkan solusi yang jelas dan terperinci untuk tantangan matematika.

Bagaimana model penalaran mendalam dievaluasi dan metrik apa yang digunakan untuk mengukur kinerjanya?

Model penalaran mendalam yang digunakan dalam Copilot Studio dievaluasi berdasarkan kekonsistenan, AI yang bertanggung jawab, dan akurasi. Groundedness adalah memastikan model hanya mengembalikan konten yang didasarkan pada konteks dunia nyata tertentu. AI yang bertanggung jawab memeriksa perlindungan terhadap bahaya seperti serangan jailbreak, serangan injeksi prompt lintas domain, dan konten berbahaya.

Untuk mengukur berdasarkan dimensi-dimensi ini, model diuji terhadap beragam skenario dan diberi skor berdasarkan masing-masing dimensi tersebut. Semua model penalaran mendalam dievaluasi sebelum dirilis.

Apa saja keterbatasan model penalaran mendalam? Bagaimana para pembuat produk dapat meminimalkan dampak dari keterbatasan ini?

• Penggunaan model penalaran: Agen hanya dapat menggunakan model penalaran mendalam jika kemampuan model penalaran mendalam diaktifkan di pengaturan agen.

• Waktu respons: Karena waktu yang dibutuhkan untuk analisis, respons dari model penalaran cenderung lebih lambat dibandingkan dengan model bahasa non-penalaran mendalam lainnya.

Untuk meminimalkan dampak dari keterbatasan ini, Anda dapat:

• Pastikan bahwa kemampuan model penalaran mendalam hanya diaktifkan untuk agen yang membutuhkannya.

• Gunakan kata kunci reason dalam instruksi agen hanya untuk langkah-langkah yang mendapat manfaat dari model penalaran mendalam.

• Gunakan model penalaran mendalam untuk tugas-tugas yang memungkinkan waktu respons lebih lama. Jika perlu, beri tahu pengguna bahwa beberapa respons agen mungkin membutuhkan waktu lebih lama.

Faktor dan pengaturan operasional apa yang memungkinkan penggunaan model penalaran mendalam secara efektif dan bertanggung jawab?

Model penalaran mendalam mencakup berbagai perlindungan untuk memastikan administrator, pembuat, dan pengguna menikmati pengalaman yang aman dan sesuai:

• Hanya izinkan model penalaran mendalam untuk agen yang membutuhkan langkah-langkah penalaran yang kompleks. Hal ini memastikan bahwa model-model tersebut diterapkan di tempat yang dapat memberikan nilai paling besar.

• Sertakan kata kunci reason dalam instruksi untuk memicu model saat runtime untuk tugas-tugas tertentu, bukan semua tugas yang mungkin tidak memerlukan penalaran yang kompleks.

• Uji agen secara menyeluruh untuk memastikan keakuratan dan keandalan output yang diberikan oleh model penalaran mendalam. Pengujian juga membantu mengidentifikasi potensi masalah dan memastikan bahwa model berkinerja sesuai harapan.

• Gunakan peta aktivitas untuk meninjau di mana agen Anda menggunakan model penalaran mendalam dalam sebuah sesi. Perluas node penalaran mendalam di peta untuk meninjau langkah-langkah yang diambil model dan output model. Ini membantu Anda menentukan apakah model penalaran tersebut memberikan fungsionalitas yang diinginkan.

• Bandingkan hasil keluaran dengan dan tanpa menggunakan model penalaran mendalam dengan memperbarui instruksi Anda selama pengujian.