Cara kerja agen dan salinan bersama LLM
Agen dan salinan kedua memperluas kemampuan LLM dengan secara cerdas memanggil fungsionalitas eksternal, seperti mengirim email.
- Agen adalah kecerdasan buatan yang dapat menjawab pertanyaan dan mengotomatiskan proses bagi pengguna. Agen dapat menentukan fungsi mana yang akan memenuhi tujuan pengguna, lalu memanggil fungsi tersebut atas nama pengguna.
- Salinan adalah jenis agen yang bekerja berdampingan dengan pengguna. Tidak seperti agen, salinan tidak sepenuhnya otomatis—ini bergantung pada interaksi pengguna. Salinan dapat membantu pengguna menyelesaikan tugas dengan memberikan saran dan rekomendasi.
Misalnya, Anda membuat aplikasi pembantu obrolan email. Bersama dengan LLM, Anda juga memerlukan plugin untuk melakukan tindakan terkait email, serta plugin untuk mencari, meringkas, menentukan niat, dan sejenisnya. Anda dapat menggunakan fungsi asli, plugin di luar kotak, dan plugin kustom Anda sendiri.
Membuat plugin hanya setengah dari pertempuran: Anda masih perlu memanggil fungsi yang tepat pada waktu yang tepat, proses yang dapat rentan kesalahan dan tidak efisien. Agen dapat menanganinya dengan lebih baik.
Agen secara otomatis memutuskan urutan fungsi apa yang dapat digunakan LLM untuk mencapai tujuan pengguna. Misalnya, Anda memiliki aplikasi obrolan yang meninjau item kotak masuk baru dan menentukan tindakan apa yang diperlukan setiap item. Jika Anda menyiapkan agen, agen dapat mengatur fungsi plugin yang diperlukan dan melakukan langkah-langkah secara otomatis.
Setiap agen memiliki tiga blok penyusun inti: persona, plugin, dan perencana.
- Persona menentukan cara agen merespons pengguna atau melakukan tindakan.
- Plugin memungkinkan agen mengambil informasi dari pengguna atau sistem lain. Anda dapat menggunakan plugin bawaan dan plugin kustom Anda sendiri.
- Perencana memungkinkan agen merencanakan cara menggunakan plugin yang tersedia.
Persona agen adalah identitasnya: plugin dan perencana apa pun yang digunakan agen adalah alat, tetapi persona menentukan caranya menggunakan alat tersebut. Anda menggunakan instruksi dalam perintah untuk membuat persona agen.
Misalnya, Anda dapat menggunakan instruksi untuk memberi tahu agen bahwa itu membantu orang mengelola email, dan untuk menjelaskan keputusannya saat membuat mereka. Perintah Anda mungkin terlihat seperti ini:
prompt = $"""
<message role="system">
You are a friendly assistant helping people with emails.
When you decide to perform an action, explain your decision and then perform the action.
</message>
"""
Anda menggunakan plugin untuk melakukan hal-hal yang tidak dapat dilakukan LLM sendiri, seperti mengambil data dari sumber data eksternal atau menyelesaikan tugas di dunia nyata.
Misalnya, LLM tidak dapat mengirim email, jadi untuk menambahkan fungsi tersebut ke aplikasi obrolan, Anda harus membuat plugin. Untuk memproses teks dari email, Anda dapat menggunakan plugin inti, seperti ConversationSummaryPlugin.
Pastikan Anda mendokumen dengan jelas fungsi di plugin Anda—perencana menggunakan informasi ini untuk menentukan fungsi apa yang tersedia.
Perencana dapat menganalisis fungsi yang tersedia dan membuat cara alternatif untuk mencapai tujuan.
Memanggil fungsi plugin tidak selalu efisien. Misalnya, Anda ingin menjumlahkan angka antara 1 dan 100. Anda dapat memanggil plugin matematika, tetapi LLM perlu melakukan panggilan terpisah untuk setiap nomor.
Selain itu, urutan dan kombinasi fungsi terbaik untuk mencapai tujuan tergantung pada detailnya. Misalnya, Anda membuat aplikasi pembantu obrolan email, jadi Anda menyertakan plugin untuk mengaktifkan pengiriman email. Namun, beberapa email mungkin memerlukan tindakan yang berbeda, seperti permintaan rapat tanpa RSVP—mengirim balasan tidak diperlukan, tetapi menambahkan item kalender adalah. Perencana melihat semua fungsi yang tersedia dan muncul dengan cara yang efisien untuk mencapai tujuan.
Otomatisasi proses memiliki banyak manfaat, tetapi terkadang pengguna perlu membuat keputusan di sepanjang jalan. Agen tidak dapat mengotomatiskan tindakan pengguna. Di situlah salinannya masuk.
Agen di aplikasi obrolan email Anda mungkin menghasilkan paket berikut untuk mengirim email:
- Mendapatkan alamat email dan nama pengguna
- Mendapatkan alamat email penerima
- Mendapatkan topik email
- Membuat subjek dan isi email
- Mengirim email
Sangat berguna, tetapi bagaimana jika pengguna tidak menyukai isi email? Salinan salinan menambahkan langkah interaksi pengguna ke paket:
- Mendapatkan alamat email dan nama pengguna
- Mendapatkan alamat email penerima
- Mendapatkan topik email
- Membuat subjek dan isi email
- Tinjau email dengan pengguna dan buat penyesuaian
- Mengirim email
Untuk mulai menggunakan salinan, coba Semantic Kernel Chat Copilot, aplikasi referensi untuk membangun pengalaman obrolan dengan agen AI.
Umpan balik .NET
.NET adalah proyek sumber terbuka. Pilih tautan untuk memberikan umpan balik: