Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Artikel ini menyediakan kriteria untuk membantu Anda memutuskan apakah akan membangun sistem agen tunggal atau multi-agen di seluruh organisasi Anda. Organisasi menghadapi keputusan ini selama fase Build agents adopsi agen AI (lihat Gambar 1).
Gambar 1. Proses adopsi agen AI Microsoft.
Meskipun tim beban kerja membutuhkan fleksibilitas untuk membuat keputusan desain, organisasi mendapat manfaat dari memiliki serangkaian harapan standar. Harapan ini membantu memandu berapa banyak agen yang dibuat dan apa yang perlu diatur dan dipertahankan dari waktu ke waktu. Untuk memastikan kejelasan, berikut adalah definisi utamanya:
- Sistem agen tunggal mengonsolidasikan semua logika ke dalam satu agen. Pendekatan ini menyederhanakan implementasi, mengurangi overhead operasional, dan menawarkan model eksekusi yang lebih dapat diprediksi.
- Sistem multi-agen membagi tanggung jawab di beberapa agen khusus. Ini memungkinkan modularitas, pemisahan kekhawatiran yang lebih jelas, dan peningkatan skalabilitas tetapi memerlukan koordinasi dan orkestrasi tambahan.
Pohon keputusan Agen AI
Pohon keputusan agen AI (lihat Gambar 2) membantu Anda menentukan apakah akan dimulai dengan sistem multi-agen, menjalankan pengujian agen tunggal, atau default ke desain agen tunggal. Bagian yang mengikuti menjelaskan setiap kriteria secara rinci.
Gambar 2. Pohon keputusan agen AI Microsoft.
Kapan harus memulai dengan sistem multi-agen
Sistem multi-agen menyebarkan dua agen atau lebih untuk tugas yang berbeda dalam satu proses bisnis. Arsitektur ini memungkinkan pola orkestrasi dan spesialisasi yang berbeda. Koordinasi antara agen memperkenalkan latensi di setiap titik handoff dan memerlukan manajemen status eksplisit antar komponen. Organisasi harus memulai dengan arsitektur multi-agen hanya ketika kriteria tertentu mengamanatkan pemisahan, seperti:
Melintasi batas keamanan dan kepatuhan. Bangun beberapa agen saat peraturan atau kebijakan mengamanatkan isolasi data yang ketat. Klasifikasi keamanan yang berbeda memerlukan lingkungan pemrosesan independen yang tidak dapat disediakan oleh agen tunggal. Desain hak istimewa minimal ini membatasi radius ledakan insiden keamanan dengan menahan pelanggaran dalam batas setiap agen individu. Layanan keuangan sering mengharuskan satu agen untuk menyiapkan transaksi sementara yang lain memvalidasinya, memberlakukan pemisahan tugas melalui arsitektur.
Beberapa tim terlibat. Mengadopsi desain multi-agen saat tim yang berbeda mengelola area pengetahuan terpisah. Siklus pengembangan independen mendapat manfaat dari arsitektur yang dipisahkan di mana tim mempertahankan agen khusus domain. Setiap tim menggunakan keahlian khusus dan sumber data tanpa menunggu tim lain. Penyelarasan ini mencerminkan struktur organisasi dan memungkinkan pengembangan paralel. Teams menyebarkan pembaruan secara independen sementara antarmuka eksplisit antara domain menyederhanakan tata kelola dan mengurangi risiko integrasi.
Pertumbuhan di masa depan direncanakan. Pilih desain multi-agen modular saat peta jalan solusi mencakup beragam fitur, sumber data, atau unit bisnis. Agen monolitik menjadi tidak dapat dipelihara karena tanggung jawab berkembang melampaui cakupan aslinya. Memisahkan kekhawatiran sejak dini mencegah pemfaktoran ulang besar-besaran yang mengganggu operasi. Solusi yang mencakup lebih dari tiga hingga lima fungsi berbeda mendapat manfaat dari arsitektur ini. Agen individu dapat memodernisasi secara independen tanpa memengaruhi seluruh sistem, mengurangi risiko peningkatan dan memungkinkan peningkatan bertahap.
Orkestrasi dan alur kerja multi-agen
Sistem multi-agen memerlukan alur kerja untuk menerapkan pola orkestrasi yang didokumentasikan di Azure Architecture Center. Rangkaian agen secara manual menciptakan koneksi rapuh yang terputus secara tidak terduga. Alur kerja menyediakan koordinasi terstruktur yang memastikan interaksi agen yang andal. Berikut adalah beberapa manfaat menggunakan alur kerja dengan sistem multi-agen:
| Kemampuan alur kerja | Tujuan |
|---|---|
| Koordinasi | Mengontrol bagaimana agen berinteraksi melalui pola eksekusi paralel, berurutan, atau kondisional |
| Pengelolaan keadaan | Mempertahankan konteks di seluruh batas agen untuk mempertahankan alur percakapan dan integritas data |
| Logika pencabangan | Merutekan permintaan ke agen yang sesuai berdasarkan kondisi, memungkinkan eskalasi dari chatbot ke agen khusus atau dukungan manusia |
| Transparansi | Menyediakan visibilitas ke dalam alur informasi untuk penelusuran kesalahan dan audit kepatuhan |
Lihat Strategi orkestrasi untuk opsi implementasi khusus teknologi.
Kompromi sistem multi-agen
Setiap interaksi agen memerlukan desain protokol, penanganan kesalahan, dan sinkronisasi status. Setiap komponen memerlukan rekayasa prompt, infrastruktur pemantauan, dan kemampuan penelusuran kesalahan yang terpisah. Permukaan keamanan diperluas melalui manajemen kredensial tambahan dan titik transit data antar agen. Struktur biaya meningkat karena setiap agen memproses konteks yang berlebihan dan overhead komunikasi bertambah seiring dengan jumlah agen. Latensi terakumulasi di setiap titik serah terima, berpotensi menurunkan pengalaman pengguna.
Kapan harus menguji sistem agen tunggal terlebih dahulu
Jika kasus penggunaan Anda tidak memenuhi kriteria untuk sistem multi-agen, Anda umumnya harus mulai dengan mengujinya dengan satu agen. Memvalidasi asumsi kunci lebih awal sangat penting sebelum memilih arsitektur terbaik untuk skenario tertentu. Meskipun arsitektur multi-agen terkadang diperlukan, arsitektur tersebut sering dipilih berdasarkan asumsi yang belum diuji mengenai kompleksitas atau performa. Untuk kasus penggunaan yang memenuhi kriteria berikut, mulailah dengan prototipe agen tunggal untuk membangun kemampuan garis besar. Transisi ke arsitektur multi-agen hanya saat pengujian mengungkapkan batasan yang tidak dapat diselesaikan melalui pengoptimalan agen tunggal.
Jelas peran yang terlibat. Jangan asumsikan pemisahan peran memerlukan beberapa agen. Peran yang berbeda (seperti perencana, peninjau, eksekutor) mungkin menyarankan beberapa agen, tetapi mereka tidak secara otomatis membenarkan arsitektur multi-agen. Seringkali, satu agen yang menggunakan pengalihan persona, pemicu bersyarat, dan kebijakan yang sadar konteks, dapat memenuhi perilaku berbasis peran tanpa memerlukan orkestrasi tambahan. Prototipe dengan satu agen untuk memvalidasi asumsi dan mengukur apakah emulasi peran (perintah persona, izin alat, dan pembatasan konteks) mencapai hasil yang diperlukan. Pindah ke multi-agen hanya ketika pengujian satu agen menunjukkan batasan yang tidak dapat Anda atasi melalui penyesuaian perintah, peningkatan pengambilan informasi, atau kontrol kebijakan.
Waktu untuk memasuki pasar yang cepat diperlukan. Prototipe agen tunggal memungkinkan validasi yang lebih cepat, iterasi yang lebih cepat, dan umpan balik pengguna sebelumnya. Sistem multi-agen menambahkan logika koordinasi, protokol komunikasi, dan orkestrasi alur kerja, yang memperlambat pengembangan dini dan mempersulit pengujian. Gunakan agen tunggal untuk membuktikan nilai dengan cepat sebelum berinvestasi dalam koordinasi multi-agen.
Prioritas biaya rendah. Desain agen tunggal mengurangi penggunaan token dan panggilan API dengan mempertahankan konteks dalam satu entitas. Validasi manfaat biaya dengan melakukan prototipe sebelum menambahkan overhead orkestrasi. Sistem multi-agen mengalikan pengeluaran melalui pemrosesan konteks redundan dan komunikasi antar-agen yang dapat melebihi batasan anggaran.
Sejumlah besar data telah diproses. Validasi apakah satu agen dapat beroperasi secara akurat dalam jendela konteks yang tersedia saat menangani cakupan data lengkap. Banyak masalah skalabilitas berasal dari desain pengambilan, bukan arsitektur. Misalnya, tim dapat menyesuaikan chunking dan pengindeksan, menyesuaikan pemilihan bagian sesuai dengan kueri, dan mengurangi konteks yang tidak perlu agar sesuai dengan jendela model. Hanya pindah ke multi-agen saat pengujian menunjukkan ketidakakuratan persisten atau penurunan latensi meskipun jendela konteks lebih besar, peningkatan model, caching, peringkat ulang, dan pengoptimalan perintah/rantai.
Proses permintaan tinggi. Mengukur throughput dan latensi dengan agen tunggal di bawah beban yang menyerupai kondisi produksi. Arsitektur multi-agen memberikan nilai hanya ketika paralelisasi memberikan keuntungan performa yang terukur. Koordinasi overhead dapat menghilangkan manfaat pemrosesan bersamaan dalam banyak skenario, membuat agen tunggal lebih efisien.
Modalitas berbeda yang terlibat. Mulailah dengan model multimodal yang menangani teks, gambar, dan format lainnya dalam satu agen. Gunakan agen khusus hanya ketika modalitas tertentu memerlukan pengoptimalan berbeda yang tidak dapat disediakan oleh model umum. Analisis gambar yang kompleks atau pemrosesan audio secara real-time terkadang membenarkan penggunaan agen khusus dengan sumber daya tersendiri.
Kapan menggunakan sistem agen tunggal
Arsitektur agen tunggal mengonsolidasikan eksekusi logika, konteks, dan alat ke dalam satu entitas. Konsolidasi ini mengurangi kompleksitas desain, menyederhanakan implementasi, dan menyederhanakan tata kelola. Organisasi dapat fokus pada nilai bisnis daripada mekanika orkestrasi. Agen tunggal menyediakan titik awal yang paling efisien untuk kasus penggunaan kompleksitas rendah .
Domain masalah yang terdefinisi dengan baik. Pilih agen tunggal saat alur kerja mengikuti pola yang dapat diprediksi dalam konteks terikat. Pendekatan ini membuat sistem tetap dapat dipertahankan dan mempercepat siklus pengembangan. Jawaban bot FAQ dari pangkalan pengetahuan tertentu atau asisten yang menjalankan urutan API tetap mewakili skenario agen tunggal yang khas.
Efisiensi operasional penting. Agen tunggal menghilangkan protokol komunikasi antar-agen yang memperkenalkan latensi dan titik kegagalan. Debugging menjadi lebih sederhana ketika semua logika berada di satu tempat. Tim pemeliharaan dapat melacak masalah tanpa menavigasi interaksi agen yang kompleks atau log terdistribusi.
Alur kerja agen tunggal
Agen tunggal sering merespons langsung permintaan pengguna tanpa orkestrasi. Alur kerja menyediakan struktur penting untuk keandalan dan integrasi perusahaan bahkan dengan agen tunggal.
- Repeatabilitas. Alur kerja menjalankan tugas yang konsisten di seluruh input tanpa intervensi manual. Ringkasan batch malam hari atau pembuatan laporan terjadwal memerlukan otomatisasi alur kerja di sekitar agen tunggal.
- Integrasi sistem. Mengalihkan output agen-agen ke sistem downstream melalui penghubung alur kerja. Alur kerja memicu tindakan termasuk mengirim hasil ke SharePoint, memposting pemberitahuan ke Teams, atau menulis data ke database perusahaan.
- Tata kelola dan kepatuhan. Terapkan pengelogan, gerbang persetujuan, dan jejak audit melalui kemampuan alur kerja. Kontrol ini memenuhi persyaratan peraturan dan memberikan visibilitas operasional ke dalam keputusan agen.
- Peninjauan oleh manusia. Sisipkan titik pemeriksaan tempat orang memvalidasi output agen sebelum eksekusi hilir. Pola human-in-the-loop ini menjaga kualitas sambil mempertahankan manfaat otomatisasi.
Lihat Strategi orkestrasi untuk opsi implementasi alur kerja khusus teknologi.
Pertimbangan terkait sistem agen tunggal
Batas panjang konteks membatasi volume informasi yang diproses agen secara bersamaan. Persyaratan fungsionalitas yang luas mempersulit keamanan hak istimewa terkecil karena agen tunggal memerlukan izin untuk semua tindakan potensial. Domain kompleks dapat membuat agen tunggal kewalahan, yang menyebabkan penurunan akurasi atau peningkatan waktu respons seiring pertumbuhan konteks.
Kerangka kerja keputusan
| Pendekatan | Gunakan ketika diperlukan | Lewati proses prototyping | Langkah pertama |
|---|---|---|---|
| Agen tunggal | Domain tetap sempit, konteks terpadu diperlukan, prioritas kecepatan, batasan biaya ada | Ya, lanjutkan ketika cakupan tetap sederhana dan urgensi pengiriman mendominasi | Menerapkan agen tunggal dengan alat yang diperlukan dan melakukan iterasi berdasarkan penggunaannya |
| Prototipe komparatif | Keputusan arsitektur tidak jelas, membutuhkan bukti untuk penanganan konteks, pemisahan peran, atau performa | Tidak, prototipe memberikan bukti keputusan | Jalankan pengujian terkontrol yang membandingkan arsitektur dengan metrik keberhasilan yang ditentukan |
| Multi-agen | Batasan tegas ada untuk keamanan, kepatuhan, atau pemisahan organisasi, dibutuhkan penskalaan multi-domain yang terjamin. | Ya, lanjutkan ketika persyaratan mengamanatkan pemisahan arsitektur | Merancang agen terisolasi dengan akses terlingkup dan kontrak antarmuka eksplisit |