Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Sebagian besar bisnis tidak hanya ingin chatbot. Mereka menginginkan otomatisasi yang lebih cepat dan memiliki lebih sedikit kesalahan. Keinginan itu mungkin berarti meringkas dokumen, memproses faktur, mengelola tiket dukungan, atau menerbitkan posting blog. Dalam semua kasus, tujuannya sama: membebaskan orang dan sumber daya untuk fokus pada pekerjaan bernilai lebih tinggi dengan membongkar tugas berulang dan dapat diprediksi.
Model bahasa besar (LLM) memperkenalkan jenis otomatisasi baru dengan sistem yang dapat memahami data yang tidak terstruktur, membuat keputusan, dan menghasilkan konten. Dalam praktiknya, bisnis dapat mengalami kesulitan bergerak melampaui demo dan ke produksi. LLM dapat menyimpang, tidak akurat, dan tidak memiliki akuntabilitas. Tanpa visibilitas, penegakan kebijakan, dan orkestrasi, model ini sulit dipercaya dalam alur kerja bisnis nyata.
Microsoft Foundry dirancang untuk mengubahnya. Ini adalah platform yang menggabungkan model, alat, kerangka kerja, dan tata kelola ke dalam sistem terpadu untuk membangun agen cerdas. Di pusat sistem ini adalah Foundry Agent Service, yang memungkinkan operasionalisasi agen dalam fungsi pengembangan, penerapan, dan produksi.
Agent Service menghubungkan potongan inti Foundry, seperti model, alat, dan kerangka kerja, ke dalam satu runtime. Ini mengelola percakapan, mengatur panggilan alat, memberlakukan keamanan konten, dan terintegrasi dengan sistem identitas, jaringan, dan pengamatan. Kemampuan ini membantu Anda membangun agen yang aman, dapat diskalakan, dan siap produksi.
Dengan mengabstraksi kompleksitas infrastruktur dan menegakkan kepercayaan dan keamanan berdasarkan desain, Agent Service dapat membantu Anda berpindah dari prototipe ke produksi dengan percaya diri.
Prasyarat
- Langganan Azure dengan izin untuk membuat dan mengelola sumber daya Foundry.
- Proyek Foundry. Jika Anda belum membuatnya, mulailah dengan penyiapan lingkungan.
- Model yang telah diterapkan yang dapat digunakan oleh agen Anda. Ketersediaan model dan wilayah dapat bervariasi; lihat model yang menginformasikan agen.
Ketersediaan, wilayah, dan batasan
Kemampuan Layanan Agen dapat bervariasi berdasarkan pengalaman Foundry yang Anda gunakan dan model serta wilayah yang Anda pilih.
- Untuk batas layanan, kuota, dan pertimbangan pembatasan, lihat Kuota dan batasan untuk Layanan Agen.
- Untuk dukungan model dan wilayah, lihat model yang memandu agen.
Jika Anda membangun agen pertama Anda, mulailah dengan tautan mulai cepat di Mulai menggunakan Foundry Agent Service untuk memastikan Anda berada di jalur API yang tepat untuk pengalaman Foundry Anda.
Apa itu agen AI?
Agen membuat keputusan, memanggil alat, dan berpartisipasi dalam alur kerja. Mereka melakukan tugas-tugas ini kadang-kadang secara independen dan kadang-kadang bekerja sama dengan agen atau manusia lain. Mereka dasar untuk otomatisasi proses nyata.
Agen yang Anda buat melalui Foundry bukan monolit. Mereka adalah unit yang dapat disusun. Setiap agen memiliki peran tertentu, didukung oleh model yang tepat, dan dilengkapi dengan alat yang tepat. Anda menyebarkan setiap agen dalam runtime yang aman, dapat diamati, dan dapat diatur.
Agen memiliki tiga komponen inti:
- Model (LLM): Memberdayakan penalaran dan pemahaman bahasa.
-
Instruksi: Tentukan tujuan, perilaku, dan batasan agen. Mereka dapat memiliki jenis berikut:
- Deklaratif:
- Berbasis perintah: Agen tunggal yang ditentukan secara deklaratif yang menggabungkan konfigurasi model, instruksi, alat, dan permintaan bahasa alami untuk mendorong perilaku.
- Alur kerja: Alur kerja agenik yang dapat dinyatakan sebagai YAML atau kode lain untuk mengatur beberapa agen bersama-sama, atau untuk memicu tindakan pada kriteria tertentu.
- Dihosting: Agen kontainer yang dibuat dan disebarkan dalam kode dan dihosting oleh Foundry.
- Deklaratif:
- Alat: Biarkan agen mengakses pengetahuan atau mengambil tindakan.
Agen menerima input yang tidak terstruktur seperti perintah pengguna, pemberitahuan, atau pesan dari agen lain. Mereka menghasilkan output dalam bentuk hasil alat atau pesan. Sepanjang jalan, mereka mungkin memanggil alat untuk melakukan pengambilan atau memicu tindakan.
Bagaimana cara kerja agen di Foundry?
Pikirkan Foundry sebagai garis rakitan untuk agen cerdas. Seperti pabrik modern lainnya, Foundry mengumpulkan stasiun khusus yang masing-masing bertanggung jawab untuk membentuk bagian dari produk akhir. Alih-alih mesin dan sabuk konveyor, pabrik agen menggunakan model, alat, kebijakan, dan orkestrasi untuk membangun agen yang aman, dapat diuji, dan siap produksi. Berikut cara kerja pabrik langkah demi langkah:
1. Model
Garis perakitan dimulai saat Anda memilih model yang memberi agen Anda kecerdasannya. Pilih dari katalog model bahasa besar (LLM) yang terus berkembang, termasuk GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI), dan lainnya seperti Llama. Model ini adalah inti penalaran agen yang menginformasikan keputusannya.
2. Penyesuaian
Bentuk model agar pas dengan kasus penggunaan Anda. Sesuaikan agen Anda dengan penyempurnaan, penyulingan, atau perintah khusus domain. Mengenkode perilaku agen, pengetahuan yang spesifik terhadap peran, dan pola performa sebelumnya dengan menggunakan data yang diambil dari konten percakapan nyata dan hasil alat analisis.
3. Pengetahuan dan alat
Lengkapi agen Anda dengan alat. Alat-alat ini memungkinkan agen mengakses pengetahuan perusahaan (seperti Bing, SharePoint, dan Pencarian Azure AI) dan mengambil tindakan dunia nyata (melalui Azure Logic Apps, Azure Functions, OpenAPI, dan banyak lagi). Langkah ini meningkatkan kemampuan agen untuk memperluas kemampuannya.
4. Orkestrasi
Agen membutuhkan koordinasi. Agen yang terhubung mengatur siklus hidup penuh, seperti menangani panggilan alat, memperbarui status percakapan, mengelola percobaan ulang, dan pengelogan output.
5. Pengamatan
Menguji dan memantau agen. Foundry dapat menangkap log, jejak, dan evaluasi di setiap langkah. Dengan visibilitas tingkat percakapan penuh dan integrasi Application Insights, tim dapat memeriksa setiap keputusan dan terus meningkatkan agen dari waktu ke waktu.
6. Kepercayaan
Pastikan bahwa agen cocok dan dapat diandalkan untuk beban kerja tempat mereka ditetapkan. Foundry menerapkan fitur kepercayaan tingkat perusahaan, termasuk identitas melalui Microsoft Entra, kontrol akses berbasis peran (RBAC), filter konten, enkripsi, dan isolasi jaringan. Anda memilih bagaimana dan di mana agen Anda berjalan, dengan menggunakan infrastruktur yang dikelola platform atau bawa sendiri.
Hasilnya adalah agen yang siap untuk produksi: andal, dapat diperluas, dan aman untuk disebarkan di seluruh alur kerja Anda.
Mengapa menggunakan Foundry Agent Service?
Agent Service menyediakan fondasi siap produksi untuk menyebarkan agen cerdas di lingkungan perusahaan. Berikut cara membandingkannya di seluruh kemampuan utama:
| Kemampuan | Layanan Agen |
|---|---|
| Visibilitas ke dalam percakapan | Akses penuh ke percakapan terstruktur, termasuk pesan pengguna-ke-agen dan agen-ke-agen. Ideal untuk antarmuka pengguna, debugging, dan pelatihan. |
| Koordinasi beberapa agen | Dukungan bawaan untuk komunikasi antar agen. |
| Orkestrasi perangkat | Pemrosesan sisi server dan pengulangan panggilan alat dengan pencatatan terstruktur. Tidak diperlukan orkestrasi manual. |
| Kepercayaan dan keamanan | Filter konten terintegrasi untuk membantu mencegah penyalahgunaan dan mengurangi risiko injeksi pemicu, termasuk serangan injeksi lintas pemicu (XPIA). Semua output diatur oleh kebijakan. |
| Integrasi perusahaan | Kemampuan untuk memenuhi kebutuhan kepatuhan dengan membawa storage Anda sendiri, indeks Pencarian Azure AI, dan jaringan virtual. |
| Observabilitas dan penelusuran kesalahan | Keterlacakan penuh percakapan, pemanggilan alat, dan jejak pesan; Integrasi Application Insights untuk data penggunaan. |
| Kontrol identitas dan kebijakan | Dibangun di atas Microsoft Entra dengan dukungan penuh untuk RBAC, log audit, dan akses bersyarat perusahaan. |
Keamanan, privasi, dan kepatuhan
Agent Service dirancang untuk beban kerja perusahaan di mana Anda membutuhkan kontrol yang kuat atas identitas, jaringan, penanganan data, dan keamanan.
- Kontrol keamanan: Gunakan filter konten terintegrasi untuk membantu mengurangi output yang tidak aman dan mengurangi risiko injeksi prompt, termasuk serangan injeksi lintas perintah (XPIA).
- Kontrol isolasi jaringan dan residensi data: Gunakan jaringan virtual dan bawa sumber daya Anda sendiri untuk memenuhi kebutuhan Anda.
- Bring sumber daya Anda sendiri: Gunakan sumber daya Azure Anda sendiri (misalnya, penyimpanan, Pencarian Azure AI, dan Azure Cosmos DB untuk status percakapan) untuk memenuhi kebutuhan kepatuhan dan operasional. Lihat Menggunakan sumber daya Anda sendiri.
- Panduan AI Bertanggung Jawab: Untuk serangkaian rekomendasi dan sumber daya tata kelola yang lebih luas, lihat AI Bertanggung Jawab untuk Microsoft Foundry.
Mulai menggunakan Foundry Agent Service
Untuk mulai menggunakan Agent Service, buat proyek Foundry di langganan Azure Anda.
Jika Anda membuat kode, lihat Microsoft Foundry SDK untuk opsi dan panduan SDK.
Jika ini pertama kalinya Anda menggunakan layanan, mulailah dengan panduan penyiapan lingkungan dan panduan memulai cepat.
Buat proyek dengan sumber daya yang diperlukan. Setelah Anda membuat proyek, sebarkan model yang kompatibel seperti GPT-4o. Ketika Anda memiliki model yang disebarkan, Anda dapat mulai melakukan panggilan API ke Agent Service dengan menggunakan SDK.
BCDR untuk agen
Untuk mendukung ketahanan layanan, Agent Service bergantung pada akun Azure Cosmos DB yang disediakan pelanggan untuk kelangsungan bisnis dan pemulihan bencana (BCDR). Pendekatan ini membantu memastikan bahwa status agen Anda dapat dipertahankan dan dipulihkan jika terjadi pemadaman regional.
Sebagai pelanggan Azure Standard, Anda menyediakan dan mengelola akun Azure Cosmos DB penyewa tunggal Anda sendiri. Anda menyimpan semua status agen di akun ini. Anda mengontrol pencadangan dan pemulihan melalui kemampuan asli di Azure Cosmos DB.
Jika wilayah utama menjadi tidak tersedia, agen secara otomatis terhubung ke akun Azure Cosmos DB yang sama di wilayah sekunder. Karena Cosmos DB mempertahankan semua riwayat, agen dapat melanjutkan operasi dengan gangguan minimal.
Provisikan dan pertahankan akun Azure Cosmos DB Anda, dan konfigurasikan kebijakan pencadangan dan pemulihan yang sesuai. Upaya ini membantu memastikan kelangsungan yang mulus jika wilayah utama menjadi tidak tersedia.
Untuk panduan konfigurasi, lihat Menggunakan sumber daya dan jaringan virtual Anda sendiri.
Biaya
Menggunakan Layanan Agen dapat dikenakan biaya berdasarkan model yang Anda terapkan dan sumber daya Azure yang Anda gunakan untuk proyek Anda (misalnya, pencatatan dan sumber daya yang dikelola pelanggan yang Anda hubungkan).
Untuk memahami dan mengelola driver biaya, lihat Merencanakan dan mengelola biaya.
Pemecahan masalah
Jika Anda mengalami kesulitan memulai, periksa masalah umum ini:
- Model tidak tersedia di wilayah Anda: Lihat model yang menginformasikan agen.
- Permintaan dibatasi atau gagal karena kuota: Lihat Kuota dan batasan untuk Layanan Agen.
- Anda tidak dapat mengakses sumber daya atau penyebaran: Konfirmasi penetapan peran Anda dan ikuti penyiapan lingkungan.
- Anda perlu men-debug panggilan alat atau perilaku agen: Mulailah dengan agen pelacakan dengan SDK dan metrik.