Agen di Microsoft Foundry

Foundry Agent Service adalah platform terkelola untuk membangun, menyebarkan, dan menskalakan agen AI. Bangun menggunakan kerangka kerja apa pun, model yang didukung apa pun dari katalog model Foundry, dan satu titik akses untuk inferensi model dan alat.

Foundry mendukung Anda di seluruh spektrum, mulai dari pendekatan deklaratif hingga penulisan kode penuh: definisikan agen prompt dan biarkan Foundry menjalankannya, kemas kode Anda sendiri sebagai agen yang dihosting, atau panggil API Responses dari agen yang sudah Anda jalankan di tempat lain. Pilih cara membangun mencakup setiap jalur.

Sekilas Layanan Agen

Komponen Apa fungsinya
Runtime Agen Menghosting dan menskalakan agen prompt dan agen Hosted. Mengelola percakapan, panggilan alat, dan siklus hidup agen.
Kotak Alat Kurasi sekumpulan alat sekali, seperti: pencarian web, pencarian file, penerjemah kode, server MCP, dan fungsi kustom. Kemudian bagikan ke berbagai agen melalui satu endpoint MCP terkelola dengan autentikasi, tata kelola, dan pembuatan versi terpusat.
Model Bekerja dengan banyak model dari katalog model Foundry, seperti GPT-4o, Llama, dan DeepSeek. Tukar model tanpa mengubah kode agen Anda.
Observabilitas Pelacakan end-to-end, metrik, evaluasi, dan integrasi Application Insights. Lihat setiap keputusan yang diambil agen Anda dan ukur kualitasnya.
Pengoptimalan Pengoptimal agen (pratinjau) mengevaluasi perilaku agen dan secara otomatis menghasilkan instruksi, keterampilan, deskripsi alat, dan pilihan model yang lebih baik untuk agen yang diminta dan agen yang dihosting.
Identitas & Keamanan Microsoft Entra Identity, RBAC, filter konten, dan isolasi jaringan virtual. Kepercayaan tingkat perusahaan yang terintegrasi.
Menerbitkan Agen Versi, buat titik akhir yang stabil, dan bagikan melalui Microsoft Teams, Microsoft 365 Copilot, dan Entra Agent Registry.

Pilih cara membuat

Tip

Membangun agen pertama Anda? Mulailah dengan agen prompt menggunakan portal Foundry, atau mulai cepat untuk membuat agen prompt dengan kode.

Foundry memberi Anda beberapa cara untuk membuat, mulai dari satu panggilan model hingga agen yang sepenuhnya terkontainerisasi. Pilih jalur Anda berdasarkan apa yang anda coba lakukan:

  • Ingin yang paling mudah dikelola?Mulailah dengan agen berbasis prompt. Mengonfigurasi instruksi, model, dan alat; Foundry menjalankannya tanpa kode atau infrastruktur.
  • Ingin kendali penuh di Foundry?Terapkan agen yang dihosting. Bawa kode dan kerangka kerja Anda sendiri sebagai kontainer; Foundry menjalankannya dengan titik akhir terkelola, penskalakan, dan identitas.
  • Sudah menjalankan kode agen di tempat lain?Panggil API Respons secara langsung untuk menggunakan model dan alat Foundry, tanpa sumber daya agen untuk dikelola.

Agen prompt dan agen yang dihosting adalah dua jenis agen di Foundry. Bagian berikutnya memecah nilai masing-masing sehingga Anda dapat memilih dengan percaya diri.

Jenis agen

Layanan Agen menawarkan dua jenis agen. Pilihan Anda menetapkan berapa banyak yang Anda bangun versus berapa banyak yang dikelola Foundry:

  • Agen perintah: cara tercepat. Tentukan instruksi, model, dan alat, dan Foundry menjalankan agen untuk Anda tanpa kode atau infrastruktur untuk dikelola.
  • Agen terhosting: kontrol paling besar. Gunakan kode dan framework milik Anda sendiri, dan Foundry akan menjalankannya sebagai kontainer dengan endpoint terkelola, penskalaan, dan identitas terkelola.

Agen pemicu

Anda mendefinisikan agen prompt sepenuhnya melalui konfigurasi, termasuk instruksi, pemilihan model, dan perangkat. Tulis di portal Foundry untuk memulai cepat, atau tentukan secara terprogram dengan SDK atau REST API untuk diintegrasikan dengan alur kerja CI/CD Anda. Apa pun caranya, Foundry akan menjalankan agen untuk Anda. Tidak ada kode aplikasi yang perlu dipertahankan, dan tidak ada kontainer atau paket untuk mengoptimalkan, menskalakan, atau memantau keamanan.

Dua jalur untuk memulai:

  • Portal-first: buat agen secara interaktif di portal Foundry, uji di taman bermain, lalu panggil dari kode aplikasi Anda.
  • Code-first: tentukan agen menggunakan SDK atau REST API di alur penyebaran Anda, mengaktifkan kontrol versi, peninjauan kode, dan peluncuran otomatis.

Cocok untuk: mulai dengan cepat, alat internal, agen produksi yang tidak memerlukan logika orkestrasi kustom, dan tim yang menginginkan runtime terkelola tanpa overhead infrastruktur.

Agen yang Dihosting

Hosted adalah agen berbasis kode yang Anda bangun dengan Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK, atau kode Anda sendiri. Kirim agen Anda sebagai gambar kontainer atau file .zip kode sumber Anda (Foundry membangun gambar untuk Anda saat Anda membawa file .zip), dan Foundry menjalankannya dengan titik akhir terkelola, penskalaan otomatis, identitas Microsoft Entra khusus, persistensi status tingkat sesi, dan pengamatan end-to-end.

Di bawah tenda, kode agen Anda memanggil titik akhir proyek Foundry Anda untuk inferensi model dan orkestrasi alat, yang memberi Anda akses ke model Foundry dari katalog dan sekumpulan alat platform terpadu: alat standar seperti pencarian file, penerjemah kode, dan pencarian web, ditambah alat tambahan seperti SharePoint, WorkIQ, dan Fabric IQ.

Paling cocok untuk: Agen yang memanggil kode kustom Anda; selain itu, logika orkestrasi kustom, sistem multi-agen, dan protokol kustom (webhook, voice, AG-UI) saat Anda menginginkan kendali penuh atas logika agen sambil tetap membiarkan Foundry menangani hosting, penskalaan, dan identitas.

Membandingkan jenis agen

Agen pemicu Agen yang Dihosting
Permukaan penulisan Portal, SDK, atau REST Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK, kode kustom
Model Foundry + alat platform Ya Ya (melalui API Respons pada titik akhir proyek Foundry)
Dukungan keterampilan Ya Ya
Kode runtime untuk dipertahankan Tidak Ya, logika agen Anda
Komputasi untuk mengelola Tidak ada, dikelola sepenuhnya Komputasi kontainer, dikelola oleh Foundry
Titik akhir terkelola Ya Ya
Autoscale Otomatis, dikelola oleh Foundry; diskalakan sesuai dengan volume permintaan Otomatis, dikelola oleh Foundry; menskalakan jumlah instans kontainer berdasarkan sesi dan volume permintaan
Identitas agen (Entra) Ya Otomatis, khusus untuk tiap agen
Model biaya Inferensi per panggilan + penggunaan alat Inferensi per panggilan + penggunaan alat + komputasi kontainer
Terbaik untuk Mulai dengan cepat, agen siap produksi tanpa orkestrasi kustom Agen yang memanggil kode kustom; dan sebagai fungsi sekunder, logika orkestrasi kustom

Gunakan API Responses untuk agen sementara

Saat Anda memanggil API Respons langsung dari kode Anda sendiri, Anda membangun agen sementara: definisi agen (instruksi, alat, dan model) berada di kode aplikasi Anda alih-alih sebagai sumber daya yang bertahan di Foundry. Setiap panggilan merakit agen dalam proses Anda dan menjalankannya menggunakan Responses API, jadi tidak ada agen yang perlu dibuat, diperbarui, atau dihapus di Foundry.

Gunakan pola ini saat Anda ingin:

  • Logika agen yang disertakan bersama aplikasi Anda. Buat versi definisi bersama sisa kode Anda melalui kontrol versi dan peninjauan kode, alih-alih sebagai sumber daya Foundry terpisah yang harus dijaga agar tetap sinkron dengan aplikasi.
  • Kapabilitas foundry tanpa beban sumber daya yang besar. Anda masih mendapatkan model katalog, perangkat platform, data dalam cakupan proyek, autentikasi On-Behalf-Of, serta observabilitas dan tata kelola tingkat proyek. Semuanya melalui endpoint proyek Foundry Anda.

Lihat Mulai Cepat: Gunakan API Respons untuk informasi.

Dukungan model

Layanan Agen bekerja dengan banyak model yang tersedia di dalam katalog model Foundry. Untuk daftar lengkapnya, lihat portal Foundry.

Alat dan kotak alat

Agen berinteraksi dengan dunia menggunakan alat. Foundry menawarkan alat bawaan seperti pencarian web, pencarian file, penerjemah kode, dan memori, sekaligus memungkinkan Anda menambahkan alat kustom melalui fungsi, spesifikasi OpenAPI, dan server MCP. Untuk set lengkapnya, lihat gambaran umum kotak alat.

Kotak alat mengelompokkan alat tersebut ke dalam satu unit yang dapat digunakan kembali. Anda cukup mengkurasi alat sekali, dan Foundry menyediakannya melalui satu endpoint terkelola yang kompatibel dengan MCP yang dapat digunakan oleh agen atau runtime apa pun, apa pun kerangkanya. Kumpulan alat memusatkan autentikasi, tata kelola, dan pengelolaan versi, jadi Anda dapat memperbarui alat di satu tempat alih-alih mengonfigurasi ulang setiap agen. Buat versi baru, uji, dan promosikan ke default saat Anda siap. Untuk mempelajari lebih lanjut, lihat Apa itu Toolbox di Foundry?.

Menyambungkan dan mengautentikasi ke server jarak jauh MCP

Foundry mendukung server MCP jarak jauh yang dapat Anda tambahkan ke agen Anda, seperti Azure DevOps McP Server. Sambungkan organisasi Azure DevOps Anda untuk mengaktifkan akses agen, dan konfigurasikan subset alat yang tersedia untuk mengontrol tindakan mana yang dapat dilakukan agen. Anda juga dapat menyambungkan server MCP kustom yang dihosting di Azure Functions menggunakan titik akhir webhook Functions MCP (/runtime/webhooks/mcp) untuk mengekspos alat kustom ke agen Anda.

Opsi autentikasi yang didukung untuk server MCP dan koneksi alat lainnya meliputi:

  • Akses berbasis kunci
  • Microsoft Entra (menggunakan identitas terkelola agen atau identitas terkelola proyek)
  • Passthrough identitas OAuth (On-Behalf-Of)
  • Akses yang tidak diautentikasi, jika sesuai

Opsi autentikasi ini juga berlaku saat menyambungkan server MCP jarak jauh, dengan kredensial dan cakupan yang dikelola dalam konfigurasi alat.

Siklus hidup pengembangan

Agent Service mendukung proses kerja build-test-deploy-monitor lengkap:

  1. Buat: Definisikan agen prompt di portal atau dengan SDK, atau tulis agen yang dihosting dan memanggil Responses API.
  2. Uji: Mengobrol dengan agen Anda di taman bermain agen atau berjalan secara lokal. Integrasi server MCP, termasuk server MCP kustom yang dihosting di Azure Functions, dapat diuji langsung di playground untuk memvalidasi konektivitas alat, izin, dan perilakunya sebelum dipublikasikan.
  3. Jejak: Periksa setiap panggilan model, pemanggilan alat, dan keputusan dengan pelacakan agen.
  4. Evaluasi: Jalankan evaluasi untuk mengukur kualitas dan menangkap regresi.
  5. Optimalkan: Tingkatkan instruksi agen yang dihosting secara otomatis menggunakan pengoptimal agen.
  6. Terbitkan: Promosikan agen Anda ke sumber daya terkelola dengan titik akhir yang stabil.
  7. Monitor: Melacak performa dan keandalan dengan metrik dan dasbor layanan .

Untuk panduan terperinci, lihat Siklus hidup pengembangan agen.

Kemampuan perusahaan

Agent Service menyediakan infrastruktur tingkat perusahaan untuk setiap agen yang Anda sebarkan:

  • Identitas agen: Setiap agen dapat memiliki identitas Microsoft Entra khusus, memungkinkan akses yang aman dan terlingkup ke sumber daya dan API tanpa berbagi kredensial. Identitas agen dapat mengautentikasi ke server MCP eksternal, termasuk yang dihosting di Azure Functions, dan dukungan passthrough OAuth On-Behalf-Of (OBO) tersedia saat dikonfigurasi.
  • Jaringan privat: Jalankan agen dalam jaringan virtual Azure Anda untuk isolasi jaringan penuh dan kepatuhan dengan persyaratan residensi data. Jaringan privat tersedia untuk agen prompt. Agen yang dihosting mendukung Microsoft Azure Virtual Network milik sendiri (BYO VNet), di mana setiap sesi berjalan di sandbox terisolasi VM yang terhubung ke VNet Anda.
  • Kontrol akses berbasis peran: Izin terperinci melalui Microsoft Entra dan Azure RBAC. Mengontrol siapa yang dapat membuat, memanggil, dan mengelola agen.
  • Keamanan konten: Filter konten terintegrasi membantu mengurangi risiko injeksi prompt (termasuk injeksi antar-prompt) dan mencegah output yang tidak aman.

Untuk instruksi penyiapan lingkungan, lihat Menyiapkan lingkungan Anda.

Menerbitkan dan berbagi

Agent Service menyediakan penerapan versi dan penerbitan bawaan sehingga agen Anda dapat berpindah dari pengembangan ke produksi dengan percaya diri.

  • Pembuatan versi: Saat Anda melakukan iterasi pada agen Anda, versi akan otomatis dibuatkan snapshot. Gulung balik ke versi sebelumnya atau bandingkan perubahan antar versi.
  • Penerbitan: Mempromosikan agen ke sumber daya terkelola dengan titik akhir yang stabil. Agen yang diterbitkan mewarisi identitas perusahaan dan kontrol akses yang dikonfigurasi untuk proyek Anda dan dapat dipanggil secara terprogram.
  • Distribusi: Bagikan agen yang diterbitkan melalui Microsoft 365 Copilot dan Teams serta Entra Agent Registry, sehingga menempatkan agen Anda di tempat pengguna Anda biasa bekerja. Foundry Agent Service mendukung OpenResponses dan Protokol Aktivitas untuk penerbitan Microsoft 365, protokol Invocations untuk integrasi titik akhir yang fleksibel dengan aplikasi dan layanan kustom, dan protokol A2A (pratinjau) untuk komunikasi agen-ke-agen.

Keamanan, privasi, dan kepatuhan

Agent Service dirancang untuk beban kerja perusahaan di mana Anda membutuhkan kontrol yang kuat atas identitas, jaringan, penanganan data, dan keamanan.

  • Kontrol keamanan: Gunakan pagar pembatas terintegrasi untuk membantu mengurangi output yang tidak aman dan mengurangi risiko injeksi prompt, termasuk serangan injeksi lintas perintah (XPIA).
  • Kontrol isolasi jaringan dan residensi data: Gunakan jaringan virtual dan bawa sumber daya Anda sendiri untuk memenuhi kebutuhan Anda.
  • Bring sumber daya Anda sendiri: Gunakan sumber daya Azure Anda sendiri (misalnya, penyimpanan, Pencarian Azure AI, dan Azure Cosmos DB untuk status percakapan) untuk memenuhi kebutuhan kepatuhan dan operasional. Lihat Menggunakan sumber daya Anda sendiri.
  • Panduan AI yang Bertanggung Jawab: Untuk serangkaian rekomendasi dan sumber daya tata kelola yang lebih luas, lihat 'Responsible AI untuk Microsoft Foundry'.

Konten terkait

  • Last updated on