Agen di Microsoft Foundry

Foundry Agent Service adalah platform terkelola untuk membangun, menyebarkan, dan menskalakan agen AI. Bangun menggunakan kerangka kerja apa pun, model yang didukung apa pun dari katalog model Foundry, dan satu titik akses untuk inferensi model dan alat.

Foundry mendukung Anda di seluruh spektrum, dari pendekatan deklaratif hingga kode penuh: definisikan agen prompt atau agen prompt berbasis suara dan biarkan Foundry menjalankannya, kemas kode Anda sendiri sebagai agen terhosting, atau panggil Responses API dari agen yang sudah Anda jalankan di tempat lain. Pilih cara membangun mencakup setiap jalur.

Sekilas Layanan Agen

Komponen Apa fungsinya
Runtime Agen Menghosting dan menskalakan agen prompt dan agen Hosted. Mengelola percakapan, panggilan alat, dan siklus hidup agen.
Kotak Alat Kurasi sekumpulan alat sekali, seperti: pencarian web, pencarian file, penerjemah kode, server MCP, dan fungsi kustom. Kemudian bagikan ke berbagai agen melalui satu endpoint MCP terkelola dengan autentikasi, tata kelola, dan pembuatan versi terpusat.
Model Bekerja dengan banyak model dari katalog model Foundry, seperti GPT-4o, Llama, dan DeepSeek. Tukar model tanpa mengubah kode agen Anda.
Observabilitas Pelacakan end-to-end, metrik, evaluasi, dan integrasi Application Insights. Lihat setiap keputusan yang diambil agen Anda dan ukur kualitasnya.
Pengoptimalan Pengoptimal agen (pratinjau) mengevaluasi perilaku agen dan secara otomatis menghasilkan instruksi, keterampilan, deskripsi alat, dan pilihan model yang lebih baik untuk agen yang diminta dan agen yang dihosting.
Identitas & Keamanan Microsoft Entra Identity, RBAC, filter konten, dan isolasi jaringan virtual. Kepercayaan tingkat perusahaan yang terintegrasi.
Menerbitkan Agen versi, buat titik akhir yang stabil, dan bagikan melalui Microsoft Teams, Microsoft Copilot, dan Registri Agen Entra.

Pilih cara membuat

Tip

Membangun agen pertama Anda? Mulailah dengan agen prompt menggunakan portal Foundry, atau mulai cepat untuk membuat agen prompt dengan kode.

Foundry memberi Anda beberapa cara untuk membuat, mulai dari satu panggilan model hingga agen yang sepenuhnya terkontainerisasi. Pilih jalur Anda berdasarkan apa yang anda coba lakukan:

  • Ingin opsi pengelolaan paling ringan untuk teks?Mulai dengan agen prompt. Mengonfigurasi instruksi, model, dan alat; Foundry menjalankannya tanpa kode atau infrastruktur.
  • Ingin pengalaman suara real-time terkelola?Buat agen prompt berbasis suara. Atur pengalaman suara dan hubungkan melalui Voice Live tanpa perlu meng-host kode orkestrasi sendiri.
  • Ingin kendali penuh di Foundry?Terapkan agen yang dihosting. Bawa kode dan kerangka kerja Anda sendiri sebagai kontainer; Foundry menjalankannya dengan titik akhir terkelola, penskalakan, dan identitas.
  • Sudah menjalankan kode agen di tempat lain?Panggil API Respons secara langsung untuk menggunakan model dan alat Foundry, tanpa sumber daya agen untuk dikelola.

Agen prompt, agen prompt berbasis suara, dan agen terhosting merupakan jenis-jenis agen yang dibahas dalam ikhtisar ini. Bagian berikutnya memecah nilai masing-masing sehingga Anda dapat memilih dengan percaya diri.

Jenis agen

Agent Service menawarkan tiga jenis agen. Pilihan Anda menetapkan berapa banyak yang Anda bangun versus berapa banyak yang dikelola Foundry:

  • Agen perintah: cara tercepat. Tentukan instruksi, model, dan alat, dan Foundry menjalankan agen untuk Anda tanpa kode atau infrastruktur untuk dikelola.
  • Agen perintah berbasis suara: agen suara real-time yang dikelola. Konfigurasikan model, instruksi, audio, dan alat, lalu sambungkan ke agen melalui Voice Live.
  • Agen terhosting: kontrol paling besar. Gunakan kode dan framework milik Anda sendiri, dan Foundry akan menjalankannya sebagai kontainer dengan endpoint terkelola, penskalaan, dan identitas terkelola.

Agen pemicu

Anda mendefinisikan agen prompt sepenuhnya melalui konfigurasi, termasuk instruksi, pemilihan model, dan perangkat. Tulis di portal Foundry untuk memulai cepat, atau tentukan secara terprogram dengan SDK atau REST API untuk diintegrasikan dengan alur kerja CI/CD Anda. Apa pun caranya, Foundry akan menjalankan agen untuk Anda. Tidak ada kode aplikasi yang perlu dipertahankan, dan tidak ada kontainer atau paket untuk mengoptimalkan, menskalakan, atau memantau keamanan.

Dua jalur untuk memulai:

  • Portal-first: buat agen secara interaktif di portal Foundry, uji di taman bermain, lalu panggil dari kode aplikasi Anda.
  • Code-first: tentukan agen menggunakan SDK atau REST API di alur penyebaran Anda, mengaktifkan kontrol versi, peninjauan kode, dan peluncuran otomatis.

Cocok untuk: mulai dengan cepat, alat internal, agen produksi yang tidak memerlukan logika orkestrasi kustom, dan tim yang menginginkan runtime terkelola tanpa overhead infrastruktur.

Agen prompt berbasis suara

Agen prompt berbasis suara adalah agen terkelola untuk percakapan lisan secara real time. Konfigurasikan model, instruksi, pengaturan audio, salam opsional, dan alat dalam definisi agen. Foundry Agent Service mengelola siklus hidup agen dan menggunakan Voice Live untuk pengenalan ucapan, pengambilan giliran, interaksi model, dan sintesis ucapan.

Agen prompt berbasis suara mendukung model terkelola dan, jika didukung, penyebaran model Anda sendiri. Anda terhubung ke agen melalui WebSocket real-time alih-alih mengirim permintaan teks individual. Untuk penyiapan dan bahasa klien yang didukung, lihat Mulai Cepat: Membuat agen prompt berbasis suara. Untuk arsitektur suara, sumber daya, dan batas pratinjau saat ini, lihat Cara kerja agen berbasis suara.

Paling cocok untuk: pengalaman suara yang berinteraksi langsung dengan pelanggan, skenario pusat panggilan, dan aplikasi yang memerlukan interaksi audio berlatensi rendah tanpa harus mengimplementasikan sendiri layanan orkestrasi suara.

Agen yang Dihosting

Hosted adalah agen berbasis kode yang Anda bangun dengan Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK, atau kode Anda sendiri. Kirim agen Anda sebagai gambar kontainer atau file .zip kode sumber Anda (Foundry membangun gambar untuk Anda saat Anda membawa file .zip), dan Foundry menjalankannya dengan titik akhir terkelola, penskalaan otomatis, identitas Microsoft Entra khusus, persistensi status tingkat sesi, dan pengamatan end-to-end.

Di bawah tenda, kode agen Anda memanggil titik akhir proyek Foundry Anda untuk inferensi model dan orkestrasi alat, yang memberi Anda akses ke model Foundry dari katalog dan sekumpulan alat platform terpadu: alat standar seperti pencarian file, penerjemah kode, dan pencarian web, ditambah alat tambahan seperti SharePoint, WorkIQ, dan Fabric IQ.

Paling cocok untuk: Agen yang memanggil kode kustom Anda; selain itu, logika orkestrasi kustom, sistem multi-agen, dan protokol kustom (webhook, voice, AG-UI) saat Anda menginginkan kendali penuh atas logika agen sambil tetap membiarkan Foundry menangani hosting, penskalaan, dan identitas.

Membandingkan jenis agen

Agen pemicu Agen prompt berbasis suara Agen yang Dihosting
Permukaan penulisan Portal, SDK, atau REST Definisi agen melalui portal, SDK, atau REST Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK, kode kustom
Model Foundry + alat platform Ya Ya, melalui Voice Live dan alat agen yang dikonfigurasi Ya (melalui API Respons pada titik akhir proyek Foundry)
Dukungan keterampilan Ya Ya Ya
Kode runtime untuk dipertahankan Tidak Tidak ada untuk orkestrasi suara terkelola Ya, logika agen Anda
Komputasi untuk mengelola Tidak ada, dikelola sepenuhnya Tidak ada, dikelola sepenuhnya Komputasi kontainer, dikelola oleh Foundry
Titik akhir terkelola Ya Ya, WebSocket waktu nyata Ya
Autoscale Otomatis, dikelola oleh Foundry; diskalakan sesuai dengan volume permintaan Dikelola oleh Foundry dan Voice Live Otomatis, dikelola oleh Foundry; menskalakan jumlah instans kontainer berdasarkan sesi dan volume permintaan
Identitas agen (Entra) Ya Ya Otomatis, khusus untuk tiap agen
Model biaya Inferensi per panggilan + penggunaan alat Voice Live dan penggunaan model; lihat harga layanan Inferensi per panggilan + penggunaan alat + komputasi kontainer
Terbaik untuk Mulai dengan cepat, agen siap produksi tanpa orkestrasi kustom Interaksi lisan real-time tanpa meng-host kode orkestrasi suara Agen yang memanggil kode kustom; dan sebagai fungsi sekunder, logika orkestrasi kustom

Gunakan API Responses untuk agen sementara

Saat Anda memanggil API Respons langsung dari kode Anda sendiri, Anda membangun agen sementara: definisi agen (instruksi, alat, dan model) berada di kode aplikasi Anda alih-alih sebagai sumber daya yang bertahan di Foundry. Setiap panggilan merakit agen dalam proses Anda dan menjalankannya menggunakan Responses API, jadi tidak ada agen yang perlu dibuat, diperbarui, atau dihapus di Foundry.

Gunakan pola ini saat Anda ingin:

  • Logika agen yang disertakan bersama aplikasi Anda. Buat versi definisi bersama sisa kode Anda melalui kontrol versi dan peninjauan kode, alih-alih sebagai sumber daya Foundry terpisah yang harus dijaga agar tetap sinkron dengan aplikasi.
  • Kapabilitas foundry tanpa beban sumber daya yang besar. Anda masih mendapatkan model katalog, perangkat platform, data dalam cakupan proyek, autentikasi On-Behalf-Of, serta observabilitas dan tata kelola tingkat proyek. Semuanya melalui endpoint proyek Foundry Anda.

Lihat Mulai Cepat: Gunakan API Respons untuk informasi.

Cara kerja agen berbasis suara

Agen prompt berbasis suara menjalankan percakapan lisan secara real time. Anda mengonfigurasi agen di portal Foundry atau melalui SDK, mengujinya dengan mikrofon, dan membuatnya tersedia melalui pengalaman browser atau saluran nomor telepon. Foundry mengelola siklus hidup agen dan orkestrasi suara, sehingga Anda tidak menghosting infrastruktur itu sendiri.

Important

Agen berbasis suara dan beberapa kemampuan pemantauan, evaluasi, avatar, WebRTC, dan telepon terkait sedang dalam pratinjau. Kemampuan pratinjau disediakan tanpa perjanjian tingkat layanan dan tidak disarankan untuk beban kerja produksi hingga Anda meninjau persyaratan dukungan, keamanan, kepatuhan, dan ketersediaan mereka.

Agen berbasis suara mendukung dua arsitektur model.

Ucapan ke ucapan asli

Caller audio
  -> realtime speech model
  -> spoken response

Arsitektur ini dioptimalkan untuk percakapan yang alami dan berlatensi rendah. Model realtime menangani input dan output lisan secara langsung. Pengaturan dan keluarga suara yang didukung bergantung pada model yang dipilih.

Model teks berjenjang

Caller audio
  -> speech recognition
  -> text model
  -> speech synthesis
  -> spoken response

Arsitektur ini menyediakan model teks yang lebih luas dan pilihan suara Azure. Ini juga menyediakan kendali langsung atas transkripsi, daftar frasa, deteksi pergantian giliran, dan respons interim, tetapi setiap tahap turut menambah latensi ujung ke ujung.

Sumber daya inti

Agen suara yang umum dibuat melalui portal menggunakan:

  • Sumber daya dan proyek Foundry.
  • Agen prompt berbasis suara yang memiliki versi.
  • Model Voice Live yang sepenuhnya dikelola, atau model yang diterapkan oleh pelanggan dan memenuhi syarat.
  • Kapabilitas Azure Speech dalam Foundry Tools untuk transkripsi atau sintesis bila diperlukan oleh arsitektur yang dipilih.
  • Application Insights untuk data pelacakan, pemantauan, dan evaluasi.
  • Azure Communication Services dan Azure Event Grid untuk panggilan masuk perluasan Teams Phone, atau koneksi proyek Twilio untuk saluran nomor telepon Twilio.

Anda tidak perlu menyebarkan model audio terpisah saat menggunakan model Voice Live yang dikelola sepenuhnya. Ketersediaan dan perilaku model dimuat secara dinamis untuk sumber daya dan wilayah Anda.

Mendukung batasan di portal saat ini

Capability Perilaku berbasis suara saat ini
Pengujian browser Didukung di Agent Playground.
Pratinjau aplikasi web Tersedia saat titik akhir agen mendukung protokol Respons.
Nomor telepon Ekstensibilitas Teams Phone dan Twilio.
SIP langsung Saat ini tidak tersedia sebagai alur pelanggan yang didukung.
penerbitan Microsoft Teams dan aplikasi Microsoft 365 Copilot Kartu agen teks standar saat ini tidak ditampilkan di tata letak Saluran berbasis suara. Jangan jelaskan ini sebagai jalur integrasi telepon.
Avatar Tampilan visual browser melalui WebRTC; penelpon hanya menerima audio.
Monitoring Kartu ringkasan khusus suara, perincian token, dan bagan latensi koneksi memerlukan Application Insights.
Menelusuri Jejak suara menggunakan tampilan tunggal berbasis jejak karena jejak suara tidak memiliki API Responses response_id.
Evaluation Evaluasi percakapan penuh berdasarkan percakapan yang ada didukung. Evaluasi satu giliran dan percakapan simulasi saat ini belum didukung untuk agen suara.
Pembuatan himpunan data dari jejak Tindakan trace-page saat ini belum tersedia untuk agen suara.

Ketersediaan dan harga

Ketersediaan tergantung pada wilayah sumber daya Foundry, model yang dipilih, suara yang dipilih, langganan, dan fitur pratinjau yang diaktifkan. Periksa portal sebelum Anda mengandalkan model tertentu.

Biaya potensial termasuk input dan output model AI generatif, pengenalan dan sintesis ucapan, pelatihan dan hosting suara kustom, penggunaan avatar, penyerapan dan retensi Application Insights, panggilan dan nomor telepon Azure Communication Services, layanan Microsoft Teams dan telepon, serta alat dan layanan data yang terhubung. Untuk detail biaya, lihat Harga untuk agen berbasis suara.

Dokumentasi agen berbasis suara

Artikel Gunakan untuk
Membuat agen prompt berbasis suara Buat agen suara yang dikelola, hubungkan ke sesi langsung, dan selesaikan satu giliran percakapan.
Mengonfigurasi agen suara Pilih model dan konfigurasikan transkripsi, bahasa, suara, avatar, deteksi belokan, peningkatan audio, respons sementara, dan alat.
Mengintegrasikan saluran telepon Integrasikan ekstensibilitas Telepon Teams atau Twilio dengan agen suara.
Pelacakan, pemantauan, dan evaluasi agen suara Lacak, pantau, dan evaluasi percakapan suara.
Praktik terbaik untuk agen berbasis suara Terapkan instruksi, latensi, pengenalan, keamanan, privasi, serah terima, pengujian, dan kontrol rilis.

Dukungan model

Layanan Agen bekerja dengan banyak model yang tersedia di dalam katalog model Foundry. Untuk daftar lengkapnya, lihat portal Foundry.

Alat dan kotak alat

Agen berinteraksi dengan dunia menggunakan alat. Foundry menawarkan alat bawaan seperti pencarian web, pencarian file, penerjemah kode, dan memori, sekaligus memungkinkan Anda menambahkan alat kustom melalui fungsi, spesifikasi OpenAPI, dan server MCP. Untuk set lengkapnya, lihat gambaran umum kotak alat.

Kotak alat mengelompokkan alat tersebut ke dalam satu unit yang dapat digunakan kembali. Anda cukup mengkurasi alat sekali, dan Foundry menyediakannya melalui satu endpoint terkelola yang kompatibel dengan MCP yang dapat digunakan oleh agen atau runtime apa pun, apa pun kerangkanya. Kumpulan alat memusatkan autentikasi, tata kelola, dan pengelolaan versi, jadi Anda dapat memperbarui alat di satu tempat alih-alih mengonfigurasi ulang setiap agen. Buat versi baru, uji, dan promosikan ke default saat Anda siap. Untuk mempelajari lebih lanjut, lihat Apa itu Toolbox di Foundry?.

Menyambungkan dan mengautentikasi ke server jarak jauh MCP

Foundry mendukung server MCP jarak jauh yang dapat Anda tambahkan ke agen Anda, seperti Azure DevOps McP Server. Sambungkan organisasi Azure DevOps Anda untuk mengaktifkan akses agen, dan konfigurasikan subset alat yang tersedia untuk mengontrol tindakan mana yang dapat dilakukan agen. Anda juga dapat menyambungkan server MCP kustom yang dihosting di Azure Functions menggunakan titik akhir webhook Functions MCP (/runtime/webhooks/mcp) untuk mengekspos alat kustom ke agen Anda.

Opsi autentikasi yang didukung untuk server MCP dan koneksi alat lainnya meliputi:

  • Akses berbasis kunci
  • Microsoft Entra (menggunakan identitas terkelola agen atau identitas terkelola proyek)
  • Passthrough identitas OAuth (On-Behalf-Of)
  • Akses yang tidak diautentikasi, jika sesuai

Opsi autentikasi ini juga berlaku saat menyambungkan server MCP jarak jauh, dengan kredensial dan cakupan yang dikelola dalam konfigurasi alat.

Siklus hidup pengembangan

Agent Service mendukung proses kerja build-test-deploy-monitor lengkap:

  1. Buat: Definisikan agen prompt di portal atau dengan SDK, atau tulis agen yang dihosting dan memanggil Responses API.
  2. Uji: Mengobrol dengan agen Anda di taman bermain agen atau berjalan secara lokal. Integrasi server MCP, termasuk server MCP kustom yang dihosting di Azure Functions, dapat diuji langsung di playground untuk memvalidasi konektivitas alat, izin, dan perilakunya sebelum dipublikasikan.
  3. Jejak: Periksa setiap panggilan model, pemanggilan alat, dan keputusan dengan pelacakan agen.
  4. Evaluasi: Jalankan evaluasi untuk mengukur kualitas dan menangkap regresi.
  5. Optimalkan: Tingkatkan instruksi agen yang dihosting secara otomatis menggunakan pengoptimal agen.
  6. Terbitkan: Promosikan agen Anda ke sumber daya terkelola dengan titik akhir yang stabil.
  7. Monitor: Melacak performa dan keandalan dengan metrik dan dasbor layanan .

Untuk panduan terperinci, lihat Siklus hidup pengembangan agen.

Kemampuan perusahaan

Agent Service menyediakan infrastruktur tingkat perusahaan untuk setiap agen yang Anda sebarkan:

  • Identitas agen: Setiap agen dapat memiliki identitas Microsoft Entra khusus, memungkinkan akses yang aman dan terlingkup ke sumber daya dan API tanpa berbagi kredensial. Identitas agen dapat mengautentikasi ke server MCP eksternal, termasuk yang dihosting di Azure Functions, dan dukungan passthrough OAuth On-Behalf-Of (OBO) tersedia saat dikonfigurasi.
  • Jaringan privat: Jalankan agen dalam jaringan virtual Azure Anda untuk isolasi jaringan penuh dan kepatuhan dengan persyaratan residensi data. Jaringan privat tersedia untuk agen prompt. Agen yang dihosting mendukung Microsoft Azure Virtual Network milik sendiri (BYO VNet), di mana setiap sesi berjalan di sandbox terisolasi VM yang terhubung ke VNet Anda.
  • Kontrol akses berbasis peran: Izin terperinci melalui Microsoft Entra dan Azure RBAC. Mengontrol siapa yang dapat membuat, memanggil, dan mengelola agen.
  • Keamanan konten: Filter konten terintegrasi membantu mengurangi risiko injeksi prompt (termasuk injeksi antar-prompt) dan mencegah output yang tidak aman.

Untuk instruksi penyiapan lingkungan, lihat Menyiapkan lingkungan Anda.

Menerbitkan dan berbagi

Agent Service menyediakan penerapan versi dan penerbitan bawaan sehingga agen Anda dapat berpindah dari pengembangan ke produksi dengan percaya diri.

  • Pembuatan versi: Saat Anda melakukan iterasi pada agen Anda, versi akan otomatis dibuatkan snapshot. Gulung balik ke versi sebelumnya atau bandingkan perubahan antar versi.
  • Penerbitan: Mempromosikan agen ke sumber daya terkelola dengan titik akhir yang stabil. Agen yang diterbitkan mewarisi identitas perusahaan dan kontrol akses yang dikonfigurasi untuk proyek Anda dan dapat dipanggil secara terprogram.
  • Distribusi: Bagikan agen yang diterbitkan melalui Microsoft Copilot dan Teams serta Registri Agen Entra, sehingga agen Anda tersedia di tempat pengguna Anda sudah bekerja. Foundry Agent Service mendukung protokol OpenResponses dan Activity untuk publikasi Microsoft 365, protokol Invocations untuk integrasi endpoint yang fleksibel dengan aplikasi dan layanan kustom, dan protokol A2A untuk komunikasi antaragen. A2A v1.0 tersedia secara umum, dan v0.3 tetap dalam pratinjau.

Keamanan, privasi, dan kepatuhan

Agent Service dirancang untuk beban kerja perusahaan di mana Anda membutuhkan kontrol yang kuat atas identitas, jaringan, penanganan data, dan keamanan.

  • Kontrol keamanan: Gunakan pagar pembatas terintegrasi untuk membantu mengurangi output yang tidak aman dan mengurangi risiko injeksi prompt, termasuk serangan injeksi lintas perintah (XPIA).
  • Kontrol isolasi jaringan dan residensi data: Gunakan jaringan virtual dan bawa sumber daya Anda sendiri untuk memenuhi kebutuhan Anda.
  • Bring sumber daya Anda sendiri: Gunakan sumber daya Azure Anda sendiri (misalnya, penyimpanan, Pencarian Azure AI, dan Azure Cosmos DB untuk status percakapan) untuk memenuhi kebutuhan kepatuhan dan operasional. Lihat Menggunakan sumber daya Anda sendiri.
  • Panduan AI yang Bertanggung Jawab: Untuk serangkaian rekomendasi dan sumber daya tata kelola yang lebih luas, lihat 'Responsible AI untuk Microsoft Foundry'.

Konten terkait

  • Terakhir diperbarui pada