Apa itu Azure AI Foundry Agent Service?

Sebagian besar bisnis tidak hanya menginginkan chatbot - mereka menginginkan otomatisasi yang lebih cepat dan dengan lebih sedikit kesalahan. Itu mungkin berarti meringkas dokumen, memproses faktur, mengelola tiket dukungan, atau menerbitkan posting blog. Dalam semua kasus, tujuannya sama: membebaskan orang dan sumber daya untuk fokus pada pekerjaan bernilai lebih tinggi dengan membongkar tugas berulang dan dapat diprediksi.

Model bahasa besar (LLM) membuka pintu ke jenis otomatisasi baru dengan sistem yang dapat memahami data yang tidak terstruktur, membuat keputusan, dan menghasilkan konten. Dalam praktiknya, mungkin sulit bagi bisnis untuk bergerak melampaui demo dan ke produksi. LLM dapat melayang, salah, dan tidak memiliki akuntabilitas. Tanpa visibilitas, penegakan kebijakan, dan orkestrasi, model ini sulit dipercaya dalam alur kerja bisnis nyata.

Azure AI Foundry dirancang untuk mengubahnya. Ini adalah platform yang menggabungkan model, alat, kerangka kerja, dan tata kelola ke dalam sistem terpadu untuk membangun agen cerdas. Pada inti sistem ini terdapat Azure AI Foundry Agent Service, yang memungkinkan pengoperasian agen di seluruh tahap pengembangan, penyebaran, dan produksi.

AI Foundry Agent Service menghubungkan potongan inti Azure AI Foundry seperti model, alat, dan kerangka kerja ke dalam satu runtime. Ini mengelola utas, mengatur panggilan alat, memberlakukan keamanan konten, dan terintegrasi dengan sistem identitas, jaringan, dan pengamatan untuk memastikan agen aman, dapat diskalakan, dan siap produksi.

Dengan mengabstraksi kompleksitas infrastruktur dan menegakkan kepercayaan dan keamanan berdasarkan desain, AI Foundry Agent Service memudahkan perpindahan dari prototipe ke produksi dengan percaya diri.

Apa itu Agen AI?

Agen membuat keputusan, memanggil alat, dan berpartisipasi dalam alur kerja. Terkadang secara mandiri, terkadang bekerja sama dengan agen atau manusia lain. Apa yang membedakan agen dari asisten adalah otonomi: asisten mendukung orang, agen menyelesaikan tujuan. Mereka dasar untuk otomatisasi proses nyata.

Agen yang dibuat menggunakan AI Foundry bukan monolit. Mereka adalah unit yang dapat dikomposisi. Masing-masing dengan peran tertentu, didukung oleh model yang tepat, dan dilengkapi dengan alat yang tepat, dan disebarkan dalam runtime yang aman, dapat diamati, dan dapat diatur.

Setiap agen memiliki tiga komponen inti:

• Model (LLM): Memperkuat kemampuan penalaran dan pemahaman bahasa
• Instruksi: Tentukan tujuan, perilaku, dan batasan agen
• Alat: Biarkan agen mengambil pengetahuan atau mengambil tindakan

Agen menerima input yang tidak terstruktur seperti perintah pengguna, pemberitahuan, atau pesan dari agen lain. Mereka menghasilkan output dalam bentuk hasil alat atau pesan. Dalam prosesnya, mereka dapat memanggil perangkat untuk melakukan pengambilan, atau memicu tindakan.

Bagaimana cara kerja agen di AI Foundry?

AnggapLah Azure AI Foundry sebagai garis perakitan untuk agen cerdas. Seperti pabrik modern lainnya, pabrik ini menggabungkan berbagai stasiun khusus, masing-masing bertanggung jawab untuk membentuk bagian dari produk akhir. Alih-alih mesin dan sabuk konveyor, Agent Factory menggunakan model, alat, kebijakan, dan orkestrasi untuk membangun agen yang aman, dapat diuji, dan siap produksi. Berikut cara kerja pabrik langkah demi langkah:

1. Model

Garis perakitan dimulai dengan memilih model yang memberi agen Anda kecerdasannya. Pilih dari katalog model bahasa besar yang berkembang termasuk GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI), dan lainnya seperti Llama. Ini adalah inti penalaran agen yang menggerakkan keputusan agen tersebut.

2. Kustomisasi

Selanjutnya, bentuk model tersebut agar sesuai dengan kasus penggunaan Anda. Sesuaikan agen Anda dengan penyempurnaan, penyulingan, atau perintah khusus domain. Langkah ini memungkinkan Anda untuk mengodekan perilaku agen, pengetahuan khusus peran, dan pola dari performa sebelumnya menggunakan data yang diambil dari konten utas nyata dan hasil alat.

3. Alat AI

Kemudian, lengkapi agen Anda dengan alat. Ini memungkinkannya mengakses pengetahuan perusahaan (seperti Bing, SharePoint, Azure AI Search) dan mengambil tindakan dunia nyata (melalui Logic Apps, Azure Functions, OpenAPI, dan banyak lagi). Ini meningkatkan kemampuan agen untuk memperluas kemampuannya.

4. Orkestrasi

Selanjutnya, agen membutuhkan koordinasi. Agen yang terhubung mengatur siklus hidup penuh seperti menangani panggilan alat, memperbarui status utas, mengelola percobaan ulang, dan pengelogan output.

5. Pengamatan

Akhirnya, agen diuji dan dipantau. AI Foundry dapat menangkap log, jejak, dan evaluasi di setiap langkah. Dengan visibilitas tingkat utas penuh dan integrasi Application Insights, tim dapat memeriksa setiap keputusan dan terus meningkatkan agen dari waktu ke waktu.

6. Kepercayaan

Penting untuk memastikan agen cocok dan dapat diandalkan untuk beban kerja yang ditetapkan. AI Foundry menerapkan fitur kepercayaan tingkat perusahaan termasuk identitas melalui Microsoft Entra, RBAC, filter konten, enkripsi, dan isolasi jaringan. Anda memilih bagaimana dan di mana agen Anda berjalan - menggunakan infrastruktur yang dikelola platform atau bawa sendiri.

Hasilnya? Agen yang siap untuk produksi: andal, dapat diperluas, dan aman untuk disebarkan di seluruh alur kerja Anda.

Mengapa menggunakan Azure AI Foundry Agent Service?

Azure AI Foundry Agent Service menyediakan fondasi siap produksi untuk menyebarkan agen cerdas di lingkungan perusahaan. Berikut cara membandingkannya melalui kemampuan utama:

Kapabilitas	Layanan Agen Azure AI Foundry
1. Visibilitas ke dalam percakapan	Akses penuh ke utas terstruktur, termasuk pesan antara pengguna↔agen dan agen↔agen. Ideal untuk UI, debugging, dan pelatihan
2. Koordinasi multi-agen	Dukungan bawaan untuk pesan antar agen.
3. Orkestrasi alat	Eksekusi di sisi server dan upaya ulang panggilan alat dengan pengelogan terstruktur. Tidak diperlukan orkestrasi manual.
4. Kepercayaan dan keselamatan	Filter konten terintegrasi membantu mencegah penyalahgunaan dan mengurangi risiko injeksi prompt (XPIA). semua output diatur oleh kebijakan.
5. Integrasi perusahaan	Bawa penyimpanan Anda sendiri, indeks Azure AI Search, dan jaringan virtual untuk memenuhi kebutuhan kepatuhan.
6. Pengamatan dan penelusuran kesalahan	Utas, pemanggilan alat, dan jejak pesan sepenuhnya dapat dilacak; Integrasi Application Insights untuk telemetri
7. Identitas dan kontrol kebijakan	Dibangun di atas Microsoft Entra dengan dukungan penuh untuk RBAC, log audit, dan akses bersyarat perusahaan.

Mulai menggunakan Foundry Agent Service

Untuk mulai menggunakan Foundry Agent Service, Anda perlu membuat proyek Azure AI Foundry di langganan Azure Anda.

Mulailah dengan penyiapan lingkungan dan panduan mulai cepat jika ini pertama kalinya Anda menggunakan layanan.

1. Anda dapat membuat proyek dengan sumber daya yang diperlukan.
2. Setelah membuat proyek, Anda dapat menyebarkan model yang kompatibel seperti GPT-4o.
3. Ketika Anda memiliki model yang disebarkan, Anda juga dapat mulai melakukan panggilan API ke layanan menggunakan SDK.

Langkah selanjutnya

Pelajari selengkapnya tentang model yang mendukung agen.