Bagikan melalui

Tentang server MCP di Azure API Management

BERLAKU UNTUK: Pengembang | Basic | Basic v2 | Standar | Standar v2 | Premium | Premium v2

Artikel ini memperkenalkan fitur di Azure API Management yang dapat Anda gunakan untuk mengelola server Protokol Konteks Model (MCP). Server MCP memungkinkan model bahasa besar (LLM) dan agen AI mengakses sumber data eksternal, seperti database atau API, melalui protokol standar.

Dengan menjamurnya agen AI dan LLM, mengelola server MCP menjadi semakin penting:

  • Agen memerlukan akses yang aman dan diatur ke alat dan sumber daya.
  • Pengembang ingin menggunakan kembali API yang ada sebagai alat agen.
  • Perusahaan membutuhkan pengamatan, kontrol, dan penskalaan.

Gunakan API Management untuk mengekspos dan mengatur server MCP dengan aman dan backend mereka untuk agen LLM dan AI seperti GitHub Copilot, ChatGPT, Claude, dan banyak lagi. API Management memberikan kontrol terpusat atas autentikasi, otorisasi, dan pemantauan server MCP. Ini menyederhanakan manajemen server MCP sambil membantu mengurangi risiko keamanan umum dan memastikan pengamatan, kontrol, dan skalabilitas.

Konsep dan arsitektur MCP

Agen AI menjadi banyak diadopsi karena kemampuan LLM yang ditingkatkan. Namun, bahkan model paling canggih menghadapi keterbatasan karena isolasinya dari data eksternal. Setiap sumber data baru berpotensi memerlukan implementasi kustom untuk mengekstrak, menyiapkan, dan membuat data dapat diakses untuk model.

Protokol Konteks Model membantu menyelesaikan masalah ini. MCP adalah standar terbuka untuk menghubungkan model dan agen AI dengan sumber data eksternal seperti sumber data lokal (database atau file komputer) atau layanan jarak jauh (sistem yang tersedia melalui internet, seperti database jarak jauh atau API).

MCP mengikuti arsitektur server klien tempat aplikasi host dapat terhubung ke beberapa server. Setiap kali host atau klien MCP Anda membutuhkan alat, ia terhubung ke server MCP. Server MCP kemudian terhubung ke, misalnya, database atau API. Host dan server MCP terhubung satu sama lain melalui protokol MCP.

Diagram berikut mengilustrasikan arsitektur MCP:

Arsitektur diagram protokol konteks model (MCP).

Arsitektur terdiri dari komponen-komponen berikut:

Komponen Deskripsi
Host MCP Aplikasi LLM seperti aplikasi obrolan atau asisten AI di IDE Anda (seperti GitHub Copilot di Visual Studio Code) yang perlu menggunakan kemampuan eksternal.
Klien MCP Klien protokol, di dalam aplikasi host, yang mempertahankan koneksi 1:1 dengan server
Server MCP Program ringan yang masing-masing mengekspos kemampuan tertentu dan memberikan konteks, alat, dan permintaan kepada klien
Protokol MCP Lapisan transportasi di tengah

Arsitektur MCP dibangun di atasJSON-RPC 2.0 untuk olahpesan. Komunikasi antara klien dan server terjadi melalui lapisan transportasi yang ditentukan, dan mendukung terutama dua mode operasi:

  • Server MCP jarak jauh - Jalankan sebagai proses independen yang dapat diakses melalui internet menggunakan transportasi berbasis HTTP (seperti HTTP yang Dapat Dialirkan), memungkinkan klien MCP untuk terhubung ke layanan eksternal dan API yang dihosting di mana saja.

  • Server MCP lokal Klien MCP menggunakan input/output standar sebagai metode transportasi lokal untuk terhubung ke server MCP pada komputer yang sama.

Titik akhir server MCP

MCP menyediakan jenis transportasi berikut dan titik akhir umum untuk server jarak jauh:

Jenis Transportasi Titik akhir Catatan
HTTP yang dapat dialirkan /mcp Menggantikan transportasi HTTP + SSE
SSE (peristiwa yang dikirim server) /sse - Digunakan untuk membuat koneksi SSE

/messages - Digunakan untuk olahpesan dua arah antara klien MCP dan server		 Tidak digunakan lagi pada versi protokol 2024-11-05

Mengekspos server MCP di API Management

Azure API Management mendukung mode server MCP jarak jauh. Gunakan fitur asli API Management dan kemampuan gateway AI untuk mengelola titik akhir server MCP.

API Management menyediakan dua cara bawaan untuk mengekspos server MCP:

Sumber Deskripsi
REST API sebagai server MCP Mengekspos REST API apa pun yang dikelola dalam API Management sebagai server MCP, termasuk REST API yang diimpor dari sumber daya Azure. Operasi API menjadi alat MCP. Pelajari lebih lanjut
Server MCP yang ada Mengekspos server yang kompatibel dengan MCP (misalnya, LangChain, LangServe, aplikasi logika Azure, aplikasi fungsi Azure) melalui API Management. Pelajari lebih lanjut

Lihat artikel tertaut untuk petunjuk dan batasan langkah demi langkah.

Mengatur server MCP

Konfigurasikan satu atau beberapa kebijakan API Management untuk membantu mengelola server MCP. Saat ini, kebijakan berlaku untuk semua operasi API yang diekspos sebagai alat di server MCP. Gunakan kebijakan untuk mengontrol akses, autentikasi, dan aspek alat lainnya.

Konfigurasikan kebijakan seperti berikut ini:

  • Pembatasan tarif dan pemberlakuan kuota - Batasi jumlah permintaan per periode waktu ke alat server MCP, dan tetapkan kuota penggunaan untuk klien atau langganan.
  • Autentikasi dan otorisasi - Memerlukan dan memvalidasi permintaan masuk dengan menggunakan token web JSON (JWT) yang dikeluarkan oleh ID Microsoft Entra atau penyedia identitas lainnya untuk akses aman.
  • Pemfilteran IP - Membatasi akses ke alat server MCP berdasarkan alamat IP klien.
  • Penembolokan - Respons cache dari alat server MCP untuk meningkatkan performa dan mengurangi beban backend.

Akses aman ke server MCP

Anda dapat mengamankan akses masuk atau ke server MCP (dari klien MCP ke API Management) dan akses keluar (dari API Management ke backend server MCP). Terapkan satu atau beberapa langkah keamanan, seperti autentikasi berbasis kunci atau OAuth, tergantung pada backend dan postur keamanan organisasi Anda.

Untuk informasi dan contoh selengkapnya, lihat Mengamankan akses ke server MCP.

Pemantauan

Untuk memantau server MCP di Azure API Management, gunakan integrasi bawaan API Management dengan Azure Monitor untuk aktivitas gateway.

  • Konfigurasikan Azure Application Insights atau Azure Monitor untuk menangkap permintaan server MCP, respons, dan diagnostik terperinci.
  • Sertakan ID korelasi dalam header permintaan untuk melacak permintaan di beberapa sistem dan komponen.
  • Konfigurasikan kebijakan pelacakan untuk server MCP Anda untuk menambahkan jejak kustom ke output pelacakan permintaan di konsol pengujian, telemetri Application Insights, atau log sumber daya.

Untuk informasi selengkapnya, lihat Memantau API Management.

Menemukan server MCP

Gunakan Azure API Center untuk mendaftar dan menemukan server MCP di organisasi Anda.

  • Azure API Center menyediakan lokasi terpusat untuk mengelola server MCP, termasuk server yang diekspos di API Management dan server yang dihosting di luar API Management.

  • Sebarkan portal PUSAT API untuk memungkinkan pengguna Anda menemukan dan berinteraksi dengan server MCP melalui registri server MCP privat yang siap digunakan perusahaan.

Ketersediaan

Fitur manajemen server MCP tersedia di tingkat layanan API Management berikut:

  • Tingkat klasik: Pengembang, Dasar, Standar, Premium
  • Tingkat v2: Dasar v2, Standard v2, Premium v2

Anda juga dapat menggunakan API Management gerbang yang dikelola sendiri untuk mengelola server MCP di infrastruktur Anda sendiri.

Nota

  • API Management saat ini mendukung alat server MCP, tetapi tidak mendukung sumber daya atau perintah MCP.
  • Kemampuan server API Management MCP saat ini tidak didukung di ruang kerja.

Anda bisa mendapatkan akses awal ke server MCP baru dan fitur dan kemampuan gateway AI melalui saluran rilis Gateway AI . Akses ini memungkinkan Anda mencoba inovasi gateway AI terbaru sebelum tersedia secara umum dan memberikan umpan balik untuk membantu membentuk produk. Untuk informasi selengkapnya, lihat Mengonfigurasi pengaturan pembaruan layanan untuk instans API Management Anda.

Konten terkait

  • Last updated on