Bagikan melalui


Menggunakan alat dan model AI di Azure Functions

Azure Functions menyediakan sumber daya komputasi tanpa server yang terintegrasi dengan layanan AI dan Azure untuk menyederhanakan pembangunan aplikasi cerdas yang dihosting cloud. Artikel ini menyediakan survei tentang luasnya skenario terkait AI, integrasi, dan sumber daya AI lainnya yang dapat Anda gunakan di aplikasi fungsi Anda.

Pertimbangkan untuk menggunakan Azure Functions dalam pengalaman berkemampuan AI Anda untuk skenario ini:

Scenario Deskripsi
Alat dan server MCP Functions memungkinkan Anda membuat dan menghosting server Model Content Protocol (MCP) jarak jauh dan menerapkan berbagai alat AI. Server MCP adalah standar industri untuk mengaktifkan panggilan fungsi melalui alat jarak jauh.
Alur kerja agenik Durable Functions membantu Anda membuat proses agen multistep yang berjalan lama dengan toleransi kesalahan bawaan.
Retrieval-augmented generation (RAG) (generasi yang ditambah dengan pengambilan informasi) Sistem RAG memerlukan pengambilan dan pemrosesan data yang cepat. Fungsi dapat berinteraksi dengan beberapa sumber data secara bersamaan dan memberikan skala cepat yang diperlukan oleh skenario RAG.

Pilih salah satu skenario ini untuk mempelajari selengkapnya di artikel ini.

Artikel ini khusus untuk bahasa, jadi pastikan Anda memilih bahasa pemrograman di bagian atas halaman.

Alat dan server MCP

Model dan agen AI menggunakan panggilan fungsi untuk meminta sumber daya eksternal yang dikenal sebagai alat. Pemanggilan fungsi memungkinkan model dan agen secara dinamis memanggil fungsionalitas tertentu berdasarkan konteks percakapan atau tugas.

Functions sangat cocok untuk mengimplementasikan panggilan fungsi dalam alur kerja berbasis agen karena dapat menskalakan dengan efisien untuk memenuhi permintaan dan menyediakan ekstensi pengikatan yang mempermudah proses menghubungkan agen dengan layanan Azure yang berbasis jarak jauh. Saat Anda membangun atau menghosting alat AI di Functions, Anda juga mendapatkan model harga tanpa server dan fitur keamanan platform.

Protokol Konteks Model (MCP) adalah standar industri untuk berinteraksi dengan server jarak jauh. Ini menyediakan cara standar bagi model dan agen AI untuk berkomunikasi dengan sistem eksternal. Server MCP memungkinkan klien AI ini secara efisien menentukan alat dan kemampuan sistem eksternal.

Azure Functions saat ini mendukung pengeksposan kode fungsi Anda dengan menggunakan jenis alat ini:

Jenis alat Deskripsi
Server MCP jarak jauh Buat server MCP kustom atau host server MCP berbasis SDK.
Alat berbasis antrean Azure Functions Azure AI Foundry menyediakan alat Azure Functions tertentu yang memungkinkan panggilan fungsi asinkron dengan menggunakan antrean pesan.

Server MCP jarak jauh

Functions mendukung opsi ini untuk membuat dan menghosting server MCP jarak jauh:

  • Gunakan ekstensi pengikatan MCP untuk membuat dan menghosting server MCP kustom seperti yang Anda lakukan pada aplikasi fungsi lainnya.
  • Menghosting sendiri server MCP yang dibuat dengan menggunakan SDK MCP resmi. Opsi hosting ini saat ini dalam pratinjau.

Berikut adalah perbandingan opsi hosting server MCP saat ini yang disediakan oleh Functions:

Fitur Ekstensi pengikatan MCP Server MCP yang dihost sendiri
Tingkat dukungan saat ini GA Pratinjau*
Model pemrograman Pemicu dan pengikatan fungsi SDK Standar MCP
Eksekusi stateful Didukung Saat ini tidak didukung
Bahasa yang saat ini didukung C# (proses terisolasi)
Phyton
TypeScript
JavaScript
Java
C# (proses terisolasi)
Phyton
TypeScript
Java
Persyaratan lain None Transportasi HTTP yang dapat dialirkan
Bagaimana diimplementasikan Ekstensi pengikatan MCP Handler khusus

*Detail konfigurasi untuk server MCP yang dihost sendiri berubah selama pratinjau.

Berikut adalah beberapa opsi untuk membantu Anda mulai menghosting server MCP di Functions:

Opsi Ekstensi pengikatan MCP Server MCP yang dihost sendiri
Documentation Ekstensi pengikatan MCP n/a
Samples Server MCP kustom jarak jauh Server cuaca
Templat HaloTool n/a
Opsi Ekstensi pengikatan MCP Server MCP yang dihost sendiri
Documentation Ekstensi pengikatan MCP n/a
Samples Server MCP kustom jarak jauh Server cuaca
Opsi Ekstensi pengikatan MCP Server MCP yang dihost sendiri
Documentation Ekstensi pengikatan MCP n/a
Samples Server MCP kustom jarak jauh Server cuaca
Opsi Ekstensi pengikatan MCP Server MCP yang dihost sendiri
Documentation Ekstensi pengikatan MCP n/a
Samples Belum tersedia n/a
Opsi Ekstensi pengikatan MCP Server MCP yang dihost sendiri
Documentation Ekstensi pengikatan MCP n/a
Samples Belum tersedia Belum tersedia

PowerShell saat ini tidak didukung untuk salah satu opsi hosting server MCP.

Alat Azure Functions berbasis antrean

Selain server MCP, Anda dapat menerapkan alat AI dengan menggunakan Azure Functions dengan komunikasi berbasis antrean. Azure AI Foundry menyediakan alat khusus Azure Functions yang memungkinkan panggilan fungsi asinkron dengan menggunakan antrean pesan. Dengan alat-alat ini, agen AI berinteraksi dengan kode Anda dengan menggunakan pola olahpesan.

Pendekatan alat ini sangat ideal untuk skenario AI Foundry yang memerlukan:

  • Pengiriman dan pemrosesan pesan yang andal
  • Memisahkan antara agen AI dan eksekusi fungsi
  • Kemampuan coba lagi dan penanganan kesalahan bawaan
  • Integrasi dengan infrastruktur olahpesan Azure yang ada

Berikut adalah beberapa sampel referensi untuk skenario panggilan fungsi:

Menggunakan klien Azure AI Foundry Agent Service untuk memanggil server MCP jarak jauh kustom yang diterapkan dengan menggunakan Azure Functions.

Menggunakan fitur panggilan fungsi untuk agen di Azure AI SDK untuk menerapkan panggilan fungsi kustom.

Alur kerja agenik

Proses berbasis AI sering menentukan cara berinteraksi dengan model dan aset AI lainnya. Namun, beberapa skenario memerlukan tingkat prediksi yang lebih tinggi atau langkah-langkah yang ditentukan dengan baik. Alur kerja agenik yang diarahkan ini mengatur tugas atau interaksi terpisah yang harus diikuti agen.

Ekstensi Durable Functions membantu Anda memanfaatkan kekuatan Functions untuk membuat operasi banyak langkah dan jangka panjang dengan toleransi kesalahan bawaan. Alur kerja ini berfungsi dengan baik untuk alur kerja agenik yang Anda arahkan. Misalnya, solusi perencanaan perjalanan mungkin terlebih dahulu mengumpulkan persyaratan dari pengguna, mencari opsi paket, mendapatkan persetujuan pengguna, dan akhirnya membuat pemesanan yang diperlukan. Dalam skenario ini, Anda dapat membangun agen untuk setiap langkah lalu mengoordinasikan tindakan mereka sebagai alur kerja menggunakan Durable Functions.

Untuk ide skenario alur kerja lainnya, lihat Pola aplikasi di Durable Functions.

Pengambilan informasi dengan generasi yang ditingkatkan

Karena Functions dapat menangani beberapa peristiwa dari berbagai sumber data secara bersamaan, ini adalah solusi yang efektif untuk skenario AI real time, seperti sistem RAG yang memerlukan pengambilan dan pemrosesan data yang cepat. Penskalaan berbasis peristiwa yang cepat mengurangi latensi yang dialami pelanggan Anda, bahkan dalam situasi permintaan tinggi.

Berikut adalah beberapa sampel referensi untuk skenario berbasis RAG:

Untuk RAG, Anda dapat menggunakan SDK, termasuk Azure Open AI dan Azure SDK, untuk membangun skenario Anda. ::: zone-end

Menunjukkan kepada Anda cara membuat bot obrolan ramah yang mengeluarkan perintah sederhana, menerima penyelesaian teks, dan mengirim pesan, semuanya dalam sesi stateful menggunakan ekstensi pengikatan OpenAI.

Alat dan kerangka kerja AI untuk Azure Functions

Functions memungkinkan Anda membuat aplikasi dalam bahasa pilihan Anda dan menggunakan pustaka favorit Anda. Karena fleksibilitas ini, Anda dapat menggunakan berbagai pustaka dan kerangka kerja AI di aplikasi fungsi yang mendukung AI Anda.

Berikut adalah beberapa kerangka kerja Microsoft AI utama yang harus Anda ketahui:

Kerangka kerja/pustaka Deskripsi
Kerangka Kerja Agen Membangun agen AI dan alur kerja agen dengan mudah.
Layanan Agen Azure AI Foundry Layanan terkelola penuh untuk membangun, menyebarkan, dan menskalakan agen AI dengan keamanan tingkat perusahaan, alat bawaan, dan integrasi yang mulus dengan Azure Functions.
SDK Layanan AI Azure Dengan bekerja langsung dengan SDK klien, Anda dapat menggunakan luas penuh fungsionalitas layanan Azure AI langsung dalam kode fungsi Anda.

Functions juga memungkinkan aplikasi mereferensikan pustaka dan kerangka kerja pihak ketiga, sehingga Anda dapat menggunakan semua alat dan pustaka AI favorit Anda dalam fungsi yang diaktifkan AI.

Artikel terkait