Template Aplikasi AI

Bagian dokumentasi ini memperkenalkan Anda ke templat aplikasi AI dan artikel terkait yang menggunakan templat ini untuk menunjukkan cara melakukan tugas pengembang utama. Templat aplikasi AI memberi Anda implementasi referensi yang terawat dan mudah disebarkan dengan baik yang membantu memastikan titik awal berkualitas tinggi untuk aplikasi AI Anda.

Ada dua kategori templat aplikasi AI, blok penyusun, dan solusi end-to-end. Bagian berikut memperkenalkan beberapa templat utama di setiap kategori untuk bahasa pemrograman yang Anda pilih di bagian atas artikel ini.

Untuk menelusuri daftar komprehensif termasuk templat C# ini dan lainnya, lihat templat aplikasi AI di galeri Templat Aplikasi AI.

Untuk menelusuri daftar komprehensif termasuk templat ini dan Python lainnya, lihat templat aplikasi AI di galeri AI App Template.

Untuk menelusuri daftar komprehensif termasuk templat ini dan Java lainnya, lihat templat aplikasi AI di galeri Templat Aplikasi AI.

Untuk menelusuri daftar komprehensif termasuk templat JavaScript/TypeScript lainnya, lihat templat aplikasi AI di galeri Templat Aplikasi AI.

Blok penyusun

Komponen bangunan adalah contoh skala yang lebih kecil yang berfokus pada skenario dan tugas tertentu. Sebagian besar blok pembangunan menunjukkan fungsionalitas yang menggunakan solusi menyeluruh untuk aplikasi obrolan yang memanfaatkan data milik Anda sendiri.

Blok penyusun	Deskripsi
Penyeimbangan beban dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar token Azure OpenAI dan batas kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir OpenAI Azure, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Blok penyusun	Deskripsi
Mengonfigurasi keamanan dokumen untuk aplikasi obrolan	Saat Anda membuat aplikasi obrolan menggunakan pola RAG dengan data Anda sendiri, pastikan setiap pengguna menerima jawaban berdasarkan izin mereka. Pengguna yang berwenang harus memiliki akses ke jawaban yang terkandung dalam dokumen aplikasi obrolan. Pengguna yang tidak sah seharusnya tidak memiliki akses ke jawaban dari dokumen aman yang tidak memiliki otorisasi untuk dilihat.
Mengevaluasi jawaban aplikasi obrolan	Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi.
Penyeimbangan Beban dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar token Azure OpenAI dan batas kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir OpenAI Azure, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Keseimbangan beban dengan API Management	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar token Azure OpenAI dan batas kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir OpenAI Azure, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Load uji aplikasi obrolan Python dengan Locust	Pelajari proses untuk melakukan pengujian beban pada aplikasi obrolan Python menggunakan pola RAG dengan Locust, alat pengujian beban sumber terbuka yang populer. Tujuan utama pengujian beban adalah untuk memastikan bahwa beban yang diharapkan pada aplikasi obrolan Anda tidak melebihi kuota Azure Transaksi OpenAI Per Menit (TPM) saat ini. Dengan mensimulasikan perilaku pengguna di bawah beban berat, Anda dapat mengidentifikasi potensi hambatan dan masalah skalabilitas dalam aplikasi Anda.
Mengamankan Aplikasi AI Anda dengan autentikasi tanpa kunci	Pelajari proses untuk mengamankan aplikasi obrolan OpenAI Python Azure Anda dengan autentikasi tanpa kunci. Permintaan aplikasi ke sebagian besar layanan Azure harus diautentikasi dengan koneksi tanpa kunci atau tanpa kata sandi. Autentikasi tanpa kunci menawarkan manfaat manajemen dan keamanan yang ditingkatkan dibandingkan dengan kunci akun karena tidak ada kunci (atau *connection string*) yang perlu disimpan.

Blok penyusun	Deskripsi
Penyeimbangan beban dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar token Azure OpenAI dan batas kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir OpenAI Azure, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Komponen dasar	Deskripsi
Mengevaluasi jawaban aplikasi obrolan	Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi.
Penyeimbangan beban dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar token Azure OpenAI dan batas kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir OpenAI Azure, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Keseimbangan beban dengan API Management	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar token Azure OpenAI dan batas kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir OpenAI Azure, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Solusi menyeluruh

Solusi end-to-end adalah sampel referensi komprehensif yang mencakup dokumentasi, kode sumber, dan pengembangan untuk memungkinkan Anda mengembangkan dan menyesuaikannya sesuai tujuan Anda sendiri.

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search di .NET

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai dengan obrolan menggunakan sampel data Anda sendiri untuk .NET. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori azure-search-openai-demo-csharp GitHub.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Apps Azure Functions	Azure OpenAI Azure Computer Vision Azure Form Recognizer Azure AI Search Azure Storage	GPT 3.5 Turbo GPT 4.0

Copilot obrolan ritel Contoso dengan .NET dan Semantic Kernel

Templat ini mengimplementasikan Contoso Outdoors, toko konseptual yang mengkhususkan diri dalam peralatan luar ruangan untuk penggemar hiking dan berkemah. Toko virtual ini meningkatkan keterlibatan pelanggan dan peningkatan penjualan melalui agen obrolan cerdas. Agen ini didukung oleh pola Retrieval Augmented Generation (RAG) dalam Microsoft Azure AI Stack, diperkaya dengan dukungan Semantic Kernel dan Prompty.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat contoso-chat-csharp-prompty GitHub repo.

Diagram memperlihatkan arsitektur dari klien ke aplikasi backend untuk aplikasi hiking.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Microsoft Entra ID identitas terkelola Azure Azure Monitor Azure AI Search Microsoft Foundry Azure SQL Azure Storage	GPT 3.5 Turbo GPT 4.0

Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan .NET dan GPT 3.5 Turbo

Templat ini adalah solusi otomatisasi proses yang menerima masalah yang dilaporkan oleh pekerja lantai lapangan dan toko di perusahaan bernama Contoso Manufacturing, perusahaan manufaktur yang membuat baterai mobil. Masalah dibagikan oleh pekerja baik secara langsung melalui input mikrofon atau direkam sebelumnya sebagai file audio. Solusi ini menerjemahkan input audio dari ucapan ke teks lalu menggunakan LLM dan Prompty atau Promptflow untuk meringkas masalah dan mengembalikan hasil dalam format yang ditentukan oleh solusi.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat summarization-openai-csharp-prompty GitHub repo.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model Kecerdasan Buatan
Azure Container Apps	Ucapan ke Teks Ringkasan Azure OpenAI	GPT 3.5 Turbo

Berinteraksi dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Python

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman bergaya ChatGPT dan Tanya Jawab (Q&A).

Untuk mulai menggunakan templat ini, lihat Mulai dengan obrolan menggunakan sampel data Anda sendiri untuk Python. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori azure-search-openai-demo GitHub.

Cuplikan layar aplikasi obrolan di browser memperlihatkan beberapa saran untuk input obrolan dan kotak teks obrolan untuk memasukkan pertanyaan.

Diagram memperlihatkan arsitektur dari klien ke aplikasi backend.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Azure AI Search Azure Blob Storage Azure Monitor Azure Kecerdasan Dokumen	GPT 3.5 Turbo GPT 4 GPT 4o GPT 4o-mini

Pendamping Menulis Kreatif Multi-Modal dengan DALL-E

Templat ini adalah solusi multi-agen penulisan kreatif untuk membantu pengguna menulis artikel. Ini menunjukkan cara membuat dan bekerja dengan agen AI yang didorong oleh Azure OpenAI.

Ini termasuk:

1. Aplikasi Flask yang mengambil artikel dan instruksi dari pengguna.
2. Agen penelitian yang menggunakan Bing Search API untuk meneliti artikel.
3. Agen produk yang menggunakan Azure AI Search untuk melakukan pencarian kesamaan semantik untuk produk terkait dari penyimpanan vektor.
4. Agen penulis untuk menggabungkan informasi penelitian dan produk ke dalam artikel yang bermanfaat.
5. Agen editor untuk menyempurnakan artikel yang disajikan kepada pengguna.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat agent-openai-python-prompty GitHub repo.

Diagram arsitektur aplikasi asisten penulis multi-modal untuk penulisan kreatif python.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Registry Azure Kubernetes	Azure OpenAI Pencarian Bing identitas terkelola Azure Azure Monitor Azure AI Search Microsoft Foundry	GPT 3.5 Turbo GPT 4.0 DALL-E

Contoso Chat Retail Copilot dengan Foundry

Templat ini mengimplementasikan Contoso Chat - solusi pendamping ritel untuk Contoso Outdoor yang menggunakan pola desain pembuatan berbasis pengambilan untuk membumikan respons chatbot pada data produk dan pelanggan peritel. Pelanggan dapat mengajukan pertanyaan dari situs web dalam bahasa alami, dan mendapatkan respons yang relevan dengan rekomendasi potensial berdasarkan riwayat pembelian mereka - dengan praktik AI yang bertanggung jawab untuk memastikan kualitas dan keamanan respons.

Templat ini menggambarkan prosedur end-to-end (GenAIOps) untuk membangun copilot berbasis RAG code-first menggunakan Azure AI dan Prompty. Dengan menjelajahi dan menyebarkan sampel ini, pelajari cara:

1. Mengembangkan ide dan mengulangi dengan cepat pada prototipe aplikasi menggunakan Prompty
2. Menyebarkan dan menggunakan model Azure OpenAI untuk obrolan, penyematan, dan evaluasi
3. Menggunakan Azure AI Search (indeks) dan Azure Cosmos DB (database) untuk data Anda
4. Mengevaluasi respons obrolan untuk kualitas menggunakan alur evaluasi yang dibantu AI
5. Host aplikasi sebagai endpoint FastAPI yang di-deploy ke Azure Container Apps
6. Memprovisikan dan menyebarkan solusi menggunakan Azure Developer CLI
7. Mendukung praktik AI yang Bertanggung Jawab dengan keamanan & penilaian konten

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori contoso-chat GitHub.

Diagram memperlihatkan arsitektur dari klien ke aplikasi backend untuk aplikasi hiking.

Cuplikan layar aplikasi chat dengan alur prompt di editor visual untuk copilot ritel obrolan Contoso.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Azure AI Search Pengecoran Prompty Azure Cosmos DB	GPT 3.5 Turbo GPT 4.0 Integration Runtime Terkelola (MIR)

Automatisasi proses dengan pengubahan ucapan ke teks dan peringkasan dengan Foundry

Templat ini membuat aplikasi berbasis web yang memungkinkan pekerja di perusahaan bernama Contoso Manufacturing melaporkan masalah melalui teks atau ucapan. Input audio diterjemahkan ke teks lalu diringkas untuk menyoroti informasi penting dan laporan dikirim ke departemen yang sesuai.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat summarization-openai-python-promptflow GitHub repo.

diagram

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Pengecoran Layanan Ucapan ke Teks Prompty Integration Runtime Terkelola (MIR)	GPT 3.5 Turbo

Kopilot Asisten API Analitik dengan Python dan Foundry

Templat ini adalah Assistant API untuk mengobrol dengan data tabular dan melakukan analitik dalam bahasa alami.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat assistant-data-openai-python-promptflow GitHub repo.

Diagram arsitektur untuk Assistant API untuk mengobrol dengan data tabular dan melakukan analitik dalam bahasa alami.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
layanan Machine Learning	Azure AI Search Pengecoran Integration Runtime Terkelola (MIR) Azure OpenAI	GPT 3.5 Turbo GPT 4

Berinteraksi dengan data Anda menggunakan Azure OpenAI dan Azure AI Search di Java

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai dengan obrolan menggunakan sampel data Anda sendiri untuk Java. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori azure-search-openai-demo-java GitHub.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure App Service Azure Container Apps Azure Kubernetes Service	Azure OpenAI Azure AI Search Azure Kecerdasan Dokumen Azure Storage Azure App Insights Azure Service Bus Azure Event Grid	gpt-35-turbo

Asisten Perbankan Multi Agen dengan Java dan Semantic Kernel

Proyek ini dirancang sebagai Proof of Concept (PoC) untuk mengeksplorasi ranah Inovatif AI generatif dalam konteks arsitektur multi-agen. Dengan memanfaatkan kerangka kerja orkestrasi AI Java dan Microsoft Semantic Kernel, tujuan kami adalah membangun aplikasi web obrolan untuk menunjukkan kelayakan dan keandalan penggunaan agen AI generatif untuk mengubah pengalaman pengguna dari klik web ke percakapan bahasa alami sambil memaksimalkan penggunaan kembali data beban kerja dan API yang ada.

Kasus penggunaan inti berputar di sekitar asisten pribadi perbankan yang dirancang untuk merevolusi cara pengguna berinteraksi dengan informasi rekening bank, riwayat transaksi, dan fungsi pembayaran mereka. Memanfaatkan kekuatan AI generatif dalam arsitektur multi-agen, asisten ini bertujuan untuk menyediakan antarmuka percakapan yang mulus di mana pengguna dapat dengan mudah mengakses dan mengelola data keuangan mereka.

Sampel faktur disertakan dalam folder data untuk memudahkan menjelajahi fitur pembayaran. Agen pembayaran yang dilengkapi dengan alat pengenalan karakter optik (OCR) (Azure Kecerdasan Dokumen) memimpin percakapan dengan pengguna untuk mengekstrak data faktur dan memulai proses pembayaran. Data palsu akun lainnya - seperti transaksi, metode pembayaran, dan saldo akun - juga tersedia untuk dikueri oleh pengguna. Semua data dan layanan diekspos sebagai REST API eksternal dan digunakan oleh agen untuk memberi pengguna informasi yang diminta.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat agent-openai-java-banking-assistant GitHub repo.

Diagram memperlihatkan arsitektur untuk aplikasi kopilot yang disebarkan berdampingan dengan layanan mikro bisnis.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Azure Kecerdasan Dokumen Azure Storage Azure Monitor	gpt-4o gpt-4o-mini

Berinteraksi dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan JavaScript

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk memulai dengan templat ini, silakan periksa Memulai dengan obrolan menggunakan sampel data Anda sendiri yang menggunakan JavaScript. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori azure-search-openai-javascript GitHub.

Diagram memperlihatkan arsitektur dari klien ke aplikasi backend.

Cuplikan layar aplikasi obrolan di browser memperlihatkan beberapa saran untuk input obrolan dan kotak teks obrolan untuk memasukkan pertanyaan.

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi Azure untuk hosting	Teknologi	Model AI
Azure Container Apps Aplikasi Web Statik Azure	Azure OpenAI Azure AI Search Azure Storage Azure Monitor	text-embedding-ada-002

Frontend chat Azure OpenAI

Templat ini adalah komponen web obrolan OpenAI minimal yang dapat dikaitkan dengan implementasi backend apa pun sebagai klien.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori azure-openai-chat-frontend GitHub.

Video yang menunjukkan aplikasi frontend obrolan JavaScript.

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Aplikasi Web Statik Azure	Azure AI Search Azure OpenAI	GPT 3.5 Turbo GPT4

Obrolan AI tanpa server dengan RAG menggunakan LangChain.js

Templat adalah chatbot AI tanpa server dengan Retrieval Augmented Generation menggunakan LangChain.js dan Azure yang menggunakan sekumpulan dokumen perusahaan untuk menghasilkan respons terhadap kueri pengguna. Perusahaan ini menggunakan perusahaan fiktif bernama Contoso Real Estate, dan pengalaman tersebut memungkinkan pelanggannya untuk mengajukan pertanyaan dukungan tentang penggunaan produknya. Data sampel mencakup sekumpulan dokumen yang menjelaskan ketentuan layanan, kebijakan privasi, dan panduan dukungannya.

Untuk mempelajari cara menyebarkan dan menjalankan templat ini, lihat Panduan Memulai Obrolan AI Tanpa Server dengan RAG dan LangChain.js. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori serverless-chat-langchainjs GitHub.

Pelajari cara menyebarkan dan menjalankan templat referensi JavaScript ini.

Video browser demonstrasi aplikasi obrolan JavaScript menggunakan RAG dan Langchain.js

Templat ini menunjukkan penggunaan fitur-fitur ini.

solusi hosting Azure	Teknologi	Model AI
Aplikasi Web Statik Azure Azure Functions	Azure AI Search Azure OpenAI Azure Cosmos DB Azure Storage identitas terkelola Azure	GPT4 Mistral Ollama