Templat aplikasi AI

Bagian dokumentasi ini memperkenalkan Anda ke templat aplikasi AI dan artikel terkait yang menggunakan templat ini untuk menunjukkan cara melakukan tugas pengembang utama. Templat aplikasi AI memberi Anda implementasi referensi yang terawat dan mudah disebarkan dengan baik yang membantu memastikan titik awal berkualitas tinggi untuk aplikasi AI Anda.

Ada dua kategori templat aplikasi AI, blok penyusun, dan solusi end-to-end. Bagian berikut memperkenalkan beberapa templat utama di setiap kategori untuk bahasa pemrograman yang telah Anda pilih di bagian atas artikel ini. Untuk menelusuri daftar yang lebih komprehensif termasuk templat ini dan lainnya, lihat templat aplikasi AI di galeri Templat Aplikasi AI.

Blok penyusun

Blok penyusun adalah sampel skala yang lebih kecil yang berfokus pada skenario dan tugas tertentu. Sebagian besar blok penyusun menunjukkan fungsionalitas yang memanfaatkan solusi end-to-end untuk aplikasi obrolan yang menggunakan data Anda sendiri.

Blok penyusun	Deskripsi
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Blok penyusun	Deskripsi
Mengonfigurasi keamanan dokumen untuk aplikasi obrolan	Saat Anda membuat aplikasi obrolan menggunakan pola RAG dengan data Anda sendiri, pastikan setiap pengguna menerima jawaban berdasarkan izin mereka. Pengguna yang berwenang harus memiliki akses ke jawaban yang terkandung dalam dokumen aplikasi obrolan. Pengguna yang tidak sah seharusnya tidak memiliki akses ke jawaban dari dokumen aman yang tidak memiliki otorisasi untuk dilihat.
Mengevaluasi jawaban aplikasi obrolan	Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi.
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Keseimbangan beban dengan API Management	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Uji beban aplikasi obrolan Python dengan Locust	Pelajari proses untuk melakukan pengujian beban pada aplikasi obrolan Python menggunakan pola RAG dengan Locust, alat pengujian beban sumber terbuka yang populer. Tujuan utama pengujian beban adalah untuk memastikan bahwa beban yang diharapkan pada aplikasi obrolan Anda tidak melebihi kuota Azure OpenAI Transactions Per Minute (TPM) saat ini. Dengan mensimulasikan perilaku pengguna di bawah beban berat, Anda dapat mengidentifikasi potensi hambatan dan masalah skalabilitas dalam aplikasi Anda.
Mengamankan Aplikasi AI Anda dengan autentikasi tanpa kunci	Pelajari proses untuk mengamankan aplikasi obrolan Python Azure OpenAI Anda dengan autentikasi tanpa kunci. Permintaan aplikasi ke sebagian besar layanan Azure harus diautentikasi dengan koneksi tanpa kunci atau tanpa kata sandi. Autentikasi tanpa kunci menawarkan manfaat manajemen dan keamanan yang ditingkatkan atas kunci akun karena tidak ada kunci (atau string koneksi) untuk disimpan.

Blok penyusun	Deskripsi
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Blok penyusun	Deskripsi
Mengevaluasi jawaban aplikasi obrolan	Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi.
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Keseimbangan beban dengan API Management	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Solusi end-to-end

Solusi menyeluruh adalah sampel referensi komprehensif termasuk dokumentasi, kode sumber, dan penyebaran untuk memungkinkan Anda mengambil dan memperluas untuk tujuan Anda sendiri.

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan .NET

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk .NET. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo-csharp .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps Azure Functions	Azure OpenAI Azure Computer Vision Azure Form Recognizer Pencarian Azure AI Azure Storage	GPT 3.5 Turbo GPT 4.0

Ritel obrolan Contoso Copilot dengan .NET dan Semantic Kernel

Templat ini mengimplementasikan Contoso Outdoors, toko konseptual yang mengkhususkan diri dalam peralatan luar ruangan untuk penggemar hiking dan berkemah. Penyimpanan virtual ini meningkatkan keterlibatan pelanggan dan dukungan penjualan melalui agen obrolan cerdas. Agen ini didukung oleh pola Retrieval Augmented Generation (RAG) dalam Microsoft Azure AI Stack, diperkaya dengan dukungan Semantic Kernel dan Prompty.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub contoso-chat-csharp-prompty .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Microsoft Entra ID Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio Azure SQL Azure Storage	GPT 3.5 Turbo GPT 4.0

Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan .NET dan GPT 3.5 Turbo

Templat ini adalah solusi otomatisasi proses yang mengalami masalah yang dilaporkan oleh pekerja lantai lapangan dan toko di perusahaan bernama Contoso Manufacturing, perusahaan manufaktur yang membuat baterai mobil. Masalah dibagikan oleh pekerja baik secara langsung melalui input mikrofon atau direkam sebelumnya sebagai file audio. Solusi ini menerjemahkan input audio dari ucapan ke teks lalu menggunakan LLM dan Prompty atau Promptflow untuk meringkas masalah dan mengembalikan hasil dalam format yang ditentukan oleh solusi.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub summarization-openai-csharp-prompty .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Ucapan ke Teks Ringkasan Azure OpenAI	GPT 3.5 Turbo

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Python

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab (Tanya Jawab).

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk Python. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Pencarian Azure AI Azure Blob Storage Azure Monitor Kecerdasan Dokumen Azure	GPT 3.5 Turbo GPT 4 GPT 4o GPT 4o-mini

Salinan Penulisan Kreatif Multi-Modal dengan DALL-E

Templat ini adalah solusi multi-agen penulisan kreatif untuk membantu pengguna menulis artikel. Ini menunjukkan cara membuat dan bekerja dengan agen AI yang didorong oleh Azure OpenAI.

Ini termasuk:

1. Aplikasi Flask yang mengambil artikel dan instruksi dari pengguna.
2. Agen penelitian yang menggunakan Bing Search API untuk meneliti artikel.
3. Agen produk yang menggunakan Azure AI Search untuk melakukan pencarian kesamaan semantik untuk produk terkait dari penyimpanan vektor.
4. Agen penulis untuk menggabungkan informasi penelitian dan produk ke dalam artikel yang bermanfaat.
5. Agen editor untuk menyempurnakan artikel yang disajikan kepada pengguna.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-openai-python-prompty .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Registry Azure Kubernetes	Azure OpenAI Pencarian Bing Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio	GPT 3.5 Turbo GPT 4.0 DALL-E

Contoso Chat Retail Copilot dengan AI Studio

Templat ini mengimplementasikan Contoso Chat - solusi salinan ritel untuk Contoso Outdoor yang menggunakan pola desain pembuatan tertambung pengambilan untuk respons chatbot darat dalam produk peritel dan data pelanggan. Pelanggan dapat mengajukan pertanyaan dari situs web dalam bahasa alami, dan mendapatkan respons yang relevan dengan rekomendasi potensial berdasarkan riwayat pembelian mereka - dengan praktik AI yang bertanggung jawab untuk memastikan kualitas dan keamanan respons.

Templat ini mengilustrasikan alur kerja end-to-end (GenAIOps) untuk membangun kode salinan berbasis RAG-first dengan Azure AI dan Prompty. Dengan menjelajahi dan menyebarkan sampel ini, pelajari cara:

1. Ideate dan iterate dengan cepat pada prototipe aplikasi menggunakan Prompty
2. Menyebarkan dan menggunakan model Azure OpenAI untuk obrolan, penyematan, dan evaluasi
3. Menggunakan Azure AI Search (indeks) dan Azure Cosmos DB (database) untuk data Anda
4. Mengevaluasi respons obrolan untuk kualitas menggunakan alur evaluasi yang dibantu AI
5. Host aplikasi sebagai titik akhir FastAPI yang disebarkan ke Azure Container Apps
6. Menyediakan dan menyebarkan solusi menggunakan Azure Developer CLI
7. Mendukung praktik AI yang Bertanggung Jawab dengan keamanan & penilaian konten

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub contoso-chat .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Pencarian Azure AI Azure AI Studio Prompty Azure Cosmos DB	GPT 3.5 Turbo GPT 4.0 Managed Integration Runtime (MIR)

Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan AI Studio

Templat ini membuat aplikasi berbasis web yang memungkinkan pekerja di perusahaan bernama Contoso Manufacturing melaporkan masalah melalui teks atau ucapan. Input audio diterjemahkan ke teks lalu diringkas untuk menyoroti informasi penting dan laporan dikirim ke departemen yang sesuai.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub summarization-openai-python-promptflow .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure AI Studio Layanan Ucapan ke Teks Prompty Managed Integration Runtime (MIR)	GPT 3.5 Turbo

Copilot Assistant API Analytics dengan Python dan Azure AI Studio

Templat ini adalah Assistant API untuk mengobrol dengan data tabular dan melakukan analitik dalam bahasa alami.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub assistant-data-openai-python-promptflow .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Layanan Pembelajaran Mesin	Pencarian Azure AI Azure AI Studio Managed Integration Runtime (MIR) Azure OpenAI	GPT 3.5 Turbo GPT 4

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Java

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk Java. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo-java .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure App Service Azure Container Apps Azure Kubernetes Service	Azure OpenAI Pencarian Azure AI Azure Storage Azure Monitor

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan JavaScript

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk JavaScript. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-javascript .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps Azure Static Web Apps	Azure OpenAI Pencarian Azure AI Azure Storage Azure Monitor	text-embedding-ada-002

Frontend obrolan Azure OpenAI

Templat ini adalah komponen web obrolan OpenAI minimal yang dapat dikaitkan dengan implementasi backend apa pun sebagai klien.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-openai-chat-frontend .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Static Web Apps	Pencarian Azure AI Azure OpenAI	GPT 3.5 Turbo GPT4

Obrolan AI tanpa server dengan RAG menggunakan LangChain.js

Templat adalah chatbot AI tanpa server dengan Retrieval Augmented Generation menggunakan LangChain.js dan Azure yang menggunakan sekumpulan dokumen perusahaan untuk menghasilkan respons terhadap kueri pengguna. Perusahaan ini menggunakan perusahaan fiktif bernama Contoso Real Estate, dan pengalaman tersebut memungkinkan pelanggannya untuk mengajukan pertanyaan dukungan tentang penggunaan produknya. Data sampel mencakup sekumpulan dokumen yang menjelaskan ketentuan layanan, kebijakan privasi, dan panduan dukungannya.

Untuk mempelajari cara menyebarkan dan menjalankan templat ini, lihat Mulai menggunakan Obrolan AI Tanpa Server dengan RAG menggunakan LangChain.js. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub serverless-chat-langchainjs .

Pelajari cara menyebarkan dan menjalankan templat referensi JavaScript ini.

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Static Web Apps Azure Functions	Pencarian Azure AI Azure OpenAI Azure Cosmos DB Azure Storage Azure Managed Identity	GPT4 Mistral Ollama