Templat aplikasi AI

Bagian dokumentasi ini memperkenalkan Anda ke templat aplikasi AI dan artikel terkait yang menggunakan templat ini untuk menunjukkan cara melakukan tugas pengembang utama. Templat aplikasi AI memberi Anda implementasi referensi yang terawat dan mudah disebarkan dengan baik yang membantu memastikan titik awal berkualitas tinggi untuk aplikasi AI Anda.

Ada dua kategori templat aplikasi AI, blok penyusun, dan solusi end-to-end. Bagian berikut memperkenalkan beberapa templat utama di setiap kategori untuk bahasa pemrograman yang telah Anda pilih di bagian atas artikel ini. Untuk menelusuri daftar yang lebih komprehensif termasuk templat ini dan lainnya, lihat templat aplikasi AI di galeri Azure Developer CLI.

Blok penyusun

Blok penyusun adalah sampel skala yang lebih kecil yang berfokus pada skenario dan tugas tertentu. Sebagian besar blok penyusun menunjukkan fungsionalitas yang memanfaatkan solusi end-to-end untuk aplikasi obrolan yang menggunakan data Anda sendiri.

Blok penyusun	Deskripsi
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Blok penyusun	Deskripsi
Mengonfigurasi keamanan dokumen untuk aplikasi obrolan	Saat Anda membuat aplikasi obrolan menggunakan pola RAG dengan data Anda sendiri, pastikan setiap pengguna menerima jawaban berdasarkan izin mereka. Pengguna yang berwenang harus memiliki akses ke jawaban yang terkandung dalam dokumen aplikasi obrolan. Pengguna yang tidak sah seharusnya tidak memiliki akses ke jawaban dari dokumen aman yang tidak memiliki otorisasi untuk dilihat.
Mengevaluasi jawaban aplikasi obrolan	Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi.
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Keseimbangan beban dengan API Management	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Uji beban aplikasi obrolan Python dengan Locust	Pelajari proses untuk melakukan pengujian beban pada aplikasi obrolan Python menggunakan pola RAG dengan Locust, alat pengujian beban sumber terbuka yang populer. Tujuan utama pengujian beban adalah untuk memastikan bahwa beban yang diharapkan pada aplikasi obrolan Anda tidak melebihi kuota Azure OpenAI Transactions Per Minute (TPM) saat ini. Dengan mensimulasikan perilaku pengguna di bawah beban berat, Anda dapat mengidentifikasi potensi hambatan dan masalah skalabilitas dalam aplikasi Anda.

Blok penyusun	Deskripsi
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Blok penyusun	Deskripsi
Mengevaluasi jawaban aplikasi obrolan	Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi.
Muat keseimbangan dengan Azure Container Apps	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.
Keseimbangan beban dengan API Management	Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir.

Solusi end-to-end

Solusi end-to-end adalah sampel referensi komprehensif termasuk dokumentasi, kode sumber, dan penyebaran untuk memungkinkan Anda mengambil dan memperluas untuk tujuan Anda sendiri.

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan .NET

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk .NET. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo-csharp .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps Azure Functions	Azure OpenAI Azure Computer Vision Azure Form Recognizer Pencarian Azure AI Azure Storage	GPT 3.5 Turbo GPT 4.0

Ritel obrolan Contoso Copilot dengan .NET dan Semantic Kernel

Templat ini mengimplementasikan Contoso Outdoors, toko konseptual yang mengkhususkan diri dalam peralatan luar ruangan untuk penggemar hiking dan berkemah. Penyimpanan virtual ini meningkatkan keterlibatan pelanggan dan dukungan penjualan melalui agen obrolan cerdas. Agen ini didukung oleh pola Retrieval Augmented Generation (RAG) dalam Microsoft Azure AI Stack, diperkaya dengan dukungan Semantic Kernel dan Prompty.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub contoso-chat-csharp-prompty .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Microsoft Entra ID Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio Azure SQL Azure Storage	GPT 3.5 Turbo GPT 4.0

Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan .NET dan GPT 3.5 Turbo

Templat ini adalah solusi otomatisasi proses yang mengalami masalah yang dilaporkan oleh pekerja lantai lapangan dan toko di perusahaan bernama Contoso Manufacturing, perusahaan manufaktur yang membuat baterai mobil. Masalah dibagikan oleh pekerja baik secara langsung melalui input mikrofon atau direkam sebelumnya sebagai file audio. Solusi ini menerjemahkan input audio dari ucapan ke teks lalu menggunakan LLM dan Prompty atau Promptflow untuk meringkas masalah dan mengembalikan hasil dalam format yang ditentukan oleh solusi.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub summarization-openai-csharp-prompty .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Ucapan ke Teks Ringkasan Azure OpenAI	GPT 3.5 Turbo

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Python

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk Python. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure App Service	Azure OpenAI Pencarian Bing Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio	GPT 3.5 Turbo GPT 4.0 DALL-E

Salinan Penulisan Kreatif Multi-Modal dengan DALL-E

Templat ini adalah solusi multi-agen penulisan kreatif untuk membantu pengguna menulis artikel. Ini menunjukkan cara membuat dan bekerja dengan agen AI yang didorong oleh Azure OpenAI. Ini termasuk aplikasi Flask yang mengambil topik dan instruksi dari pengguna kemudian memanggil agen penelitian yang menggunakan Bing Search API untuk meneliti topik, agen produk yang menggunakan Azure AI Search untuk melakukan pencarian kesamaan semantik untuk produk terkait dari toko vectore, agen penulis untuk menggabungkan informasi penelitian dan produk ke dalam artikel yang bermanfaat, dan agen editor untuk menyempurnakan artikel yang akhirnya disajikan kepada pengguna.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-openai-python-prompty .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container registery Azure Kubernetes	Azure OpenAI Pencarian Bing Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio	GPT 3.5 Turbo GPT 4.0 DALL-E

Contoso Chat Retail Copilot dengan AI Studio

Templat ini adalah solusi obrolan penjualan dan dukungan pelanggan. Ini menunjukkan cara membangun aplikasi Model Bahasa Besar (LLM) dengan arsitektur RAG (Retrieval Augmented Generation) menggunakan Azure AI Studio dan Prompt Flow.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub contoso-chat .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure OpenAI Pencarian Azure AI Azure AI Studio Azure Cosmos DB	GPT 3.5 Turbo GPT 4.0 Managed Integration Runtime (MIR)

Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan AI Studio

Templat ini adalah solusi otomatisasi proses yang mengalami masalah yang dilaporkan oleh pekerja lantai lapangan dan toko di perusahaan bernama Contoso Manufacturing, perusahaan manufaktur yang membuat baterai mobil. Masalah dibagikan oleh pekerja baik secara langsung melalui input mikrofon, direkam sebelumnya sebagai file audio atau sebagai input teks. Solusi ini menerjemahkan input audio dari ucapan ke teks lalu menggunakan laporan teks sebagai input ke LLM dan Prompty/Promptflow untuk meringkas masalah dan mengembalikan hasil dalam format yang ditentukan oleh solusi.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub summarization-openai-python-prompflow .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Azure AI Studio Layanan Ucapan ke Teks Alur Perintah Managed Integration Runtime (MIR)	GPT 3.5 Turbo

Panggilan fungsi dengan Prompty, LangChain dan Elastic Search

Templat ini adalah aplikasi yang menggunakan Prompty, Langchain, dan Elasticsearch untuk membangun agen pencarian model bahasa besar (LLM). Agen dengan teknologi Retrieval Augmented Generation (RAG) ini mampu menjawab pertanyaan pengguna berdasarkan data yang disediakan dengan mengintegrasikan pengambilan informasi real time dengan respons generatif.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-python-openai-prompty-langchain .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Layanan Pembelajaran Mesin	Azure AI Studio Pencarian Elastis Microsoft Entra ID Azure Managed Identity Azure Monitor Azure Storage Azure AI Studio Managed Integration Runtime (MIR)	GPT 3.5 Turbo

Panggilan fungsi dengan Prompty, LangChain dan Pinecone

Templat ini menggunakan alat Prompty baru, Langchain, dan Pinecone untuk membangun agen pencarian model bahasa besar (LLM). Agen dengan teknologi Retrieval Augmented Generation (RAG) ini mampu menjawab pertanyaan pengguna berdasarkan data yang disediakan dengan mengintegrasikan pengambilan informasi real time dengan respons generatif.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-openai-python-prompty-langchain-pinecone .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps	Pinecone Microsoft Entra ID Identitas Terkelola Microsoft Azure Monitor Azure Storage	GPT 3.5 Turbo

Copilot Assistant API Analytics dengan Python dan Azure AI Studio

Templat ini adalah Assistant API untuk mengobrol dengan data tabular dan melakukan analitik dalam bahasa alami. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub assistant-data-openai-python-promptflow .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Layanan Pembelajaran Mesin	Pencarian Azure AI Azure AI Studio Managed Integration Runtime (MIR) Azure OpenAI	GPT 3.5 Turbo GPT 4

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Java

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk Java. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo-java .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure App Service Azure Container Apps Azure Kubernetes Service	Azure OpenAI Pencarian Azure AI Azure Storage Azure Monitor

Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan JavaScript

Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.

Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk JavaScript. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-javascript .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Container Apps Azure Static Web Apps	Azure OpenAI Pencarian Azure AI Azure Storage Azure Monitor	text-embedding-ada-002

Frontend obrolan Azure OpenAI

Templat ini adalah komponen web obrolan OpenAI minimal yang dapat dikaitkan dengan implementasi backend apa pun sebagai klien.

Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-openai-chat-frontend .

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Static Web Apps	Pencarian Azure AI Azure OpenAI	GPT 3.5 Turbo GPT4

Obrolan AI tanpa server dengan RAG menggunakan LangChain.js

Templat adalah chatbot AI tanpa server dengan Retrieval Augmented Generation menggunakan LangChain.js dan Azure yang menggunakan sekumpulan dokumen perusahaan untuk menghasilkan respons terhadap kueri pengguna. Perusahaan ini menggunakan perusahaan fiktif bernama Contoso Real Estate, dan pengalaman tersebut memungkinkan pelanggannya untuk mengajukan pertanyaan dukungan tentang penggunaan produknya. Data sampel mencakup sekumpulan dokumen yang menjelaskan ketentuan layanan, kebijakan privasi, dan panduan dukungannya.

Untuk mempelajari cara menyebarkan dan menjalankan templat ini, lihat Mulai menggunakan Obrolan AI Tanpa Server dengan RAG menggunakan LangChain.js. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub serverless-chat-langchainjs .

Pelajari cara menyebarkan dan menjalankan templat referensi JavaScript ini.

Templat ini menunjukkan penggunaan fitur-fitur ini.

Solusi hosting Azure	Teknologi	Model AI
Azure Static Web Apps Azure Functions	Pencarian Azure AI Azure OpenAI Azure Cosmos DB Azure Storage Azure Managed Identity	GPT4 Mistral Ollama