Templat aplikasi AI
Bagian dokumentasi ini memperkenalkan Anda ke templat aplikasi AI dan artikel terkait yang menggunakan templat ini untuk menunjukkan cara melakukan tugas pengembang utama. Templat aplikasi AI memberi Anda implementasi referensi yang terawat dan mudah disebarkan dengan baik yang membantu memastikan titik awal berkualitas tinggi untuk aplikasi AI Anda.
Ada dua kategori templat aplikasi AI, blok penyusun, dan solusi end-to-end. Bagian berikut memperkenalkan beberapa templat utama di setiap kategori untuk bahasa pemrograman yang telah Anda pilih di bagian atas artikel ini. Untuk menelusuri daftar yang lebih komprehensif termasuk templat ini dan lainnya, lihat templat aplikasi AI di galeri Azure Developer CLI.
Blok penyusun
Blok penyusun adalah sampel skala yang lebih kecil yang berfokus pada skenario dan tugas tertentu. Sebagian besar blok penyusun menunjukkan fungsionalitas yang memanfaatkan solusi end-to-end untuk aplikasi obrolan yang menggunakan data Anda sendiri.
Blok penyusun | Deskripsi |
---|---|
Muat keseimbangan dengan Azure Container Apps | Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir. |
Blok penyusun | Deskripsi |
---|---|
Mengonfigurasi keamanan dokumen untuk aplikasi obrolan | Saat Anda membuat aplikasi obrolan menggunakan pola RAG dengan data Anda sendiri, pastikan setiap pengguna menerima jawaban berdasarkan izin mereka. Pengguna yang berwenang harus memiliki akses ke jawaban yang terkandung dalam dokumen aplikasi obrolan. Pengguna yang tidak sah seharusnya tidak memiliki akses ke jawaban dari dokumen aman yang tidak memiliki otorisasi untuk dilihat. |
Mengevaluasi jawaban aplikasi obrolan | Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi. |
Muat keseimbangan dengan Azure Container Apps | Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir. |
Keseimbangan beban dengan API Management | Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir. |
Uji beban aplikasi obrolan Python dengan Locust | Pelajari proses untuk melakukan pengujian beban pada aplikasi obrolan Python menggunakan pola RAG dengan Locust, alat pengujian beban sumber terbuka yang populer. Tujuan utama pengujian beban adalah untuk memastikan bahwa beban yang diharapkan pada aplikasi obrolan Anda tidak melebihi kuota Azure OpenAI Transactions Per Minute (TPM) saat ini. Dengan mensimulasikan perilaku pengguna di bawah beban berat, Anda dapat mengidentifikasi potensi hambatan dan masalah skalabilitas dalam aplikasi Anda. |
Blok penyusun | Deskripsi |
---|---|
Muat keseimbangan dengan Azure Container Apps | Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir. |
Blok penyusun | Deskripsi |
---|---|
Mengevaluasi jawaban aplikasi obrolan | Pelajari cara mengevaluasi jawaban aplikasi obrolan terhadap serangkaian jawaban yang benar atau ideal (dikenal sebagai kebenaran dasar). Setiap kali Anda mengubah aplikasi obrolan dengan cara yang memengaruhi jawaban, jalankan evaluasi untuk membandingkan perubahan. Aplikasi demo ini menawarkan alat yang dapat Anda gunakan hari ini untuk mempermudah menjalankan evaluasi. |
Muat keseimbangan dengan Azure Container Apps | Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure Container Apps untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir. |
Keseimbangan beban dengan API Management | Pelajari cara menambahkan penyeimbangan beban ke aplikasi Anda untuk memperluas aplikasi obrolan di luar batas token Azure OpenAI dan kuota model. Pendekatan ini menggunakan Azure API Management untuk membuat tiga titik akhir Azure OpenAI, serta kontainer utama untuk mengarahkan lalu lintas masuk ke salah satu dari tiga titik akhir. |
Solusi end-to-end
Solusi end-to-end adalah sampel referensi komprehensif termasuk dokumentasi, kode sumber, dan penyebaran untuk memungkinkan Anda mengambil dan memperluas untuk tujuan Anda sendiri.
Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan .NET
Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.
Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk .NET. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo-csharp .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps Azure Functions |
Azure OpenAI Azure Computer Vision Azure Form Recognizer Pencarian Azure AI Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Ritel obrolan Contoso Copilot dengan .NET dan Semantic Kernel
Templat ini mengimplementasikan Contoso Outdoors, toko konseptual yang mengkhususkan diri dalam peralatan luar ruangan untuk penggemar hiking dan berkemah. Penyimpanan virtual ini meningkatkan keterlibatan pelanggan dan dukungan penjualan melalui agen obrolan cerdas. Agen ini didukung oleh pola Retrieval Augmented Generation (RAG) dalam Microsoft Azure AI Stack, diperkaya dengan dukungan Semantic Kernel dan Prompty.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub contoso-chat-csharp-prompty .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps |
Azure OpenAI Microsoft Entra ID Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio Azure SQL Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan .NET dan GPT 3.5 Turbo
Templat ini adalah solusi otomatisasi proses yang mengalami masalah yang dilaporkan oleh pekerja lantai lapangan dan toko di perusahaan bernama Contoso Manufacturing, perusahaan manufaktur yang membuat baterai mobil. Masalah dibagikan oleh pekerja baik secara langsung melalui input mikrofon atau direkam sebelumnya sebagai file audio. Solusi ini menerjemahkan input audio dari ucapan ke teks lalu menggunakan LLM dan Prompty atau Promptflow untuk meringkas masalah dan mengembalikan hasil dalam format yang ditentukan oleh solusi.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub summarization-openai-csharp-prompty .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps | Ucapan ke Teks Ringkasan Azure OpenAI |
GPT 3.5 Turbo |
Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Python
Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.
Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk Python. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure App Service | Azure OpenAI Pencarian Bing Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Salinan Penulisan Kreatif Multi-Modal dengan DALL-E
Templat ini adalah solusi multi-agen penulisan kreatif untuk membantu pengguna menulis artikel. Ini menunjukkan cara membuat dan bekerja dengan agen AI yang didorong oleh Azure OpenAI. Ini termasuk aplikasi Flask yang mengambil topik dan instruksi dari pengguna kemudian memanggil agen penelitian yang menggunakan Bing Search API untuk meneliti topik, agen produk yang menggunakan Azure AI Search untuk melakukan pencarian kesamaan semantik untuk produk terkait dari toko vectore, agen penulis untuk menggabungkan informasi penelitian dan produk ke dalam artikel yang bermanfaat, dan agen editor untuk menyempurnakan artikel yang akhirnya disajikan kepada pengguna.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-openai-python-prompty .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container registery Azure Kubernetes |
Azure OpenAI Pencarian Bing Azure Managed Identity Azure Monitor Pencarian Azure AI Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Contoso Chat Retail Copilot dengan AI Studio
Templat ini adalah solusi obrolan penjualan dan dukungan pelanggan. Ini menunjukkan cara membangun aplikasi Model Bahasa Besar (LLM) dengan arsitektur RAG (Retrieval Augmented Generation) menggunakan Azure AI Studio dan Prompt Flow.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub contoso-chat .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps |
Azure OpenAI Pencarian Azure AI Azure AI Studio Azure Cosmos DB |
GPT 3.5 Turbo GPT 4.0 Managed Integration Runtime (MIR) |
Otomatisasi proses dengan ucapan ke teks dan ringkasan dengan AI Studio
Templat ini adalah solusi otomatisasi proses yang mengalami masalah yang dilaporkan oleh pekerja lantai lapangan dan toko di perusahaan bernama Contoso Manufacturing, perusahaan manufaktur yang membuat baterai mobil. Masalah dibagikan oleh pekerja baik secara langsung melalui input mikrofon, direkam sebelumnya sebagai file audio atau sebagai input teks. Solusi ini menerjemahkan input audio dari ucapan ke teks lalu menggunakan laporan teks sebagai input ke LLM dan Prompty/Promptflow untuk meringkas masalah dan mengembalikan hasil dalam format yang ditentukan oleh solusi.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub summarization-openai-python-prompflow .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps | Azure AI Studio Layanan Ucapan ke Teks Alur Perintah Managed Integration Runtime (MIR) |
GPT 3.5 Turbo |
Panggilan fungsi dengan Prompty, LangChain dan Elastic Search
Templat ini adalah aplikasi yang menggunakan Prompty, Langchain, dan Elasticsearch untuk membangun agen pencarian model bahasa besar (LLM). Agen dengan teknologi Retrieval Augmented Generation (RAG) ini mampu menjawab pertanyaan pengguna berdasarkan data yang disediakan dengan mengintegrasikan pengambilan informasi real time dengan respons generatif.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-python-openai-prompty-langchain .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Layanan Pembelajaran Mesin | Azure AI Studio Pencarian Elastis Microsoft Entra ID Azure Managed Identity Azure Monitor Azure Storage Azure AI Studio Managed Integration Runtime (MIR) |
GPT 3.5 Turbo |
Panggilan fungsi dengan Prompty, LangChain dan Pinecone
Templat ini menggunakan alat Prompty baru, Langchain, dan Pinecone untuk membangun agen pencarian model bahasa besar (LLM). Agen dengan teknologi Retrieval Augmented Generation (RAG) ini mampu menjawab pertanyaan pengguna berdasarkan data yang disediakan dengan mengintegrasikan pengambilan informasi real time dengan respons generatif.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub agent-openai-python-prompty-langchain-pinecone .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps | Pinecone Microsoft Entra ID Identitas Terkelola Microsoft Azure Monitor Azure Storage |
GPT 3.5 Turbo |
Copilot Assistant API Analytics dengan Python dan Azure AI Studio
Templat ini adalah Assistant API untuk mengobrol dengan data tabular dan melakukan analitik dalam bahasa alami. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub assistant-data-openai-python-promptflow .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Layanan Pembelajaran Mesin | Pencarian Azure AI Azure AI Studio Managed Integration Runtime (MIR) Azure OpenAI |
GPT 3.5 Turbo GPT 4 |
Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan Java
Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.
Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk Java. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-demo-java .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure App Service Azure Container Apps Azure Kubernetes Service |
Azure OpenAI Pencarian Azure AI Azure Storage Azure Monitor |
Mengobrol dengan data Anda menggunakan Azure OpenAI dan Azure AI Search dengan JavaScript
Templat ini adalah solusi end-to-end lengkap yang menunjukkan pola Retrieval-Augmented Generation (RAG) yang berjalan di Azure. Ini menggunakan Azure AI Search untuk pengambilan dan model bahasa besar Azure OpenAI untuk mendukung pengalaman gaya ChatGPT dan Tanya Jawab.
Untuk mulai menggunakan templat ini, lihat Mulai menggunakan obrolan menggunakan sampel data Anda sendiri untuk JavaScript. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-search-openai-javascript .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Container Apps Azure Static Web Apps |
Azure OpenAI Pencarian Azure AI Azure Storage Azure Monitor |
text-embedding-ada-002 |
Frontend obrolan Azure OpenAI
Templat ini adalah komponen web obrolan OpenAI minimal yang dapat dikaitkan dengan implementasi backend apa pun sebagai klien.
Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub azure-openai-chat-frontend .
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Static Web Apps | Pencarian Azure AI Azure OpenAI |
GPT 3.5 Turbo GPT4 |
Obrolan AI tanpa server dengan RAG menggunakan LangChain.js
Templat adalah chatbot AI tanpa server dengan Retrieval Augmented Generation menggunakan LangChain.js dan Azure yang menggunakan sekumpulan dokumen perusahaan untuk menghasilkan respons terhadap kueri pengguna. Perusahaan ini menggunakan perusahaan fiktif bernama Contoso Real Estate, dan pengalaman tersebut memungkinkan pelanggannya untuk mengajukan pertanyaan dukungan tentang penggunaan produknya. Data sampel mencakup sekumpulan dokumen yang menjelaskan ketentuan layanan, kebijakan privasi, dan panduan dukungannya.
Untuk mempelajari cara menyebarkan dan menjalankan templat ini, lihat Mulai menggunakan Obrolan AI Tanpa Server dengan RAG menggunakan LangChain.js. Untuk mengakses kode sumber dan membaca detail mendalam tentang templat, lihat repositori GitHub serverless-chat-langchainjs .
Pelajari cara menyebarkan dan menjalankan templat referensi JavaScript ini.
Templat ini menunjukkan penggunaan fitur-fitur ini.
Solusi hosting Azure | Teknologi | Model AI |
---|---|---|
Azure Static Web Apps Azure Functions |
Pencarian Azure AI Azure OpenAI Azure Cosmos DB Azure Storage Azure Managed Identity |
GPT4 Mistral Ollama |