Šablony aplikací AI
Tato část dokumentace vás seznámí se šablonami aplikací AI a souvisejícími články, které tyto šablony používají k předvedení klíčových úloh vývojáře. Šablony aplikací AI poskytují dobře udržované a snadno použitelné referenční implementace, které pomáhají zajistit vysoce kvalitní výchozí bod pro vaše aplikace AI.
Existují dvě kategorie šablon aplikací AI, stavební bloky a ucelená řešení. Následující části představují některé klíčové šablony v každé kategorii pro programovací jazyk, který jste vybrali v horní části tohoto článku. Pokud chcete procházet komplexnější seznam, včetně těchto a dalších šablon, podívejte se na šablony aplikací AI v galerii šablon aplikací AI.
Stavební bloky
Stavební bloky jsou menší vzorky, které se zaměřují na konkrétní scénáře a úlohy. Většina stavebních bloků demonstruje funkce, které využívají ucelené řešení pro chatovací aplikaci, která používá vaše vlastní data.
Obytný blok | Popis |
---|---|
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Obytný blok | Popis |
---|---|
Konfigurace zabezpečení dokumentů pro chatovací aplikaci | Při vytváření chatovací aplikace pomocí vzoru RAG s vlastními daty se ujistěte, že každý uživatel obdrží odpověď na základě svých oprávnění. Autorizovaný uživatel by měl mít přístup k odpovědím obsaženým v dokumentech chatovací aplikace. Neoprávněný uživatel by neměl mít přístup k odpovědím ze zabezpečených dokumentů, ke kterým nemá autorizaci. |
Vyhodnocení odpovědí na chatovací aplikaci | Zjistěte, jak vyhodnotit odpovědi chatovací aplikace proti sadě správných nebo ideálních odpovědí (označovaných jako základní pravda). Kdykoli změníte chatovací aplikaci způsobem, který ovlivňuje odpovědi, spusťte vyhodnocení a porovnejte změny. Tato ukázková aplikace nabízí nástroje, které můžete použít dnes, abyste usnadnili spouštění vyhodnocení. |
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Vyrovnávání zatížení s využitím služby API Management | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure API Management k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Zátěžový test chatovací aplikace Pythonu s Využitím Pythonu | Naučte se, jak provádět zátěžové testování v chatovací aplikaci v Pythonu pomocí vzoru RAG s Pythonem, oblíbeného opensourcového nástroje pro zátěžové testování. Hlavním cílem zátěžového testování je zajistit, aby očekávané zatížení vaší chatovací aplikace nepřekročilo aktuální kvótu transakcí Azure OpenAI za minutu (TPM). Simulací chování uživatelů při vysokém zatížení můžete identifikovat potenciální kritické body a problémy se škálovatelností ve vaší aplikaci. |
Zabezpečení aplikace AI pomocí ověřování bez klíčů | Zjistěte, jak zabezpečit chatovací aplikaci Azure OpenAI v Pythonu pomocí ověřování bez klíčů. Žádosti aplikací na většinu služeb Azure by se měly ověřovat pomocí bezklíčových připojení nebo připojení bez hesel. Ověřování bez klíčů nabízí lepší výhody správy a zabezpečení u klíče účtu, protože neexistuje žádný klíč (nebo připojovací řetězec) pro ukládání. |
Obytný blok | Popis |
---|---|
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Obytný blok | Popis |
---|---|
Vyhodnocení odpovědí na chatovací aplikaci | Zjistěte, jak vyhodnotit odpovědi chatovací aplikace proti sadě správných nebo ideálních odpovědí (označovaných jako základní pravda). Kdykoli změníte chatovací aplikaci způsobem, který ovlivňuje odpovědi, spusťte vyhodnocení a porovnejte změny. Tato ukázková aplikace nabízí nástroje, které můžete použít dnes, abyste usnadnili spouštění vyhodnocení. |
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Vyrovnávání zatížení s využitím služby API Management | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure API Management k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Ucelená řešení
Ucelená řešení jsou komplexní referenční ukázky, včetně dokumentace, zdrojového kódu a nasazení, které vám umožní provádět a rozšiřovat vlastní účely.
Chatování s daty pomocí Azure OpenAI a Azure AI Search s využitím .NET
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro .NET. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu azure-search-openai-demo-csharp .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps Azure Functions |
Azure OpenAI Azure Computer Vision Rozpoznávání formulářů Azure Azure AI Vyhledávač Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Maloobchodní prodej chatu Contoso Copilot s .NET a sémantickým jádrem
Tato šablona implementuje Contoso Outdoors, koncepční obchod se zaměřením na venkovní vybavení pro pěší turistiku a kempování nadšenců. Toto virtuální úložiště vylepšuje zapojení zákazníků a podporu prodeje prostřednictvím inteligentního chatovacího agenta. Tento agent využívá model RAG (Retrieval Augmented Generation) ve službě Microsoft Azure AI Stack, který je obohacený o podporu sémantického jádra a prompty.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHub s výzvou contoso-chat-csharp-prompty .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps |
Azure OpenAI Microsoft Entra ID Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio Azure SQL Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Automatizace procesů s využitím řeči na text a shrnutí pomocí .NET a GPT 3.5 Turbo
Tato šablona je řešení automatizace procesů, které oznamuje problémy nahlášené pracovníky v terénu a pracovních prostorech ve společnosti Contoso Manufacturing, výrobní společnosti, která vyrábí autobaterie. Problémy sdílí pracovníci buď živě prostřednictvím vstupu mikrofonu, nebo jsou předem zaznamenané jako zvukové soubory. Řešení překládá zvukový vstup z řeči na text a pak pomocí LLM a Prompty nebo Promptflow shrnout problém a vrátit výsledky ve formátu určeném řešením.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu se souhrnem-openai-csharp-prompty .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps | Převod řeči na text Souhrn Azure OpenAI |
GPT 3.5 Turbo |
Chatování s daty pomocí Azure OpenAI a Azure AI Search s Pythonem
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Využívá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI, které umožňují používat prostředí stylu ChatGPT a Otázek a odpovědí (Q&A).
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro Python. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu azure-search-openai-demo .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps | Azure OpenAI Azure AI Vyhledávač Azure Blob Storage Azure Monitor Azure Document Intelligence |
GPT 3.5 Turbo GPT 4 GPT 4o GPT 4o-mini |
Multimodální kreativní psaní Copilot s DALL-E
Tato šablona je kreativní psaní řešení pro více agentů, které uživatelům pomáhá psát články. Ukazuje, jak vytvářet a pracovat s agenty AI řízenými Azure OpenAI.
Patří mezi ně:
- Aplikace Flask, která přebírá článek a instrukce od uživatele.
- Agent výzkumu, který k prozkoumání článku používá rozhraní API Bingu pro vyhledávání.
- Agent produktu, který používá Azure AI Search k vyhledání sémantické podobnosti souvisejících produktů z úložiště vektorů.
- Autor agent pro kombinování informací o výzkumu a produktu do užitečného článku.
- Agent editoru pro upřesnění článku prezentovaného uživateli.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, projděte si úložiště GitHub agent-openai-python-prompty .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Registry Azure Kubernetes |
Azure OpenAI Vyhledávání MS Bingu Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Contoso Chat Retail Copilot s AI Studio
Tato šablona implementuje Contoso Chat – maloobchodní řešení copilotu pro Společnost Contoso Outdoor, které používá vzor návrhu načítání rozšířené generace k uzemnění odpovědí chatbota v produktech a zákaznických datech prodejce. Zákazníci můžou klást otázky z webu v přirozeném jazyce a získávat relevantní odpovědi s potenciálními doporučeními na základě historie nákupů – s zodpovědnými postupy umělé inteligence, které zajišťují kvalitu a bezpečnost reakce.
Tato šablona znázorňuje ucelený pracovní postup (GenAIOps) pro vytvoření kódu zkopírovaného kódu založeného na architektuře RAG pomocí Azure AI a výzvy. Prozkoumáním a nasazením této ukázky se naučíte:
- Rychlé iterace a iterace prototypů aplikací pomocí prompty
- Nasazení a použití modelů Azure OpenAI pro chat, vkládání a vyhodnocení
- Použití služby Azure AI Search (indexy) a Azure Cosmos DB (databáze) pro vaše data
- Vyhodnocení odpovědí na chat pro kvalitu pomocí toků hodnocení s asistencí AI
- Hostování aplikace jako koncového bodu FastAPI nasazeného do Azure Container Apps
- Zřízení a nasazení řešení pomocí Azure Developer CLI
- Podpora zodpovědných postupů umělé inteligence s využitím bezpečnosti obsahu a hodnocení
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu pro contoso-chat .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps |
Azure OpenAI Azure AI Vyhledávač Azure AI Studio Výzva Azure Cosmos DB |
GPT 3.5 Turbo GPT 4.0 Managed Integration Runtime (MIR) |
Automatizace procesů s využitím řeči na text a shrnutí pomocí AI Studia
Tato šablona vytvoří webovou aplikaci, která umožňuje pracovníkům ve společnosti Contoso Manufacturing hlásit problémy prostřednictvím textu nebo řeči. Zvukový vstup se přeloží na text a pak se shrne, aby se zvýrazňovaly důležité informace a sestava se odešle do příslušného oddělení.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu sumzation-openai-python-promptflow .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps | Azure AI Studio Služba Převod řeči na text Výzva Managed Integration Runtime (MIR) |
GPT 3.5 Turbo |
Assistant API Analytics Copilot s Pythonem a Azure AI Studio
Tato šablona je rozhraní API pomocníka pro chatování s tabulkovými daty a provádění analýz v přirozeném jazyce.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, přečtěte si úložiště GitHub assistant-data-openai-python-promptflow .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Machine Learning Service | Azure AI Vyhledávač Azure AI Studio Managed Integration Runtime (MIR) Azure OpenAI |
GPT 3.5 Turbo GPT 4 |
Chatování s daty pomocí Azure OpenAI a Azure AI Search s Javou
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro Javu. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu azure-search-openai-demo-java .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure App Service Azure Container Apps Azure Kubernetes Service |
Azure OpenAI Azure AI Vyhledávač Azure Storage Azure Monitor |
Chatování s daty pomocí Azure OpenAI a Azure AI Search pomocí JavaScriptu
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro JavaScript. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, projděte si úložiště GitHubu azure-search-openai-javascript .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps Azure Static Web Apps |
Azure OpenAI Azure AI Vyhledávač Azure Storage Azure Monitor |
text-embedding-ada-002 |
Front-end chatu Azure OpenAI
Tato šablona je minimální webová komponenta chatu OpenAI, která se dá připojit k jakékoli back-endové implementaci jako klient.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu azure-openai-chat-front-end .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Static Web Apps | Azure AI Vyhledávač Azure OpenAI |
GPT 3.5 Turbo GPT4 |
Bezserverový chat S RAG s využitím LangChain.js
Šablona je bezserverový chatovací robot AI s využitím rozšířené generace načítání pomocí LangChain.js a Azure, který používá sadu podnikových dokumentů k vygenerování odpovědí na dotazy uživatelů. Používá fiktivní společnost s názvem Contoso Real Estate a prostředí umožňuje svým zákazníkům klást dotazy na podporu týkající se používání svých produktů. Ukázková data obsahují sadu dokumentů, které popisují její podmínky služby, zásady ochrany osobních údajů a průvodce podporou.
Informace o nasazení a spuštění této šablony najdete v tématu Začínáme s bezserverovou službou AI Chat s RAG pomocí LangChain.js. Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, přečtěte si úložiště GitHub bezserverového chatu-langchainjs .
Zjistěte, jak nasadit a spustit tuto referenční šablonu JavaScriptu.
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Static Web Apps Azure Functions |
Azure AI Vyhledávač Azure OpenAI Azure Cosmos DB Azure Storage Spravovaná identita Azure |
GPT4 Mistral Ollama |