Šablony aplikací AI

Tato část dokumentace vás seznámí se šablonami aplikací AI a souvisejícími články, které tyto šablony používají k předvedení klíčových úloh vývojáře. Šablony aplikací AI poskytují dobře udržované a snadno použitelné referenční implementace, které pomáhají zajistit vysoce kvalitní výchozí bod pro vaše aplikace AI.

Existují dvě kategorie šablon aplikací AI, stavební bloky a ucelená řešení. Následující části představují některé klíčové šablony v každé kategorii pro programovací jazyk, který jste vybrali v horní části tohoto článku. Pokud chcete procházet komplexnější seznam, včetně těchto a dalších šablon, podívejte se na šablony aplikací AI v galerii Azure Developer CLI.

Stavební bloky

Stavební bloky jsou menší vzorky, které se zaměřují na konkrétní scénáře a úlohy. Většina stavebních bloků demonstruje funkce, které využívají ucelené řešení pro chatovací aplikaci, která používá vaše vlastní data.

Obytný blok	Popis
Vyrovnávání zatížení s využitím Azure Container Apps	Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů.

Obytný blok	Popis
Konfigurace zabezpečení dokumentů pro chatovací aplikaci	Při vytváření chatovací aplikace pomocí vzoru RAG s vlastními daty se ujistěte, že každý uživatel obdrží odpověď na základě svých oprávnění. Autorizovaný uživatel by měl mít přístup k odpovědím obsaženým v dokumentech chatovací aplikace. Neoprávněný uživatel by neměl mít přístup k odpovědím ze zabezpečených dokumentů, ke kterým nemá autorizaci.
Vyhodnocení odpovědí na chatovací aplikaci	Zjistěte, jak vyhodnotit odpovědi chatovací aplikace proti sadě správných nebo ideálních odpovědí (označovaných jako základní pravda). Kdykoli změníte chatovací aplikaci způsobem, který ovlivňuje odpovědi, spusťte vyhodnocení a porovnejte změny. Tato ukázková aplikace nabízí nástroje, které můžete použít dnes, abyste usnadnili spouštění vyhodnocení.
Vyrovnávání zatížení s využitím Azure Container Apps	Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů.
Vyrovnávání zatížení s využitím služby API Management	Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure API Management k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů.
Zátěžový test chatovací aplikace Pythonu s Využitím Pythonu	Naučte se, jak provádět zátěžové testování v chatovací aplikaci v Pythonu pomocí vzoru RAG s Pythonem, oblíbeného opensourcového nástroje pro zátěžové testování. Hlavním cílem zátěžového testování je zajistit, aby očekávané zatížení vaší chatovací aplikace nepřekročilo aktuální kvótu transakcí Azure OpenAI za minutu (TPM). Simulací chování uživatelů při vysokém zatížení můžete identifikovat potenciální kritické body a problémy se škálovatelností ve vaší aplikaci.

Obytný blok	Popis
Vyrovnávání zatížení s využitím Azure Container Apps	Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů.

Obytný blok	Popis
Vyhodnocení odpovědí na chatovací aplikaci	Zjistěte, jak vyhodnotit odpovědi chatovací aplikace proti sadě správných nebo ideálních odpovědí (označovaných jako základní pravda). Kdykoli změníte chatovací aplikaci způsobem, který ovlivňuje odpovědi, spusťte vyhodnocení a porovnejte změny. Tato ukázková aplikace nabízí nástroje, které můžete použít dnes, abyste usnadnili spouštění vyhodnocení.
Vyrovnávání zatížení s využitím Azure Container Apps	Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů.
Vyrovnávání zatížení s využitím služby API Management	Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure API Management k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů.

Ucelená řešení

Ucelená řešení jsou komplexní referenční ukázky, včetně dokumentů, zdrojového kódu a nasazení, které vám umožní vzít a rozšířit je pro vlastní účely.

Chatování s daty pomocí Azure OpenAI a Azure AI Search s využitím .NET

Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.

Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro .NET. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu azure-search-openai-demo-csharp .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps Azure Functions	Azure OpenAI Azure Computer Vision Rozpoznávání formulářů Azure Azure AI Vyhledávač Azure Storage	GPT 3.5 Turbo GPT 4.0

Maloobchodní prodej chatu Contoso Copilot s .NET a sémantickým jádrem

Tato šablona implementuje Contoso Outdoors, koncepční obchod se zaměřením na venkovní vybavení pro pěší turistiku a kempování nadšenců. Toto virtuální úložiště vylepšuje zapojení zákazníků a podporu prodeje prostřednictvím inteligentního chatovacího agenta. Tento agent využívá model RAG (Retrieval Augmented Generation) ve službě Microsoft Azure AI Stack, který je obohacený o podporu sémantického jádra a prompty.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHub s výzvou contoso-chat-csharp-prompty .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps	Azure OpenAI Microsoft Entra ID Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio Azure SQL Azure Storage	GPT 3.5 Turbo GPT 4.0

Automatizace procesů s využitím řeči na text a shrnutí pomocí .NET a GPT 3.5 Turbo

Tato šablona je řešení automatizace procesů, které oznamuje problémy nahlášené pracovníky v terénu a pracovních prostorech ve společnosti Contoso Manufacturing, výrobní společnosti, která vyrábí autobaterie. Problémy sdílí pracovníci buď živě prostřednictvím vstupu mikrofonu, nebo jsou předem zaznamenané jako zvukové soubory. Řešení překládá zvukový vstup z řeči na text a pak pomocí LLM a Prompty nebo Promptflow shrnout problém a vrátit výsledky ve formátu určeném řešením.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu se souhrnem-openai-csharp-prompty .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps	Převod řeči na text Souhrn Azure OpenAI	GPT 3.5 Turbo

Chatování s daty pomocí Azure OpenAI a Azure AI Search s Pythonem

Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.

Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro Python. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu azure-search-openai-demo .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure App Service	Azure OpenAI Vyhledávání MS Bingu Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio	GPT 3.5 Turbo GPT 4.0 DALL-E

Multimodální kreativní psaní Copilot s DALL-E

Tato šablona je kreativní psaní řešení pro více agentů, které uživatelům pomáhá psát články. Ukazuje, jak vytvářet a pracovat s agenty AI řízenými Azure OpenAI. Zahrnuje aplikaci Flask, která vezme téma a pokyn od uživatele, pak zavolá agenta výzkumu, který k prozkoumání tématu používá rozhraní API Bingu pro vyhledávání, agenta produktu, který používá Azure AI Search k provedení sémantického vyhledávání souvisejících produktů z úložiště vektorů, agenta writeru ke kombinování informací o výzkumu a produktu do užitečného článku. a agent editoru pro upřesnění článku, který je konečně prezentován uživateli.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, projděte si úložiště GitHub agent-openai-python-prompty .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Registrace kontejneru Azure Azure Kubernetes	Azure OpenAI Vyhledávání MS Bingu Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio	GPT 3.5 Turbo GPT 4.0 DALL-E

Contoso Chat Retail Copilot s AI Studio

Tato šablona je řešení chatu prodeje a podpory zákazníků. Ukazuje, jak vytvořit aplikaci large language model (LLM) s architekturou RAG (Retrieval Augmented Generation) pomocí azure AI Studia a toku výzvy.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu pro contoso-chat .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps	Azure OpenAI Azure AI Vyhledávač Azure AI Studio Azure Cosmos DB	GPT 3.5 Turbo GPT 4.0 Managed Integration Runtime (MIR)

Automatizace procesů s využitím řeči na text a shrnutí pomocí AI Studia

Tato šablona je řešení automatizace procesů, které oznamuje problémy nahlášené pracovníky v terénu a pracovních prostorech ve společnosti Contoso Manufacturing, výrobní společnosti, která vyrábí autobaterie. Problémy sdílí pracovníci buď živě prostřednictvím vstupu mikrofonu, předznamenají se jako zvukové soubory nebo jako textové zadání. Řešení přeloží zvukový vstup z řeči na text a pak použije textové sestavy jako vstup do LLM a Prompty/Promptflow k vytvoření souhrnu problému a vrácení výsledků ve formátu určeném řešením.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu sumzation-openai-python-prompflow .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps	Azure AI Studio Služba Převod řeči na text Tok výzvy Managed Integration Runtime (MIR)	GPT 3.5 Turbo

Volání funkcí pomocí Prompty, LangChain a Elastic Search

Tato šablona je aplikace, která k vytvoření velkého agenta vyhledávání jazyka (LLM) používá Prompty, Langchain a Elasticsearch. Tento agent s technologií RAG (Retrieval Augmented Generation) dokáže odpovídat na uživatelské otázky na základě poskytnutých dat integrací načítání informací v reálném čase s generováním odpovědí.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu agent-python-openai-prompty-langchain .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Machine Learning Service	Azure AI Studio Elastické vyhledávání Microsoft Entra ID Spravovaná identita Azure Azure Monitor Azure Storage Azure AI Studio Managed Integration Runtime (MIR)	GPT 3.5 Turbo

Volání funkcí pomocí Prompty, LangChain a Pinecone

Tato šablona využívá nový nástroj Prompty, Langchain a Pinecone k vytvoření velkého agenta vyhledávání jazyka (LLM). Tento agent s technologií RAG (Retrieval Augmented Generation) dokáže odpovídat na uživatelské otázky na základě poskytnutých dat integrací načítání informací v reálném čase s generováním odpovědí.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu agent-openai-python-prompty-langchain-pinecone .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps	Pinecone Microsoft Entra ID Spravovaná identita Microsoftu Azure Monitor Azure Storage	GPT 3.5 Turbo

Assistant API Analytics Copilot s Pythonem a Azure AI Studio

Tato šablona je rozhraní API pomocníka pro chatování s tabulkovými daty a provádění analýz v přirozeném jazyce. Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, přečtěte si úložiště GitHub assistant-data-openai-python-promptflow .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Machine Learning Service	Azure AI Vyhledávač Azure AI Studio Managed Integration Runtime (MIR) Azure OpenAI	GPT 3.5 Turbo GPT 4

Chatování s daty pomocí Azure OpenAI a Azure AI Search s Javou

Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.

Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro Javu. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu azure-search-openai-demo-java .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure App Service Azure Container Apps Azure Kubernetes Service	Azure OpenAI Azure AI Vyhledávač Azure Storage Azure Monitor

Chatování s daty pomocí Azure OpenAI a Azure AI Search pomocí JavaScriptu

Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.

Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro JavaScript. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, projděte si úložiště GitHubu azure-search-openai-javascript .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Container Apps Azure Static Web Apps	Azure OpenAI Azure AI Vyhledávač Azure Storage Azure Monitor	text-embedding-ada-002

Front-end chatu Azure OpenAI

Tato šablona je minimální webová komponenta chatu OpenAI, která se dá připojit k jakékoli back-endové implementaci jako klient.

Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu azure-openai-chat-front-end .

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Static Web Apps	Azure AI Vyhledávač Azure OpenAI	GPT 3.5 Turbo GPT4

Bezserverový chat S RAG s využitím LangChain.js

Šablona je bezserverový chatovací robot AI s využitím rozšířené generace načítání pomocí LangChain.js a Azure, který používá sadu podnikových dokumentů k vygenerování odpovědí na dotazy uživatelů. Používá fiktivní společnost s názvem Contoso Real Estate a prostředí umožňuje svým zákazníkům klást dotazy na podporu týkající se používání svých produktů. Ukázková data obsahují sadu dokumentů, které popisují její podmínky služby, zásady ochrany osobních údajů a průvodce podporou.

Informace o nasazení a spuštění této šablony najdete v tématu Začínáme s bezserverovou službou AI Chat s RAG pomocí LangChain.js. Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, přečtěte si úložiště GitHub bezserverového chatu-langchainjs .

Zjistěte, jak nasadit a spustit tuto referenční šablonu JavaScriptu.

Tato šablona ukazuje použití těchto funkcí.

Řešení hostování Azure	Technologie	Modely AI
Azure Static Web Apps Azure Functions	Azure AI Vyhledávač Azure OpenAI Azure Cosmos DB Azure Storage Spravovaná identita Azure	GPT4 Mistral Ollama