Šablony aplikací AI
Tato část dokumentace vás seznámí se šablonami aplikací AI a souvisejícími články, které tyto šablony používají k předvedení klíčových úloh vývojáře. Šablony aplikací AI poskytují dobře udržované a snadno použitelné referenční implementace, které pomáhají zajistit vysoce kvalitní výchozí bod pro vaše aplikace AI.
Existují dvě kategorie šablon aplikací AI, stavební bloky a ucelená řešení. Následující části představují některé klíčové šablony v každé kategorii pro programovací jazyk, který jste vybrali v horní části tohoto článku. Pokud chcete procházet komplexnější seznam, včetně těchto a dalších šablon, podívejte se na šablony aplikací AI v galerii Azure Developer CLI.
Stavební bloky
Stavební bloky jsou menší vzorky, které se zaměřují na konkrétní scénáře a úlohy. Většina stavebních bloků demonstruje funkce, které využívají ucelené řešení pro chatovací aplikaci, která používá vaše vlastní data.
Obytný blok | Popis |
---|---|
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Obytný blok | Popis |
---|---|
Konfigurace zabezpečení dokumentů pro chatovací aplikaci | Při vytváření chatovací aplikace pomocí vzoru RAG s vlastními daty se ujistěte, že každý uživatel obdrží odpověď na základě svých oprávnění. Autorizovaný uživatel by měl mít přístup k odpovědím obsaženým v dokumentech chatovací aplikace. Neoprávněný uživatel by neměl mít přístup k odpovědím ze zabezpečených dokumentů, ke kterým nemá autorizaci. |
Vyhodnocení odpovědí na chatovací aplikaci | Zjistěte, jak vyhodnotit odpovědi chatovací aplikace proti sadě správných nebo ideálních odpovědí (označovaných jako základní pravda). Kdykoli změníte chatovací aplikaci způsobem, který ovlivňuje odpovědi, spusťte vyhodnocení a porovnejte změny. Tato ukázková aplikace nabízí nástroje, které můžete použít dnes, abyste usnadnili spouštění vyhodnocení. |
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Vyrovnávání zatížení s využitím služby API Management | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure API Management k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Zátěžový test chatovací aplikace Pythonu s Využitím Pythonu | Naučte se, jak provádět zátěžové testování v chatovací aplikaci v Pythonu pomocí vzoru RAG s Pythonem, oblíbeného opensourcového nástroje pro zátěžové testování. Hlavním cílem zátěžového testování je zajistit, aby očekávané zatížení vaší chatovací aplikace nepřekročilo aktuální kvótu transakcí Azure OpenAI za minutu (TPM). Simulací chování uživatelů při vysokém zatížení můžete identifikovat potenciální kritické body a problémy se škálovatelností ve vaší aplikaci. |
Obytný blok | Popis |
---|---|
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Obytný blok | Popis |
---|---|
Vyhodnocení odpovědí na chatovací aplikaci | Zjistěte, jak vyhodnotit odpovědi chatovací aplikace proti sadě správných nebo ideálních odpovědí (označovaných jako základní pravda). Kdykoli změníte chatovací aplikaci způsobem, který ovlivňuje odpovědi, spusťte vyhodnocení a porovnejte změny. Tato ukázková aplikace nabízí nástroje, které můžete použít dnes, abyste usnadnili spouštění vyhodnocení. |
Vyrovnávání zatížení s využitím Azure Container Apps | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure Container Apps k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Vyrovnávání zatížení s využitím služby API Management | Zjistěte, jak do aplikace přidat vyrovnávání zatížení, abyste mohli chatovací aplikaci rozšířit nad rámec limitů kvóty modelu a tokenu Azure OpenAI. Tento přístup používá Azure API Management k vytvoření tří koncových bodů Azure OpenAI a primárního kontejneru pro směrování příchozího provozu do jednoho ze tří koncových bodů. |
Ucelená řešení
Ucelená řešení jsou komplexní referenční ukázky, včetně dokumentů, zdrojového kódu a nasazení, které vám umožní vzít a rozšířit je pro vlastní účely.
Chatování s daty pomocí Azure OpenAI a Azure AI Search s využitím .NET
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro .NET. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu azure-search-openai-demo-csharp .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps Azure Functions |
Azure OpenAI Azure Computer Vision Rozpoznávání formulářů Azure Azure AI Vyhledávač Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Maloobchodní prodej chatu Contoso Copilot s .NET a sémantickým jádrem
Tato šablona implementuje Contoso Outdoors, koncepční obchod se zaměřením na venkovní vybavení pro pěší turistiku a kempování nadšenců. Toto virtuální úložiště vylepšuje zapojení zákazníků a podporu prodeje prostřednictvím inteligentního chatovacího agenta. Tento agent využívá model RAG (Retrieval Augmented Generation) ve službě Microsoft Azure AI Stack, který je obohacený o podporu sémantického jádra a prompty.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHub s výzvou contoso-chat-csharp-prompty .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps |
Azure OpenAI Microsoft Entra ID Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio Azure SQL Azure Storage |
GPT 3.5 Turbo GPT 4.0 |
Automatizace procesů s využitím řeči na text a shrnutí pomocí .NET a GPT 3.5 Turbo
Tato šablona je řešení automatizace procesů, které oznamuje problémy nahlášené pracovníky v terénu a pracovních prostorech ve společnosti Contoso Manufacturing, výrobní společnosti, která vyrábí autobaterie. Problémy sdílí pracovníci buď živě prostřednictvím vstupu mikrofonu, nebo jsou předem zaznamenané jako zvukové soubory. Řešení překládá zvukový vstup z řeči na text a pak pomocí LLM a Prompty nebo Promptflow shrnout problém a vrátit výsledky ve formátu určeném řešením.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu se souhrnem-openai-csharp-prompty .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps | Převod řeči na text Souhrn Azure OpenAI |
GPT 3.5 Turbo |
Chatování s daty pomocí Azure OpenAI a Azure AI Search s Pythonem
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro Python. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu azure-search-openai-demo .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure App Service | Azure OpenAI Vyhledávání MS Bingu Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Multimodální kreativní psaní Copilot s DALL-E
Tato šablona je kreativní psaní řešení pro více agentů, které uživatelům pomáhá psát články. Ukazuje, jak vytvářet a pracovat s agenty AI řízenými Azure OpenAI. Zahrnuje aplikaci Flask, která vezme téma a pokyn od uživatele, pak zavolá agenta výzkumu, který k prozkoumání tématu používá rozhraní API Bingu pro vyhledávání, agenta produktu, který používá Azure AI Search k provedení sémantického vyhledávání souvisejících produktů z úložiště vektorů, agenta writeru ke kombinování informací o výzkumu a produktu do užitečného článku. a agent editoru pro upřesnění článku, který je konečně prezentován uživateli.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, projděte si úložiště GitHub agent-openai-python-prompty .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Registrace kontejneru Azure Azure Kubernetes |
Azure OpenAI Vyhledávání MS Bingu Spravovaná identita Azure Azure Monitor Azure AI Vyhledávač Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Contoso Chat Retail Copilot s AI Studio
Tato šablona je řešení chatu prodeje a podpory zákazníků. Ukazuje, jak vytvořit aplikaci large language model (LLM) s architekturou RAG (Retrieval Augmented Generation) pomocí azure AI Studia a toku výzvy.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu pro contoso-chat .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps |
Azure OpenAI Azure AI Vyhledávač Azure AI Studio Azure Cosmos DB |
GPT 3.5 Turbo GPT 4.0 Managed Integration Runtime (MIR) |
Automatizace procesů s využitím řeči na text a shrnutí pomocí AI Studia
Tato šablona je řešení automatizace procesů, které oznamuje problémy nahlášené pracovníky v terénu a pracovních prostorech ve společnosti Contoso Manufacturing, výrobní společnosti, která vyrábí autobaterie. Problémy sdílí pracovníci buď živě prostřednictvím vstupu mikrofonu, předznamenají se jako zvukové soubory nebo jako textové zadání. Řešení přeloží zvukový vstup z řeči na text a pak použije textové sestavy jako vstup do LLM a Prompty/Promptflow k vytvoření souhrnu problému a vrácení výsledků ve formátu určeném řešením.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu sumzation-openai-python-prompflow .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps | Azure AI Studio Služba Převod řeči na text Tok výzvy Managed Integration Runtime (MIR) |
GPT 3.5 Turbo |
Volání funkcí pomocí Prompty, LangChain a Elastic Search
Tato šablona je aplikace, která k vytvoření velkého agenta vyhledávání jazyka (LLM) používá Prompty, Langchain a Elasticsearch. Tento agent s technologií RAG (Retrieval Augmented Generation) dokáže odpovídat na uživatelské otázky na základě poskytnutých dat integrací načítání informací v reálném čase s generováním odpovědí.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu agent-python-openai-prompty-langchain .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Machine Learning Service | Azure AI Studio Elastické vyhledávání Microsoft Entra ID Spravovaná identita Azure Azure Monitor Azure Storage Azure AI Studio Managed Integration Runtime (MIR) |
GPT 3.5 Turbo |
Volání funkcí pomocí Prompty, LangChain a Pinecone
Tato šablona využívá nový nástroj Prompty, Langchain a Pinecone k vytvoření velkého agenta vyhledávání jazyka (LLM). Tento agent s technologií RAG (Retrieval Augmented Generation) dokáže odpovídat na uživatelské otázky na základě poskytnutých dat integrací načítání informací v reálném čase s generováním odpovědí.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu agent-openai-python-prompty-langchain-pinecone .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps | Pinecone Microsoft Entra ID Spravovaná identita Microsoftu Azure Monitor Azure Storage |
GPT 3.5 Turbo |
Assistant API Analytics Copilot s Pythonem a Azure AI Studio
Tato šablona je rozhraní API pomocníka pro chatování s tabulkovými daty a provádění analýz v přirozeném jazyce. Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, přečtěte si úložiště GitHub assistant-data-openai-python-promptflow .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Machine Learning Service | Azure AI Vyhledávač Azure AI Studio Managed Integration Runtime (MIR) Azure OpenAI |
GPT 3.5 Turbo GPT 4 |
Chatování s daty pomocí Azure OpenAI a Azure AI Search s Javou
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro Javu. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, přečtěte si úložiště GitHubu azure-search-openai-demo-java .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure App Service Azure Container Apps Azure Kubernetes Service |
Azure OpenAI Azure AI Vyhledávač Azure Storage Azure Monitor |
Chatování s daty pomocí Azure OpenAI a Azure AI Search pomocí JavaScriptu
Tato šablona je kompletní řešení, které demonstruje model RAG (Retrieval-Augmented Generation) běžící v Azure. Používá Azure AI Search k načítání a velkým jazykovým modelům Azure OpenAI k výkonu prostředí ChatGPT a Q&A.
Pokud chcete začít s touto šablonou, přečtěte si téma Začínáme s chatem pomocí vlastní ukázky dat pro JavaScript. Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, projděte si úložiště GitHubu azure-search-openai-javascript .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Container Apps Azure Static Web Apps |
Azure OpenAI Azure AI Vyhledávač Azure Storage Azure Monitor |
text-embedding-ada-002 |
Front-end chatu Azure OpenAI
Tato šablona je minimální webová komponenta chatu OpenAI, která se dá připojit k jakékoli back-endové implementaci jako klient.
Pokud chcete získat přístup ke zdrojovému kódu a přečíst podrobné podrobnosti o šabloně, podívejte se na úložiště GitHubu azure-openai-chat-front-end .
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Static Web Apps | Azure AI Vyhledávač Azure OpenAI |
GPT 3.5 Turbo GPT4 |
Bezserverový chat S RAG s využitím LangChain.js
Šablona je bezserverový chatovací robot AI s využitím rozšířené generace načítání pomocí LangChain.js a Azure, který používá sadu podnikových dokumentů k vygenerování odpovědí na dotazy uživatelů. Používá fiktivní společnost s názvem Contoso Real Estate a prostředí umožňuje svým zákazníkům klást dotazy na podporu týkající se používání svých produktů. Ukázková data obsahují sadu dokumentů, které popisují její podmínky služby, zásady ochrany osobních údajů a průvodce podporou.
Informace o nasazení a spuštění této šablony najdete v tématu Začínáme s bezserverovou službou AI Chat s RAG pomocí LangChain.js. Pokud chcete získat přístup ke zdrojovému kódu a přečíst si podrobné podrobnosti o šabloně, přečtěte si úložiště GitHub bezserverového chatu-langchainjs .
Zjistěte, jak nasadit a spustit tuto referenční šablonu JavaScriptu.
Tato šablona ukazuje použití těchto funkcí.
Řešení hostování Azure | Technologie | Modely AI |
---|---|---|
Azure Static Web Apps Azure Functions |
Azure AI Vyhledávač Azure OpenAI Azure Cosmos DB Azure Storage Spravovaná identita Azure |
GPT4 Mistral Ollama |
Váš názor
https://aka.ms/ContentUserFeedback.
Připravujeme: V průběhu roku 2024 budeme postupně vyřazovat problémy z GitHub coby mechanismus zpětné vazby pro obsah a nahrazovat ho novým systémem zpětné vazby. Další informace naleznete v tématu:Odeslat a zobrazit názory pro