Шаблоны приложений ИИ

В этом разделе документации представлены шаблоны приложений ИИ и связанные статьи, которые используют эти шаблоны для демонстрации выполнения ключевых задач разработчика. Шаблоны приложений ИИ предоставляют вам хорошо поддерживаемые и простые в развертывании эталонные реализации, которые помогают обеспечить высококачественную отправную точку для приложений ИИ.

Существует две категории шаблонов приложений ИИ, стандартных блоков и комплексных решений. В следующих разделах приведены некоторые ключевые шаблоны в каждой категории для языка программирования, выбранного в верхней части этой статьи.

Чтобы просмотреть полный список, включая эти и другие шаблоны C#, см. шаблоны приложений ИИ в коллекции шаблонов приложений ИИ.

Чтобы просмотреть полный список, включая эти и другие шаблоны Python, см. шаблоны приложений ИИ в коллекции шаблонов приложений AI App Template.

Чтобы просмотреть полный список, включая эти и другие шаблоны Java, ознакомьтесь с шаблонами приложений ИИ в коллекции шаблонов приложений .

Чтобы просмотреть полный список, включая эти и другие шаблоны JavaScript и TypeScript, см. шаблоны приложений ИИ в коллекции шаблонов приложений ИИ.

Базовые блоки

Строительные блоки — это более мелкие примеры, которые фокусируются на конкретных сценариях и задачах. Большинство стандартных блоков демонстрируют функциональные возможности, использующие комплексное решение для приложения чата, использующего собственные данные.

Базовый элемент	Описание
Балансировка нагрузки с помощью Azure Container Apps	Узнайте, как добавить балансировку нагрузки в ваше приложение, чтобы расширить возможности чата за пределы ограничений по токенам и квоте модели в Azure OpenAI. Этот подход использует Azure Container Apps для создания трех конечных точек Azure OpenAI, а также основного контейнера, который направляет входящий трафик в одну из трех конечных точек.

Базовый элемент	Описание
Настройка безопасности документов для приложения чата	При создании приложения чата с помощью шаблона RAG с собственными данными убедитесь, что каждый пользователь получает ответ на основе своих разрешений. Авторизованный пользователь должен иметь доступ к ответам, содержащимся в документах приложения чата. Неавторизованный пользователь не должен иметь доступа к ответам из защищенных документов, у которых нет авторизации для просмотра.
Оценка ответов приложения чата	Узнайте, как оценить ответы приложения чата по набору правильных или идеальных ответов (известных как земная истина). Всякий раз, когда вы изменяете приложение чата таким образом, чтобы повлиять на ответы, выполните оценку для сравнения изменений. Это демонстрационное приложение предлагает инструменты, которые можно использовать сегодня, чтобы упростить выполнение вычислений.
балансировка нагрузки с Azure Container Apps	Узнайте, как добавить балансировку нагрузки в ваше приложение, чтобы расширить возможности приложения чата за пределы лимитов токена и модели Azure OpenAI. Этот подход использует Azure Container Apps для создания трех конечных точек Azure OpenAI, а также основного контейнера для прямого направления входящего трафика на одну из трех конечных точек.
Балансировка нагрузки с помощью управления API	Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить возможности чат-приложения за пределы лимитов токена Azure OpenAI и квоты модели. Этот подход использует Azure API Management для создания трех конечных точек OpenAI Azure, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.
Load тестирует приложение чата Python с помощью Locust	Узнайте, как выполнить нагрузочное тестирование в приложении чата Python с помощью шаблона RAG с Locust, популярного средства нагрузочного тестирования с открытым исходным кодом. Основная цель нагрузочного тестирования — убедиться, что ожидаемая нагрузка в приложении чата не превышает текущую квоту Azure OpenAI Transactions per Minute (TPM). Имитируя поведение пользователя в условиях тяжелой нагрузки, вы можете определить потенциальные узкие места и проблемы масштабируемости в приложении.
Защита приложения ИИ с помощью проверки подлинности без ключа	Узнайте, как защитить приложение чата OpenAI Python Azure с помощью проверки подлинности без ключей. Запросы приложений к большинству служб Azure должны проходить проверку подлинности с помощью бессерверных или без пароля подключений. Проверка подлинности без ключей обеспечивает более эффективное управление и улучшение безопасности по сравнению с ключом учетной записи, поскольку ни ключ, ни строка подключения не нужны.

Базовый элемент	Описание
Балансировка нагрузки с помощью Azure Container Apps	Узнайте, как добавить балансировку нагрузки в ваше приложение, чтобы расширить возможности чат-приложения, преодолевая ограничения токена и лимиты модели OpenAI в Azure. Этот подход использует Azure Container Apps для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика к одной из трех конечных точек.

Базовый элемент	Описание
Оценка ответов приложения чата	Узнайте, как оценить ответы приложения чата по набору правильных или идеальных ответов (известных как земная истина). Всякий раз, когда вы изменяете приложение чата таким образом, чтобы повлиять на ответы, выполните оценку для сравнения изменений. Это демонстрационное приложение предлагает инструменты, которые можно использовать сегодня, чтобы упростить выполнение вычислений.
балансировка нагрузки с Azure Container Apps	Узнайте, как добавить балансировку нагрузки в программу, чтобы расширить возможности приложения чата за пределы лимитов маркера и квоты модели Azure OpenAI. Этот подход использует Azure Container Apps для создания трех конечных точек Azure OpenAI, а также основного контейнера, который направляет входящий трафик в одну из трех конечных точек.
Балансировка нагрузки с помощью управления API	Узнайте, как добавить балансировку нагрузки в ваше приложение, чтобы расширить возможности чата за пределы ограничений квоты токена и модели Azure OpenAI. Этот подход использует Azure API Management для создания трех конечных точек OpenAI Azure, а также основного контейнера для направления входящего трафика в одну из трех конечных точек.

Комплексные решения

Комплексные решения — это полные эталонные примеры, включающие документацию, исходный код и возможности развертывания, что позволяет вам использовать и расширять их для собственных целей.

Беседуйте с данными с помощью Azure OpenAI и Azure AI Search с .NET

Этот шаблон представляет комплексное конечное решение, демонстрирующее шаблон генерации с дополнением поиска (RAG), работающий в Azure. Он использует Azure AI Search для извлечения и большие языковые модели Azure OpenAI для управления опытом в стиле ChatGPT и вопросов и ответов.

Чтобы приступить к работе с этим шаблоном, ознакомьтесь с разделом Начало работы с чатом, используя собственный пример данных для .NET. Для доступа к исходному коду и получения подробной информации о шаблоне см. репозиторий GitHub azure-search-openai-demo-csharp.

Скриншот чата .NET в браузере, показывающий несколько предложений для ввода и поле для ввода вопроса.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Apps Azure Functions	Azure OpenAI Сервис Azure для компьютерного зрения Azure Form Recognizer Azure AI Search Azure Storage	GPT 3.5 Turbo GPT 4.0

Копилот розничного чата Contoso с .NET и Semantic Kernel

Этот шаблон реализует Contoso Outdoors, концептуальный магазин, специализирующийся на продаже снаряжения для походов и кемпинга. Это виртуальное хранилище улучшает взаимодействие клиентов и поддержку продаж с помощью интеллектуального агента чата. Этот агент работает по шаблону дополненного извлечением генерации (RAG) в стеке ИИ Microsoft Azure, усиленным Semantic Kernel и поддержкой Prompty.

Чтобы получить доступ к исходному коду и ознакомиться с подробной информацией о шаблоне, см. репозиторий GitHub contoso-chat-csharp-prompty.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Apps	Azure OpenAI Microsoft Entra ID Управляемое удостоверение Azure Azure Monitor Azure AI Search Microsoft Foundry Azure SQL Azure Storage	GPT 3.5 Turbo GPT 4.0

Автоматизация процессов с преобразованием речи в текст и суммированием с помощью технологий .NET и GPT 3.5 Turbo

Этот шаблон — это решение для автоматизации процессов, которое получает проблемы, сообщаемые работниками в полевых условиях и на производственном участке в компании Contoso Manufacturing, которая производит автомобильные батареи. Проблемы передаются сотрудниками либо в режиме реального времени через микрофон, либо предварительно записываются в виде аудиофайлов. Решение преобразует входные данные звука из речи в текст, а затем использует LLM и Prompty или Promptflow, чтобы суммировать проблему и возвращать результаты в формате, указанном решением.

Чтобы получить доступ к исходному коду и прочитать подробности о шаблоне, см. репозиторий summarization-openai-csharp-prompty на GitHub.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Apps	Преобразование речи в текст Сводка Azure OpenAI	GPT 3.5 Turbo

Беседуйте с данными с помощью Azure OpenAI и Azure AI Search с Python

Этот шаблон представляет комплексное конечное решение, демонстрирующее шаблон генерации с дополнением поиска (RAG), работающий в Azure. Он использует Azure AI Search для поиска и большие языковые модели Azure OpenAI для обеспечения работы в стиле ChatGPT и обработки запросов «вопрос-ответ» (Q&A).

Чтобы начать работу с этим шаблоном, см. раздел Get started with the chat using your own data sample for Python. Чтобы получить доступ к исходному коду и ознакомиться с подробностями о шаблоне, перейдите на страницу репозитория azure-search-openai-demo на GitHub.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Apps	Azure OpenAI Azure AI Search Azure Blob Storage Azure Monitor аналитика документов Azure	GPT 3.5 Turbo GPT 4 GPT 4o GPT 4.0-mini

Мультимодальное творческое написание Copilot с использованием DALL-E

Этот шаблон представляет собой многокомпонентное решение для творческого письма, которое помогает пользователям создавать статьи. В нем показано, как создавать агенты ИИ, управляемые Azure OpenAI.

Сюда входят:

1. Приложение Flask, которое принимает статью и инструкции от пользователя.
2. Агент исследования, использующий API поиска Bing для исследования статьи.
3. Агент продукта, использующий Azure AI Search для поиска связанных продуктов из векторного хранилища.
4. Агент писателя для объединения сведений об исследованиях и продуктах в полезную статью.
5. Агент редактора для уточнения статьи, представленной пользователю.

Чтобы получить доступ к исходному коду и ознакомиться с дополнительной информацией о шаблоне, см. репозиторий agent-openai-python-prompty на GitHub.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Registry Azure Kubernetes	Azure OpenAI Поиск Bing Управляемое удостоверение Azure Azure Monitor Azure AI Search Microsoft Foundry	GPT 3.5 Turbo GPT 4.0 DALL-E

Contoso Chat Retail Copilot с Foundry

Этот шаблон реализует Contoso Chat — розничное решение копилот для Contoso Outdoor, использующее шаблон проектирования извлечения с дополнением генерацией для обоснования ответов чат-бота на основе данных о продуктах и клиентах розничного продавца. Клиенты могут задавать вопросы с веб-сайта на естественном языке и получать соответствующие ответы с потенциальными рекомендациями на основе истории покупки - с ответственной практикой ИИ для обеспечения качества и безопасности ответов.

Этот шаблон иллюстрирует комплексный рабочий процесс (GenAIOps) для создания RAG-копилота code-first с помощью Azure AI и Prompty. Исследуйте и разверните этот пример, чтобы учиться:

1. Генерируйте идеи и итерации, быстро создавайте прототипы приложений с помощью Prompty
2. Развертывание и использование моделей Azure OpenAI для чата, внедрения и оценки
3. Используйте Azure AI Search (индексы) и Azure Cosmos DB (базы данных) для ваших данных
4. Оценивать качество ответов в чате с помощью потоков оценки на базе ИИ
5. Разместите приложение в качестве конечной точки FastAPI, развернутой в Azure Container Apps.
6. Подготовка и развертывание решения с помощью интерфейса командной строки разработчика Azure
7. Поддерживайте практики ответственного использования ИИ с помощью обеспечения безопасности контента и проведения оценок.

Чтобы получить доступ к исходному коду и ознакомиться с подробной информацией о шаблоне, посетите репозиторий GitHub contoso-chat.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Apps	Azure OpenAI Azure AI Search Литейный завод Запрос Azure Cosmos DB	GPT 3.5 Turbo GPT 4.0 Управляемая Integration Runtime (MIR)

Автоматизация процессов с распознаванием речи и резюмированием, используя Foundry.

Этот шаблон создает веб-приложение, позволяющее сотрудникам компании Contoso Manufacturing сообщать о проблемах с помощью текста или речи. Входные данные аудио преобразуются в текст, а затем суммируются для выделения важных сведений, а отчет отправляется в соответствующий отдел.

Дополнительные сведения о шаблоне и доступ к исходному коду см. в репозитории summarization-openai-python-promptflow GitHub.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Container Apps	Литейный завод Служба преобразования речи в текст Запрос Управляемая Integration Runtime (MIR)	GPT 3.5 Turbo

Помощник по аналитике API Copilot с Python и Foundry

Этот шаблон — это API помощника для чата с табличными данными и анализа на естественном языке.

Чтобы получить доступ к исходному коду и прочитать подробную информацию о шаблоне, см. репозиторий GitHub assistant-data-openai-python-promptflow.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
служба Machine Learning	Azure AI Search Литейный завод Управляемая среда выполнения интеграции (MIR) Azure OpenAI	GPT 3.5 Turbo GPT 4

Общайтесь с вашими данными с помощью Azure OpenAI и Azure AI Search на Java

Этот шаблон представляет собой комплексное решение, демонстрирующее шаблон создания Retrieval-Augmented (RAG), запущенного в Azure. Он использует Azure AI Search для извлечения и большие языковые модели Azure OpenAI для управления опытом в стиле ChatGPT и вопросов и ответов.

Чтобы приступить к работе с этим шаблоном, ознакомьтесь с разделом Начало работы с чатом, используя собственный образец данных для Java. Чтобы получить доступ к исходному коду и подробно изучить шаблон, посетите репозиторий GitHub azure-search-openai-demo-java.

Этот шаблон демонстрирует использование этих функций.

решение для хостинга Azure	Технологии	Модели ИИ
Azure App Service Azure Container Apps Azure Kubernetes Service	Azure OpenAI Azure AI Search аналитика документов Azure Azure Storage Azure Application Insights Azure Service Bus Azure Event Grid	gpt-35-turbo

Банковский помощник с несколькими агентами на Java и Semantic Kernel

Этот проект разработан в качестве подтверждения концепции (PoC) для изучения инновационной области создания искусственного интеллекта в контексте архитектур с несколькими агентами. Используя платформу оркестрации Java и Microsoft Semantic Kernel для искусственного интеллекта, мы стремимся создать веб-приложение для чата, чтобы продемонстрировать эффективность и надежность использования генеративного искусственного интеллекта для преобразования взаимодействия пользователей от кликов по веб-страницам к естественным языковым беседам, при этом максимально используя существующие данные о нагрузке и API.

Основной вариант использования вращается вокруг банковского личного помощника, предназначенного для изменения способа взаимодействия пользователей с информацией о банковском счете, историей транзакций и функциями оплаты. Используя возможности создания искусственного интеллекта в архитектуре с несколькими агентами, этот помощник стремится обеспечить простой, диалоговый интерфейс, с помощью которого пользователи могут легко получить доступ к финансовым данным и управлять ими.

Примеры счетов включены в папку данных, чтобы упростить изучение функции оплаты. Агент оплаты, оснащенный средствами оптического распознавания символов (OCR) (Azure Аналитика документов), ведет беседу с пользователем, чтобы извлечь данные счета и инициировать процесс оплаты. Другие поддельные данные учетной записи, такие как транзакции, методы оплаты и баланс учетной записи, также доступны для запроса пользователем. Все данные и сервисы предоставляются как внешние REST API и используются агентами для предоставления пользователю запрошенной информации.

Чтобы получить доступ к исходному коду и прочитать более подробную информацию о шаблоне, см. репозиторий GitHub agent-openai-java-banking-assistant.

Этот шаблон демонстрирует использование этих функций.

решение для хостинга в Azure	Технологии	Модели ИИ
Azure Container Apps	Azure OpenAI аналитика документов Azure Azure Storage Azure Monitor	gpt-4o gpt-4o-mini

Беседуйте с данными с помощью Azure OpenAI и Azure AI Search с помощью JavaScript

Этот шаблон представляет комплексное конечное решение, демонстрирующее шаблон генерации с дополнением поиска (RAG), работающий в Azure. Он использует Azure AI Search для извлечения и большие языковые модели Azure OpenAI для управления опытом в стиле ChatGPT и вопросов и ответов.

Сведения о начале работы с этим шаблоном см. в статье "Начало работы с чатом" с помощью собственного примера данных для JavaScript. Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, см. репозиторий azure-search-openai-javascript на GitHub.

Этот шаблон демонстрирует использование этих функций.

хостинг-решение Azure	Технологии	Модели ИИ
Azure Container Apps Azure Static Web Apps	Azure OpenAI Azure AI Search Azure Storage Azure Monitor	text-embedding-ada-002

интерфейс Azure OpenAI для чата

Этот шаблон является минимальным веб-компонентом чата OpenAI, который можно подключить к любой серверной реализации в качестве клиента.

Чтобы получить доступ к исходному коду и прочитать подробную информацию о шаблоне, см. репозиторий azure-openai-chat-frontend на GitHub.

Этот шаблон демонстрирует использование этих функций.

решение для размещения Azure	Технологии	Модели ИИ
Azure Static Web Apps	Azure AI Search Azure OpenAI	GPT 3.5 Turbo GPT4

Бессерверный чат ИИ с RAG с помощью LangChain.js

Шаблон — это бессерверный чат-бот искусственного интеллекта с использованием расширенного создания LangChain.js и Azure, использующего набор корпоративных документов для создания ответов на запросы пользователей. Он использует фиктивную компанию contoso Real Estate, и опыт позволяет своим клиентам задавать вопросы о поддержке использования своих продуктов. Пример данных содержит набор документов, описывающих условия обслуживания, политику конфиденциальности и руководство по поддержке.

Сведения о том, как развернуть и запустить этот шаблон, см. в статье "Начало работы с бессерверным ИИ чатом с RAG, используя LangChain.js". Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, см. репозиторий GitHub serverless-chat-langchainjs.

Узнайте , как развернуть и запустить этот эталонный шаблон JavaScript.

Этот шаблон демонстрирует использование этих функций.

решение хостинга Azure	Технологии	Модели ИИ
Azure Static Web Apps Azure Functions	Azure AI Search Azure OpenAI Azure Cosmos DB Azure Storage Управляемое удостоверение Azure	GPT4 Mistral Ollama