Шаблоны приложений ИИ
В этом разделе документации представлены шаблоны приложений ИИ и связанные статьи, которые используют эти шаблоны для демонстрации выполнения ключевых задач разработчика. Шаблоны приложений ИИ предоставляют вам хорошо поддерживаемые и простые в развертывании эталонные реализации, которые помогают обеспечить высококачественную отправную точку для приложений ИИ.
Существует две категории шаблонов приложений ИИ, стандартных блоков и комплексных решений. В следующих разделах приведены некоторые ключевые шаблоны в каждой категории для языка программирования, выбранного в верхней части этой статьи. Чтобы просмотреть более полный список, включая эти и другие шаблоны, см. шаблоны приложений ИИ в коллекции Azure Developer CLI.
Стандартные блоки
Стандартные блоки — это более мелкие примеры, ориентированные на конкретные сценарии и задачи. Большинство стандартных блоков демонстрируют функциональные возможности, которые используют комплексное решение для приложения чата, использующего собственные данные.
Стандартный блок | Description |
---|---|
Балансировка нагрузки с помощью приложений контейнеров Azure | Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек. |
Стандартный блок | Description |
---|---|
Настройка безопасности документов для приложения чата | При создании приложения чата с помощью шаблона RAG с собственными данными убедитесь, что каждый пользователь получает ответ на основе своих разрешений. Авторизованный пользователь должен иметь доступ к ответам, содержащимся в документах приложения чата. Неавторизованный пользователь не должен иметь доступа к ответам из защищенных документов, у которых нет авторизации для просмотра. |
Оценка ответов приложения чата | Узнайте, как оценить ответы приложения чата по набору правильных или идеальных ответов (известных как земная истина). Всякий раз, когда вы изменяете приложение чата таким образом, чтобы повлиять на ответы, выполните оценку для сравнения изменений. Это демонстрационное приложение предлагает инструменты, которые можно использовать сегодня, чтобы упростить выполнение вычислений. |
Балансировка нагрузки с помощью приложений контейнеров Azure | Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек. |
Балансировка нагрузки с помощью Управление API | Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует Azure Управление API для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек. |
Нагрузочный тест приложения чата Python с помощью Locust | Узнайте, как выполнить нагрузочное тестирование в приложении чата Python с помощью шаблона RAG с Locust, популярного средства нагрузочного тестирования с открытым исходным кодом. Основная цель нагрузочного тестирования — убедиться, что ожидаемая нагрузка в приложении чата не превышает текущую квоту Azure OpenAI Transactions per Minute (TPM). Имитируя поведение пользователя в условиях тяжелой нагрузки, вы можете определить потенциальные узкие места и проблемы масштабируемости в приложении. |
Стандартный блок | Description |
---|---|
Балансировка нагрузки с помощью приложений контейнеров Azure | Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек. |
Стандартный блок | Description |
---|---|
Оценка ответов приложения чата | Узнайте, как оценить ответы приложения чата по набору правильных или идеальных ответов (известных как земная истина). Всякий раз, когда вы изменяете приложение чата таким образом, чтобы повлиять на ответы, выполните оценку для сравнения изменений. Это демонстрационное приложение предлагает инструменты, которые можно использовать сегодня, чтобы упростить выполнение вычислений. |
Балансировка нагрузки с помощью приложений контейнеров Azure | Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует приложения контейнеров Azure для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек. |
Балансировка нагрузки с помощью Управление API | Узнайте, как добавить балансировку нагрузки в приложение, чтобы расширить приложение чата за пределы маркера Azure OpenAI и квоты модели. Этот подход использует Azure Управление API для создания трех конечных точек Azure OpenAI, а также основного контейнера для направления входящего трафика в одну из трех конечных точек. |
Комплексные решения
Комплексные решения — это комплексные эталонные примеры, включая документирование, исходный код и развертывание, чтобы позволить вам принимать и расширять их для собственных целей.
Чат с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью .NET
Этот шаблон является полным комплексным решением, демонстрирующим шаблон создания добавок (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Сведения о начале работы с этим шаблоном см. в статье "Начало работы с чатом" с помощью собственного примера данных для .NET. Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub azure-search-openai-demo-csharp .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure Функции Azure |
Azure OpenAI Компьютерное зрение Azure Распознаватель документов Azure Поиск с использованием ИИ Azure Хранилище Azure |
GPT 3.5 Turbo GPT 4.0 |
Компания Contoso chat retail Copilot с .NET и семантическим ядром
Этот шаблон реализует Contoso Outdoors, концептуальный магазин, специализирующийся на открытом воздухе для походов и любителей кемпинга. Это виртуальное хранилище улучшает взаимодействие клиентов и поддержку продаж с помощью интеллектуального агента чата. Этот агент используется шаблоном получения дополненного поколения (RAG) в Microsoft Azure AI Stack, обогащенным семантической поддержкой ядра и запроса.
Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub contoso-chat-csharp-prompty .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure |
Azure OpenAI Microsoft Entra ID Управляемое удостоверение Azure Azure Monitor Поиск с использованием ИИ Azure Azure AI Studio Azure SQL Хранилище Azure |
GPT 3.5 Turbo GPT 4.0 |
Автоматизация процессов с речью к тексту и суммированием с помощью .NET и GPT 3.5 Turbo
Этот шаблон — это решение для автоматизации процессов, которое выдает проблемы, сообщаемые работниками по полю и магазином в компании Contoso Manufacturing, производственной компании, которая делает автомобильные батареи. Проблемы разделяются сотрудниками либо в режиме реального времени с помощью входных данных микрофона, либо предварительно записанных в виде звуковых файлов. Решение преобразует входные данные звука из речи в текст, а затем использует LLM и Prompty или Promptflow, чтобы суммировать проблему и возвращать результаты в формате, указанном решением.
Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием GitHub с суммированием-openai-csharp-prompty .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure | Преобразование речи в текст Сводка Azure OpenAI |
GPT 3.5 Turbo |
Чат с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью Python
Этот шаблон является полным комплексным решением, демонстрирующим шаблон создания добавок (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Сведения о начале работы с этим шаблоном см. в статье "Начало работы с чатом" с помощью собственного примера данных для Python. Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub azure-search-openai-demo .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Служба приложений Azure | Azure OpenAI Поиск Bing Управляемое удостоверение Azure Azure Monitor Поиск с использованием ИИ Azure Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Мульти-модальное творческое написание Copilot с DALL-E
Этот шаблон — это творческое решение для создания нескольких агентов, помогающего пользователям писать статьи. В нем показано, как создавать и работать с агентами ИИ, управляемыми Azure OpenAI. Он включает в себя приложение Flask, которое принимает тему и инструкции от пользователя, а затем вызывает агент исследования, который использует API поиска Bing для изучения темы, агента продукта, использующего поиск ИИ Azure для выполнения семантического поиска связанных продуктов из векторного магазина, агента записи для объединения сведений о исследованиях и продуктах в полезную статью. и агент редактора для уточнения статьи, которая, наконец, представлена пользователю.
Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием GitHub agent-openai-python-prompty .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Регистрация контейнера Azure Azure Kubernetes |
Azure OpenAI Поиск Bing Управляемое удостоверение Azure Azure Monitor Поиск с использованием ИИ Azure Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Contoso Chat Retail Copilot с AI Studio
Этот шаблон — это решение для продаж и поддержки клиентов. В нем показано, как создать приложение большой языковой модели (LLM) с архитектурой RAG (получение дополненного поколения) с помощью Azure AI Studio и потока запросов.
Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub contoso-chat .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure |
Azure OpenAI Поиск с использованием ИИ Azure Azure AI Studio Azure Cosmos DB |
GPT 3.5 Turbo GPT 4.0 Управляемое время выполнения интеграции (MIR) |
Автоматизация процессов с речью к тексту и суммированием с помощью AI Studio
Этот шаблон — это решение для автоматизации процессов, которое выдает проблемы, сообщаемые работниками по полю и магазином в компании Contoso Manufacturing, производственной компании, которая делает автомобильные батареи. Проблемы разделяются рабочими данными либо через входные данные микрофона, предварительно записанные как звуковые файлы, либо как текстовые входные данные. Решение преобразует входные данные звука из речи в текст, а затем использует текстовые отчеты в качестве входных данных в LLM и Prompty/Promptflow, чтобы суммировать проблему и возвращать результаты в формате, указанном решением.
Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием GitHub сводных данных-openai-python-prompflow .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure | Azure AI Studio Служба преобразования речи в текст Поток запроса Управляемое время выполнения интеграции (MIR) |
GPT 3.5 Turbo |
Вызов функции с помощью запроса, LangChain и эластичного поиска
Этот шаблон — это приложение, использующее запросы, Langchain и Elasticsearch для создания агента поиска большой языковой модели (LLM). Этот агент с технологией получения дополненного поколения (RAG) может отвечать на вопросы пользователей на основе предоставленных данных путем интеграции получения информации в режиме реального времени с генерирующими ответами.
Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub agent-python-openai-prompty-langchain GitHub.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Служба машинного обучения | Azure AI Studio Эластичные поиски Microsoft Entra ID Управляемое удостоверение Azure Azure Monitor Хранилище Azure Azure AI Studio Управляемое время выполнения интеграции (MIR) |
GPT 3.5 Turbo |
Вызов функций с помощью запроса, LangChain и Pinecone
Этот шаблон использует новое средство запроса, Langchain и Pinecone для создания агента поиска большой языковой модели (LLM). Этот агент с технологией получения дополненного поколения (RAG) может отвечать на вопросы пользователей на основе предоставленных данных путем интеграции получения информации в режиме реального времени с генерирующими ответами.
Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub agent-openai-python-prompty-langchain-pinecone GitHub.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure | Pinecone Microsoft Entra ID Управляемое удостоверение Майкрософт Azure Monitor Хранилище Azure |
GPT 3.5 Turbo |
Помощник по API Analytics Copilot с Python и Azure AI Studio
Этот шаблон — это API помощника для чата с табличными данными и анализа на естественном языке. Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием GitHub помощника-data-openai-python-promptflow .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Служба машинного обучения | Поиск с использованием ИИ Azure Azure AI Studio Управляемое время выполнения интеграции (MIR) Azure OpenAI |
GPT 3.5 Turbo GPT 4 |
Беседуйте с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью Java
Этот шаблон — это комплексное решение, демонстрирующее шаблон получения дополненного поколения (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Сведения о начале работы с этим шаблоном см. в статье "Начало работы с чатом" с помощью собственного примера данных для Java. Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub azure-search-openai-demo-java .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Служба приложений Azure Приложения-контейнеры Azure Служба Azure Kubernetes |
Azure OpenAI Поиск с использованием ИИ Azure Хранилище Azure Azure Monitor |
Чат с данными с помощью Azure OpenAI и службы "Поиск ИИ Azure" с помощью JavaScript
Этот шаблон является полным комплексным решением, демонстрирующим шаблон создания добавок (RAG), выполняющийся в Azure. Он использует поиск ИИ Azure для получения и больших языковых моделей Azure OpenAI для работы с интерфейсом ChatGPT и Q&A.
Сведения о начале работы с этим шаблоном см. в статье "Начало работы с чатом" с помощью собственного примера данных для JavaScript. Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием GitHub azure-search-openai-javascript .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Приложения-контейнеры Azure Служба статических веб-приложений Azure |
Azure OpenAI Поиск с использованием ИИ Azure Хранилище Azure Azure Monitor |
text-embedding-ada-002 |
Интерфейс чата Azure OpenAI
Этот шаблон является минимальным веб-компонентом чата OpenAI, который можно подключить к любой серверной реализации в качестве клиента.
Чтобы получить доступ к исходному коду и ознакомиться с подробными сведениями о шаблоне, ознакомьтесь с репозиторием GitHub azure-openai-chat-frontend .
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Служба статических веб-приложений Azure | Поиск с использованием ИИ Azure Azure OpenAI |
GPT 3.5 Turbo GPT4 |
Бессерверный чат ИИ с RAG с помощью LangChain.js
Шаблон — это бессерверный чат-бот искусственного интеллекта с использованием расширенного создания LangChain.js и Azure, использующего набор корпоративных документов для создания ответов на запросы пользователей. Он использует фиктивную компанию contoso Real Estate, и опыт позволяет своим клиентам задавать вопросы о поддержке использования своих продуктов. Пример данных содержит набор документов, описывающих условия обслуживания, политику конфиденциальности и руководство по поддержке.
Сведения о развертывании и запуске этого шаблона см. в статье "Начало работы с бессерверным чатом ИИ с помощью RAG" с помощью LangChain.js. Чтобы получить доступ к исходному коду и прочитать подробные сведения о шаблоне, ознакомьтесь с репозиторием GitHub без сервера-chat-langchainjs GitHub.
Узнайте, как развернуть и запустить этот эталонный шаблон JavaScript.
Этот шаблон демонстрирует использование этих функций.
Решение для размещения Azure | Технологии | Модели ИИ |
---|---|---|
Служба статических веб-приложений Azure Функции Azure |
Поиск с использованием ИИ Azure Azure OpenAI Azure Cosmos DB Хранилище Azure Управляемое удостоверение Azure |
GPT4 Mistral Ollama |