AI 앱 템플릿
설명서의 이 섹션에서는 이러한 템플릿을 사용하여 주요 개발자 작업을 수행하는 방법을 보여 주는 AI 앱 템플릿 및 관련 문서를 소개합니다. AI 앱 템플릿은 AI 앱의 고품질 시작점을 보장하는 데 도움이 되는 잘 기본, 쉽게 배포할 수 있는 참조 구현을 제공합니다.
AI 앱 템플릿 에는 구성 요소 와 엔드 투 엔드 솔루션의 두 가지 범주가 있습니다. 다음 섹션에서는 이 문서의 맨 위에서 선택한 프로그래밍 언어의 각 범주에 있는 몇 가지 주요 템플릿을 소개합니다. 이러한 템플릿 및 기타 템플릿을 포함하여 보다 포괄적인 목록을 찾아보려면 Azure 개발자 CLI 갤러리의 AI 앱 템플릿을 참조하세요.
빌딩 블록
구성 요소는 특정 시나리오 및 작업에 초점을 맞춘 소규모 샘플입니다. 대부분의 구성 요소는 엔터프라이즈 채팅 엔드 투 엔드 솔루션을 활용하는 기능을 보여 줍니다.
구성 요소 | 설명 | 문서 |
---|---|---|
Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. | Azure Container Apps를 사용하여 부하 분산 |
구성 요소 | 설명 | 문서 |
---|---|---|
Azure AI Search에 문서 보안 트리밍 추가 | 사용자 고유의 데이터로 RAG 패턴을 사용하여 채팅 애플리케이션을 빌드하는 경우 각 사용자가 자신의 권한에 따라 답변을 받는지 확인합니다. 권한 있는 사용자는 채팅 앱의 문서에 포함된 답변에 액세스할 수 있어야 합니다. 권한이 없는 사용자는 볼 수 있는 권한이 없는 보안 문서의 답변에 액세스할 수 없어야 합니다. | Python 채팅 앱에 대한 문서 보안 구성 |
채팅 앱 답변 평가 | 올바른 답변 또는 이상적인 답변 집합(지상 진리라고 함)에 대해 채팅 앱의 답변을 평가하는 방법을 알아봅니다. 답변에 영향을 주는 방식으로 채팅 애플리케이션을 변경할 때마다 평가를 실행하여 변경 내용을 비교합니다. 이 데모 애플리케이션은 평가를 더 쉽게 실행할 수 있도록 오늘 사용할 수 있는 도구를 제공합니다. | Python 채팅 앱 평가 |
Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. | Azure Container Apps를 사용하여 부하 분산 |
API Management를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방법은 Azure API Management를 사용하여 세 개의 Azure OpenAI 엔드포인트와 기본 컨테이너를 만들어 들어오는 트래픽을 세 개의 엔드포인트 중 하나로 전달합니다. | Azure Container Apps를 사용하여 부하 분산 |
Locust를 사용하여 부하 테스트 | 인기 있는 오픈 소스 부하 테스트 도구인 Locust에서 RAG 패턴을 사용하여 Python 채팅 애플리케이션에서 부하 테스트를 수행하는 프로세스를 알아봅니다. 부하 테스트의 기본 목표는 채팅 애플리케이션의 예상 부하가 현재 Azure OpenAI TPM(분당 트랜잭션 수) 할당량을 초과하지 않도록 하는 것입니다. 부하가 많은 사용자 동작을 시뮬레이션하여 애플리케이션에서 잠재적인 병목 상태 및 확장성 문제를 식별할 수 있습니다. | Locust를 사용하여 Python 채팅 앱 로드 테스트 |
구성 요소 | 설명 | 문서 |
---|---|---|
Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. | Azure Container Apps를 사용하여 부하 분산 |
구성 요소 | 설명 | 문서 |
---|---|---|
채팅 앱 답변 평가 | 올바른 답변 또는 이상적인 답변 집합(지상 진리라고 함)에 대해 채팅 앱의 답변을 평가하는 방법을 알아봅니다. 답변에 영향을 주는 방식으로 채팅 애플리케이션을 변경할 때마다 평가를 실행하여 변경 내용을 비교합니다. 이 데모 애플리케이션은 평가를 더 쉽게 실행할 수 있도록 오늘 사용할 수 있는 도구를 제공합니다. | JavaScript 채팅 앱 평가 |
Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. | Azure Container Apps를 사용하여 부하 분산 |
API Management를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방법은 Azure API Management를 사용하여 세 개의 Azure OpenAI 엔드포인트와 기본 컨테이너를 만들어 들어오는 트래픽을 세 개의 엔드포인트 중 하나로 전달합니다. | Azure Container Apps를 사용하여 부하 분산 |
엔드투엔드 솔루션
엔드 투 엔드 솔루션은 사용자 고유의 용도로 사용하고 확장할 수 있도록 하는 docu멘션, 소스 코드 및 배포를 포함한 포괄적인 참조 샘플입니다.
.NET을 사용한 엔터프라이즈 채팅
이 템플릿은 검색을 위해 Azure AI Search를 사용하고 Azure OpenAI 대규모 언어 모델을 사용하여 ChatGPT 스타일 및 Q&A 환경을 구동하는 Azure에서 실행되는 RAG(검색-보강 세대) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다.
이 템플릿을 시작하려면 RAG를 사용하여 .NET 엔터프라이즈 채팅 샘플 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-demo-csharp GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps Azure 기능 |
Azure OpenAI Azure Computer Vision Azure Form Recognizer Azure AI 검색 Azure Storage |
GPT 3.5 터보 GPT 4.0 |
.NET 및 의미 체계 커널을 사용한 Contoso 채팅 소매 코필로트
이 템플릿은 하이킹 및 캠핑 애호가를위한 야외 장비를 전문으로하는 개념 상점 인 Contoso Outdoors를 구현합니다. 이 가상 저장소는 지능형 채팅 에이전트를 통해 고객 참여 및 판매 지원을 향상시킵니다. 이 에이전트는 의미 체계 커널 및 프롬프트 지원을 통해 보강된 Microsoft Azure AI Stack 내의 RAG(검색 보강 세대) 패턴을 통해 구동됩니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 contoso-chat-csharp-prompty GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps |
Azure OpenAI Microsoft Entra ID Azure 관리 ID Azure Monitor Azure AI 검색 Azure AI Studio Azure SQL Azure Storage |
GPT 3.5 터보 GPT 4.0 |
.NET 및 GPT 3.5 Turbo를 사용하여 음성 텍스트 변환 및 요약을 사용하여 자동화 처리
이 템플릿은 자동차 배터리를 만드는 제조 회사인 Contoso Manufacturing이라는 회사의 현장 및 현장 작업자가 보고한 문제를 해결하는 프로세스 자동화 솔루션입니다. 문제는 작업자가 마이크 입력을 통해 라이브로 공유되거나 오디오 파일로 미리 기록됩니다. 이 솔루션은 음성에서 텍스트로 오디오 입력을 변환한 다음 LLM 및 프롬프트 또는 프롬프트 흐름을 사용하여 문제를 요약하고 솔루션에서 지정한 형식으로 결과를 반환합니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 summarization-openai-csharp-prompty GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps | Speech to Text 요약 Azure OpenAI |
GPT 3.5 터보 |
Python을 사용하여 엔터프라이즈 채팅
이 템플릿은 검색을 위해 Azure AI Search를 사용하고 Azure OpenAI 대규모 언어 모델을 사용하여 ChatGPT 스타일 및 Q&A 환경을 구동하는 Azure에서 실행되는 RAG(검색-보강 세대) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다.
이 템플릿을 시작하려면 RAG를 사용하여 Python 엔터프라이즈 채팅 샘플 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-demo GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure App Service | Azure OpenAI Bing 검색 Azure 관리 ID Azure Monitor Azure AI 검색 Azure AI Studio |
GPT 3.5 터보 GPT 4.0 DALL-E |
DALL-E를 사용하여 멀티 모달 크리에이티브 라이팅 코필로트
이 템플릿은 사용자가 문서를 작성하는 데 도움이 되는 창의적인 다중 에이전트 작성 솔루션입니다. Azure OpenAI에서 구동하는 AI 에이전트를 만들고 사용하는 방법을 보여 줍니다. 여기에는 사용자의 토픽과 명령을 받아 Bing Search API를 사용하여 토픽을 조사하는 연구 에이전트를 호출하는 Flask 앱, Azure AI Search를 사용하여 벡터 저장소의 관련 제품에 대한 의미 체계 유사성 검색을 수행하는 제품 에이전트, 연구 및 제품 정보를 유용한 문서로 결합하는 작성기 에이전트가 포함됩니다. 편집기 에이전트를 사용하여 사용자에게 마지막으로 제공되는 문서를 구체화합니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 agent-openai-python-prompty GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container registery Azure Kubernetes |
Azure OpenAI Bing 검색 Azure 관리 ID Azure Monitor Azure AI 검색 Azure AI Studio |
GPT 3.5 터보 GPT 4.0 DALL-E |
AI Studio를 사용하는 Contoso Chat Retail Copilot
이 템플릿은 고객 판매 및 지원 채팅 솔루션입니다. Azure AI Studio 및 프롬프트 흐름을 사용하여 RAG(검색 증강 세대) 아키텍처를 사용하여 LLM(대규모 언어 모델) 애플리케이션을 빌드하는 방법을 보여 줍니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 contoso-chat GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps |
Azure OpenAI Azure AI 검색 Azure AI Studio Azure Cosmos DB |
GPT 3.5 터보 GPT 4.0 MIR(Managed Integration Runtime) |
AI Studio를 사용하여 음성 텍스트 변환 및 요약을 사용하여 자동화 처리
이 템플릿은 자동차 배터리를 만드는 제조 회사인 Contoso Manufacturing이라는 회사의 현장 및 현장 작업자가 보고한 문제를 해결하는 프로세스 자동화 솔루션입니다. 문제는 작업자가 마이크 입력을 통해 라이브로, 오디오 파일로 미리 기록되거나 텍스트 입력으로 공유됩니다. 이 솔루션은 음성에서 텍스트로 오디오 입력을 변환한 다음, 텍스트 보고서를 LLM 및 Prompty/Promptflow에 대한 입력으로 사용하여 문제를 요약하고 솔루션에서 지정한 형식으로 결과를 반환합니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 summarization-openai-python-prompflow GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps | Azure AI Studio Speech to Text Service 프롬프트 흐름 MIR(Managed Integration Runtime) |
GPT 3.5 터보 |
Prompty, LangChain 및 Elastic Search를 사용하여 함수 호출
이 템플릿은 Prompty, Langchain 및 Elasticsearch를 사용하여 LLM(대규모 언어 모델) 검색 에이전트를 빌드하는 애플리케이션입니다. RAG(검색 증강 세대) 기술을 사용하는 이 에이전트는 실시간 정보 검색을 생성 응답과 통합하여 제공된 데이터를 기반으로 사용자 질문에 답변할 수 있습니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 agent-python-openai-prompty-langchain GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Machine Learning 서비스 | Azure AI Studio 탄력적 검색 Microsoft Entra ID Azure 관리 ID Azure Monitor Azure Storage Azure AI Studio MIR(Managed Integration Runtime) |
GPT 3.5 터보 |
Prompty, LangChain 및 Pinecone을 사용하여 함수 호출
이 템플릿은 새로운 프롬프트 도구인 Langchain 및 Pinecone을 활용하여 LLM(대규모 언어 모델) 검색 에이전트를 빌드합니다. RAG(검색 증강 세대) 기술이 있는 이 에이전트는 실시간 정보 검색을 생성 응답과 통합하여 제공된 데이터를 기반으로 사용자 질문에 답변할 수 있습니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 agent-openai-python-prompty-langchain-pinecone GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps | Pinecone Microsoft Entra ID Microsoft 관리 ID Azure Monitor Azure Storage |
GPT 3.5 터보 |
Python 및 Azure AI Studio를 사용하는 도우미 API Analytics Copilot
이 템플릿은 테이블 형식 데이터와 채팅하고 자연어로 분석을 수행하는 Assistant API입니다. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 도우미-data-openai-python-promptflow GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Machine Learning 서비스 | Azure AI 검색 Azure AI Studio MIR(Managed Integration Runtime) Azure OpenAI |
GPT 3.5 터보 GPT 4 |
Java를 사용하여 엔터프라이즈 채팅
이 템플릿은 검색을 위해 Azure AI Search를 사용하고 Azure OpenAI 대규모 언어 모델을 사용하여 ChatGPT 스타일 및 Q&A 환경을 구동하는 Azure에서 실행되는 RAG(검색-보강 세대) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다. 이 샘플은 다양한 아키텍처 스타일을 지원합니다. Azure 앱 Service를 기반으로 하는 독립 실행형 앱 또는 웹 프런트 엔드, AI 오케스트레이션 및 Azure Kubernetes Service에서 호스트하는 문서 수집 앱을 사용하여 마이크로 서비스 이벤트 기반 아키텍처로 배포할 수 있습니다.
이 템플릿을 시작하려면 RAG를 사용하여 Java 엔터프라이즈 채팅 샘플 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-demo-java GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure App Service Azure Container Apps Azure Kubernetes Service |
Azure OpenAI Azure AI 검색 Azure Storage Azure Monitor |
JavaScript를 사용하여 엔터프라이즈 채팅
이 템플릿은 검색을 위해 Azure AI Search를 사용하고 Azure OpenAI 대규모 언어 모델을 사용하여 ChatGPT 스타일 및 Q&A 환경을 구동하는 Azure에서 실행되는 RAG(검색-보강 세대) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다.
이 템플릿을 시작하려면 RAG를 사용하여 JavaScript 엔터프라이즈 채팅 샘플 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-javascript GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Container Apps Azure Static Web Apps |
Azure OpenAI Azure AI 검색 Azure Storage Azure Monitor |
text-embedding-ada-002 |
Azure OpenAI 채팅 프런트 엔드
이 템플릿은 클라이언트로 백 엔드 구현에 연결할 수 있는 최소한의 OpenAI 채팅 웹 구성 요소입니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-openai-chat-frontend GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Static Web Apps | Azure AI 검색 Azure OpenAI |
GPT 3.5 터보 GPT4 |
LangChain.js 사용하여 RAG로 서버리스 AI 채팅
템플릿은 엔터프라이즈 문서 집합을 사용하여 사용자 쿼리에 대한 응답을 생성하는 LangChain.js 및 Azure를 사용하는 검색 증강 생성이 포함된 서버리스 AI 챗봇입니다. Contoso 부동산이라는 가상의 회사를 사용하며, 이 경험을 통해 고객은 제품 사용에 대한 지원 질문을 할 수 있습니다. 샘플 데이터에는 서비스 약관, 개인 정보 보호 정책 및 지원 가이드를 설명하는 문서 집합이 포함되어 있습니다.
이 템플릿 을 배포하고 실행하는 방법을 알아보려면 LangChain.js 사용하여 RAG로 서버리스 AI 채팅 시작 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 서버리스-chat-langchainjs GitHub 리포지토리를 참조하세요.
이 JavaScript 참조 템플릿을 배포하고 실행하는 방법을 알아봅니다.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
Azure 호스팅 솔루션 | 기술 | AI 모델 |
---|---|---|
Azure Static Web Apps Azure 기능 |
Azure AI 검색 Azure OpenAI Azure Cosmos DB Azure Storage Azure 관리 ID |
GPT4 미스트랄 올라마 섬 |
피드백
https://aka.ms/ContentUserFeedback
출시 예정: 2024년 내내 콘텐츠에 대한 피드백 메커니즘으로 GitHub 문제를 단계적으로 폐지하고 이를 새로운 피드백 시스템으로 바꿀 예정입니다. 자세한 내용은 다음을 참조하세요.다음에 대한 사용자 의견 제출 및 보기