AI 앱 템플릿
설명서의 이 섹션에서는 이러한 템플릿을 사용하여 주요 개발자 작업을 수행하는 방법을 보여 주는 AI 앱 템플릿 및 관련 문서를 소개합니다. AI 앱 템플릿은 AI 앱의 고품질 시작 지점을 보장하는 데 도움이 되는 잘 유지 관리되고 배포하기 쉬운 참조 구현을 제공합니다.
구성 요소와 엔드 투 엔드 솔루션 두 가지 범주의 AI 앱 템플릿이 있습니다. 다음 섹션에서는 이 문서의 맨 위에서 선택한 프로그래밍 언어의 각 범주에 있는 몇 가지 주요 템플릿을 소개합니다. 이러한 템플릿 및 기타 템플릿을 포함하여 보다 포괄적인 목록을 찾아보려면 AI 앱 템플릿 갤러리의 AI 앱 템플릿을 참조하세요.
빌딩 블록
구성 요소는 특정 시나리오 및 작업에 초점을 맞춘 소규모 샘플입니다. 대부분의 구성 요소는 사용자 고유의 데이터를 사용하는 채팅 앱에 엔드 투 엔드 솔루션을 활용하는 기능을 보여 줍니다.
| 구성 요소 | 설명 |
|---|---|
| Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. |
| 구성 요소 | 설명 |
|---|---|
| 채팅 앱에 대한 문서 보안 구성 | 사용자 고유의 데이터로 RAG 패턴을 사용하여 채팅 애플리케이션을 빌드하는 경우 각 사용자가 자신의 권한에 따라 답변을 받는지 확인합니다. 권한 있는 사용자는 채팅 앱의 문서에 포함된 답변에 액세스할 수 있어야 합니다. 권한이 없는 사용자는 볼 수 있는 권한이 없는 보안 문서의 답변에 액세스할 수 없어야 합니다. |
| 채팅 앱 답변 평가 | 올바른 답변 또는 이상적인 답변 집합(지상 진리라고 함)에 대해 채팅 앱의 답변을 평가하는 방법을 알아봅니다. 답변에 영향을 주는 방식으로 채팅 애플리케이션을 변경할 때마다 평가를 실행하여 변경 내용을 비교합니다. 이 데모 애플리케이션은 평가를 더 쉽게 실행할 수 있도록 오늘 사용할 수 있는 도구를 제공합니다. |
| Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. |
| API Management를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방법은 Azure API Management를 사용하여 세 개의 Azure OpenAI 엔드포인트와 기본 컨테이너를 만들어 들어오는 트래픽을 세 개의 엔드포인트 중 하나로 전달합니다. |
| Locust를 사용하여 Python 채팅 앱 로드 테스트 | 인기 있는 오픈 소스 부하 테스트 도구인 Locust에서 RAG 패턴을 사용하여 Python 채팅 애플리케이션에서 부하 테스트를 수행하는 프로세스를 알아봅니다. 부하 테스트의 기본 목표는 채팅 애플리케이션의 예상 부하가 현재 Azure OpenAI TPM(분당 트랜잭션 수) 할당량을 초과하지 않도록 하는 것입니다. 부하가 많은 사용자 동작을 시뮬레이션하여 애플리케이션에서 잠재적인 병목 상태 및 확장성 문제를 식별할 수 있습니다. |
| 키 없는 인증을 사용하여 AI 앱 보호 | 키 없는 인증을 사용하여 Python Azure OpenAI 채팅 애플리케이션을 보호하는 프로세스를 알아봅니다. 대부분의 Azure 서비스에 대한 애플리케이션 요청은 키 없는 연결 또는 암호 없는 연결로 인증되어야 합니다. 키 없는 인증은 저장할 키(또는 연결 문자열)가 없기 때문에 계정 키에 비해 개선된 관리 및 보안 이점을 제공합니다. |
| 구성 요소 | 설명 |
|---|---|
| Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. |
| 구성 요소 | 설명 |
|---|---|
| 채팅 앱 답변 평가 | 올바른 답변 또는 이상적인 답변 집합(지상 진리라고 함)에 대해 채팅 앱의 답변을 평가하는 방법을 알아봅니다. 답변에 영향을 주는 방식으로 채팅 애플리케이션을 변경할 때마다 평가를 실행하여 변경 내용을 비교합니다. 이 데모 애플리케이션은 평가를 더 쉽게 실행할 수 있도록 오늘 사용할 수 있는 도구를 제공합니다. |
| Azure Container Apps를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방식은 Azure Container Apps를 사용하여 3개의 Azure OpenAI 엔드포인트를 만들고, 들어오는 트래픽을 3개의 엔드포인트 중 하나로 전달하는 기본 컨테이너를 만듭니다. |
| API Management를 사용하여 부하 분산 | Azure OpenAI 토큰 및 모델 할당량 한도를 넘어 채팅 앱을 확장하기 위해 애플리케이션에 부하 분산을 추가하는 방법을 알아봅니다. 이 방법은 Azure API Management를 사용하여 세 개의 Azure OpenAI 엔드포인트와 기본 컨테이너를 만들어 들어오는 트래픽을 세 개의 엔드포인트 중 하나로 전달합니다. |
엔드투엔드 솔루션
엔드 투 엔드 솔루션은 설명서, 소스 코드 및 배포를 비롯한 포괄적인 참조 샘플로, 사용자 고유의 용도로 사용하고 확장할 수 있습니다.
.NET에서 Azure OpenAI 및 Azure AI Search를 사용하여 데이터와 채팅
이 템플릿은 Azure에서 실행되는 RAG(Retrieval-Augmented Generation) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다. 검색 및 Azure OpenAI 대규모 언어 모델에 Azure AI Search를 사용하여 ChatGPT 스타일 및 Q&A 환경을 지원합니다.
이 템플릿을 시작하려면 .NET용 사용자 고유의 데이터 샘플을 사용하여 채팅 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-demo-csharp GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps Azure 기능 |
Azure OpenAI Azure Computer Vision Azure Form Recognizer Azure AI 검색 Azure Storage |
GPT 3.5 터보 GPT 4.0 |
.NET 및 의미 체계 커널을 사용한 Contoso 채팅 소매 코필로트
이 템플릿은 하이킹 및 캠핑 애호가를위한 야외 장비를 전문으로하는 개념 상점 인 Contoso Outdoors를 구현합니다. 이 가상 저장소는 지능형 채팅 에이전트를 통해 고객 참여 및 판매 지원을 향상시킵니다. 이 에이전트는 의미 체계 커널 및 프롬프트 지원을 통해 보강된 Microsoft Azure AI Stack 내의 RAG(검색 보강 세대) 패턴을 통해 구동됩니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 contoso-chat-csharp-prompty GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps |
Azure OpenAI Microsoft Entra ID Azure 관리 ID Azure Monitor Azure AI 검색 Azure AI Studio Azure SQL Azure Storage |
GPT 3.5 터보 GPT 4.0 |
.NET 및 GPT 3.5 Turbo를 사용하여 음성 텍스트 변환 및 요약을 사용하여 자동화 처리
이 템플릿은 자동차 배터리를 만드는 제조 회사인 Contoso Manufacturing이라는 회사의 현장 및 현장 작업자가 보고한 문제를 해결하는 프로세스 자동화 솔루션입니다. 문제는 작업자가 마이크 입력을 통해 라이브로 공유되거나 오디오 파일로 미리 기록됩니다. 이 솔루션은 음성에서 텍스트로 오디오 입력을 변환한 다음 LLM 및 프롬프트 또는 프롬프트 흐름을 사용하여 문제를 요약하고 솔루션에서 지정한 형식으로 결과를 반환합니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 summarization-openai-csharp-prompty GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps | Speech to Text 요약 Azure OpenAI |
GPT 3.5 터보 |
Python을 사용하여 Azure OpenAI 및 Azure AI Search를 사용하여 데이터와 채팅
이 템플릿은 Azure에서 실행되는 RAG(Retrieval-Augmented Generation) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다. 검색 및 Azure OpenAI 대규모 언어 모델에 Azure AI Search를 사용하여 ChatGPT 스타일 및 Q&A(질문 및 답변) 환경을 지원합니다.
이 템플릿을 시작하려면 Python용 사용자 고유의 데이터 샘플을 사용하여 채팅 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-demo GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps | Azure OpenAI Azure AI 검색 Azure Blob Storage Azure Monitor Azure Document Intelligence |
GPT 3.5 터보 GPT 4 GPT 4o GPT 4o-mini |
DALL-E를 사용하여 멀티 모달 크리에이티브 라이팅 코필로트
이 템플릿은 사용자가 문서를 작성하는 데 도움이 되는 창의적인 다중 에이전트 작성 솔루션입니다. Azure OpenAI에서 구동하는 AI 에이전트를 만들고 사용하는 방법을 보여 줍니다.
다음을 포함합니다.
- 사용자의 문서와 명령을 받는 Flask 앱입니다.
- Bing Search API를 사용하여 문서를 연구하는 연구 에이전트입니다.
- Azure AI Search를 사용하여 벡터 저장소의 관련 제품에 대한 의미 체계 유사성 검색을 수행하는 제품 에이전트입니다.
- 연구 및 제품 정보를 유용한 문서로 결합하는 작성자 에이전트입니다.
- 사용자에게 제공되는 문서를 구체화하는 편집기 에이전트입니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 agent-openai-python-prompty GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Registry Azure Kubernetes |
Azure OpenAI Bing 검색 Azure 관리 ID Azure Monitor Azure AI 검색 Azure AI Studio |
GPT 3.5 터보 GPT 4.0 DALL-E |
AI Studio를 사용하는 Contoso Chat Retail Copilot
이 템플릿은 검색 증강 세대 디자인 패턴을 사용하여 소매업체의 제품 및 고객 데이터에서 챗봇 응답을 접지하는 Contoso Outdoor용 소매 부조종사 솔루션인 Contoso Chat을 구현합니다. 고객은 자연어로 웹 사이트에서 질문을 하고 구매 기록에 따라 잠재적인 권장 사항으로 관련 응답을 받을 수 있으며, 책임 있는 AI 사례를 통해 응답 품질과 안전을 보장할 수 있습니다.
이 템플릿은 Azure AI 및 Prompty를 사용하여 RAG 기반 부조종사 코드를 먼저 빌드하기 위한 GenAIOps(엔드투엔드 워크플로)를 보여 줍니다. 이 샘플을 탐색하고 배포하여 다음을 알아봅니다.
- Prompty를 사용하여 앱 프로토타입에서 빠르게 아이디어 파악 및 반복
- 채팅, 포함 및 평가를 위해 Azure OpenAI 모델 배포 및 사용
- 데이터에 Azure AI Search(인덱스) 및 Azure Cosmos DB(데이터베이스) 사용
- AI 지원 평가 흐름을 사용하여 품질에 대한 채팅 응답 평가
- Azure Container Apps에 배포된 FastAPI 엔드포인트로 애플리케이션 호스트
- Azure Developer CLI를 사용하여 솔루션 프로비전 및 배포
- 콘텐츠 안전 및 평가를 사용하여 책임 있는 AI 사례 지원
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 contoso-chat GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps |
Azure OpenAI Azure AI 검색 Azure AI Studio 프롬프트 Azure Cosmos DB |
GPT 3.5 터보 GPT 4.0 MIR(Managed Integration Runtime) |
AI Studio를 사용하여 음성 텍스트 변환 및 요약을 사용하여 자동화 처리
이 템플릿은 Contoso Manufacturing이라는 회사의 작업자가 텍스트 또는 음성을 통해 문제를 보고할 수 있도록 하는 웹 기반 앱을 만듭니다. 오디오 입력은 텍스트로 변환된 다음 중요한 정보를 강조 표시하기 위해 요약되며 보고서는 해당 부서로 전송됩니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 summarization-openai-python-promptflow GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps | Azure AI Studio Speech to Text Service 프롬프트 MIR(Managed Integration Runtime) |
GPT 3.5 터보 |
Python 및 Azure AI 스튜디오를 사용한 보조 API 분석 Copilot
이 템플릿은 테이블 형식 데이터와 채팅하고 자연어로 분석을 수행하는 Assistant API입니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 assistant-data-openai-python-promptflow GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Machine Learning 서비스 | Azure AI 검색 Azure AI Studio MIR(Managed Integration Runtime) Azure OpenAI |
GPT 3.5 터보 GPT 4 |
Java를 사용하여 Azure OpenAI 및 Azure AI Search를 사용하여 데이터와 채팅
이 템플릿은 Azure에서 실행되는 RAG(검색-보강 세대) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다. 검색 및 Azure OpenAI 대규모 언어 모델에 Azure AI Search를 사용하여 ChatGPT 스타일 및 Q&A 환경을 지원합니다.
이 템플릿을 시작하려면 Java용 사용자 고유의 데이터 샘플을 사용하여 채팅 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-demo-java GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure App Service Azure Container Apps Azure Kubernetes Service |
Azure OpenAI Azure AI 검색 Azure Storage Azure Monitor |
JavaScript를 사용하여 Azure OpenAI 및 Azure AI Search를 사용하여 데이터와 채팅
이 템플릿은 Azure에서 실행되는 RAG(Retrieval-Augmented Generation) 패턴을 보여 주는 완전한 엔드 투 엔드 솔루션입니다. 검색 및 Azure OpenAI 대규모 언어 모델에 Azure AI Search를 사용하여 ChatGPT 스타일 및 Q&A 환경을 지원합니다.
이 템플릿을 시작하려면 JavaScript용 사용자 고유의 데이터 샘플을 사용하여 채팅 시작을 참조하세요. 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-search-openai-javascript GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Container Apps Azure Static Web Apps |
Azure OpenAI Azure AI 검색 Azure Storage Azure Monitor |
text-embedding-ada-002 |
Azure OpenAI 채팅 프런트 엔드
이 템플릿은 클라이언트로 백 엔드 구현에 연결할 수 있는 최소한의 OpenAI 채팅 웹 구성 요소입니다.
소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 azure-openai-chat-frontend GitHub 리포지토리를 참조하세요.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Static Web Apps | Azure AI 검색 Azure OpenAI |
GPT 3.5 터보 GPT4 |
LangChain.js 사용하여 RAG로 서버리스 AI 채팅
템플릿은 엔터프라이즈 문서 집합을 사용하여 사용자 쿼리에 대한 응답을 생성하는 LangChain.js 및 Azure를 사용하는 검색 증강 생성이 포함된 서버리스 AI 챗봇입니다. Contoso 부동산이라는 가상의 회사를 사용하며, 이 경험을 통해 고객은 제품 사용에 대한 지원 질문을 할 수 있습니다. 샘플 데이터에는 서비스 약관, 개인 정보 보호 정책 및 지원 가이드를 설명하는 문서 집합이 포함되어 있습니다.
이 템플릿 을 배포하고 실행하는 방법을 알아보려면 LangChain.js 사용하여 RAG로 서버리스 AI 채팅 시작 소스 코드에 액세스하고 템플릿에 대한 자세한 내용을 읽으려면 서버리스-chat-langchainjs GitHub 리포지토리를 참조하세요.
이 JavaScript 참조 템플릿을 배포하고 실행하는 방법을 알아봅니다.
이 템플릿은 이러한 기능을 사용하는 방법을 보여 줍니다.
| Azure 호스팅 솔루션 | 기술 | AI 모델 |
|---|---|---|
| Azure Static Web Apps Azure 기능 |
Azure AI 검색 Azure OpenAI Azure Cosmos DB Azure Storage Azure 관리 ID |
GPT4 Mistral 올라마 섬 |