Azure AI 서비스를 사용하는 Java 앱 개발

  • 아티클

이 문서에서는 Azure OpenAI Service 및 기타 Azure AI Services를 사용하는 애플리케이션을 개발하는 방법을 알아보기 위한 설명서, 샘플 및 기타 리소스를 제공합니다.

Azure AI 참조 템플릿

Azure AI 참조 템플릿을 통해 참조 구현을 잘 관리하고 쉽게 배포할 수 있습니다. 이를 사용하는 것은 지능형 애플리케이션을 위한 고품질의 시작점이 됩니다. 엔드투엔드 솔루션은 널리 사용되는 포괄적 참조 애플리케이션을 제공합니다. 구성 요소는 특정 시나리오와 작업에 포커스를 맞춘 소규모 샘플입니다.

엔드투엔드 솔루션

링크 설명
RAG를 사용하여 Java 엔터프라이즈 채팅 샘플 시작 Java용 엔터프라이즈 채팅 앱 샘플을 배포하고 사용하는 방법을 안내하는 문서입니다. 이 샘플은 검색용 Azure AI 검색과 ChatGPT 스타일 및 Q&A 환경을 지원하는 Azure OpenAI 대규모 언어 모델을 사용하여 Azure에서 실행되는 RAG(검색 증강 생성) 패턴을 보여 주는 완전한 엔드투엔드 솔루션입니다.

빌딩 블록

링크 설명
Azure OpenAI(Python)를 사용하여 채팅 앱 빌드 ReadableStream에서 JSON Lines를 사용하여 ChatGPT에서 HTML/JS 프런트 엔드로 응답을 스트리밍하는 간단한 Python Quart 앱입니다. (Python 코드는 참조로 제공되며 Java에 맞게 조정될 수 있습니다.)
Azure OpenAI(Python)를 사용하여 LangChain 빌드 샘플에서는 사용자의 프롬프트를 HTTP Get 또는 Post 입력으로 가져오고 사용자의 입력 및 템플릿 체인을 사용하여 결과를 계산하는 방법을 보여 줍니다. 이는 보다 정교한 체인에 사용될 수 있는 시작점입니다. (Python 코드는 참조로 제공되며 Java에 맞게 조정될 수 있습니다.)
Azure Container Apps(Python)를 사용하여 ChatGPT 플러그 인 빌드 GitHub Codespaces, VS Code 및 Azure를 사용하여 ChatGPT 플러그 인을 만들기 위한 샘플입니다. 샘플에는 Azure 개발자 CLI를 사용하여 Azure Container Apps에 플러그 인을 배포하기 위한 템플릿이 포함되어 있습니다. (Python 코드는 참조로 제공되며 Java에 맞게 조정될 수 있습니다.)
Azure AI Java 템플릿 갤러리 Azure AI 템플릿의 전체 목록을 보려면 갤러리를 참조하세요. 갤러리의 모든 앱 템플릿은 azd up이라는 단일 명령을 사용하여 실행하고 배포할 수 있습니다.
Azure Container Apps를 사용한 스마트 부하 분산 이 샘플 솔루션 은 Microsoft의 고성능 YARP C# 역방향 프록시 프레임워크 를 사용하여 빌드됩니다. 그러나 이를 사용하기 위해 C#을 이해할 필요는 없으며 제공된 Docker 이미지를 빌드하기만 하면 됩니다. 이는 동일한 논리를 사용하는 API Management OpenAI 스마트 부하 분산 장치에 대한 대체 솔루션입니다.
Azure API Management를 통한 스마트 부하 분산 이 엔터프라이즈 솔루션은 가용성 및 우선 순위에 따라 두 개 이상의 OpenAI 또는 API 백 엔드를 사용하는 효율적인 논리를 유지하면서 단일 엔드포인트를 애플리케이션에 원활하게 노출하는 Azure API Management 정책을 만드는 방법을 보여 줍니다.

Azure OpenAI

엔드투엔드 솔루션

링크 설명
RAG를 사용하여 Java 엔터프라이즈 채팅 샘플 시작 Java용 엔터프라이즈 채팅 앱 샘플을 배포하고 사용하는 방법을 안내하는 문서입니다. 이 샘플은 검색용 Azure AI 검색과 ChatGPT 스타일 및 Q&A 환경을 지원하는 Azure OpenAI 대규모 언어 모델을 사용하여 Azure에서 실행되는 RAG(검색 증강 생성) 패턴을 보여 주는 완전한 엔드투엔드 솔루션입니다.

빌딩 블록

링크 설명
Azure Cache for Redis Enterprise를 사용한 벡터 유사성 검색(Python) RAG 시나리오를 위한 백 엔드 벡터 저장소로 Azure Cache for Redis를 사용하는 과정을 안내하는 문서입니다. (Python 코드는 참조로 제공되며 Java에 맞게 조정될 수 있습니다.)
PostgreSQL(Python)을 사용하여 자체 데이터를 갖춘 OpenAI 솔루션 Azure Database for PostgreSQL 유연한 서버 및 Azure Cosmos DB for PostgreSQL이 개요, 시나리오 등과 함께 pgvector 확장을 지원하는 방법을 설명하는 문서입니다(Python 코드는 참조로 제공되며 Java에 맞게 조정될 수 있음).

SDK

Package(패키지) 소스 코드 릴리스 Maven
azure-ai-openai 소스 코드 릴리스 Maven 패키지
azure-ai-openai-도우미s 소스 코드 릴리스 Maven 패키지

샘플 및 지침

링크 설명
GPT-35-Turbo 및 GPT-4 사용 시작 채팅 완료 샘플을 만드는 과정을 안내하는 문서입니다.
완성 제공된 프롬프트에 대한 완료를 가져오는 방법을 보여주는 간단한 예제입니다.
스트리밍 채팅 완료 스트리밍 채팅 완료를 사용하는 방법을 보여주는 간단한 예제입니다.
OpenAI에서 Azure OpenAI로 전환 OpenAI와 Azure OpenAI 서비스 간에 교환하기 위해 코드에 대해 수행해야 하는 작은 변경 내용에 대한 지침이 포함된 문서입니다.
Microsoft Entra ID 역할 기반 액세스 제어 기능을 갖춘 OpenAI Microsoft Entra ID를 사용하여 인증을 살펴보는 문서입니다.
관리 ID를 갖춘 OpenAI Azure RBAC(Azure 역할 기반 액세스 제어)가 필요한 보다 복잡한 보안 시나리오를 자세히 설명하는 문서입니다. 이 문서에서는 Microsoft Entra ID를 사용하여 OpenAI 리소스를 인증하는 방법을 다룹니다.
추가 샘플 Azure OpenAI 서비스 샘플은 클라이언트 라이브러리를 사용하여 Azure OpenAI 서비스와 상호 작용하는 것을 보여 주는 자체 포함 Java 프로그램 집합입니다. 각 샘플은 특정 시나리오에 중점을 두고 독립적으로 실행할 수 있습니다.
추가 지침 Azure OpenAI Service 설명서의 허브 페이지입니다.

오픈 소스 통합

SDK

Package(패키지) 소스 코드 릴리스 Maven
langchain4j-azure-open-ai 소스 코드 릴리스 Maven 패키지
langchain4j-azure-ai-search 소스 코드 릴리스 Maven
langchain4j-document-loader-azure-storage-blob 해당 없음 릴리스 Maven

다른 Azure AI 서비스

엔드투엔드 솔루션

링크 설명
캡션 및 콜 센터 대화 기록 콜 센터 시나리오의 캡션 및 녹취 샘플이 포함된 리포지토리입니다.

SDK

링크 설명
Azure AI 문서 인텔리전스 SDK Azure AI 문서 인텔리전스(이전의 Form Recognizer)는 기계 학습을 사용하여 문서의 텍스트와 구조화된 데이터를 분석하는 클라우드 서비스입니다. 문서 인텔리전스 소프트웨어 개발 키트(SDK)는 문서 인텔리전스 모델 및 기능을 애플리케이션에 쉽게 통합할 수 있는 라이브러리 및 도구 세트입니다.

샘플 및 지침

링크 설명
음성 SDK 샘플을 사용하여 앱에 음성 통합 Azure Cognitive Services Speech SDK에 대한 샘플 컬렉션입니다. 음성 인식, 번역, 음성 합성 등에 대한 샘플 링크입니다.
Java에서 Form Recognizer를 사용하여 양식, 영수증, 송장 및 카드 구조화된 데이터 추출 Azure.AI.FormRecognizer 클라이언트 라이브러리에 대한 샘플 컬렉션입니다.
Java에서 Text Analytics를 사용하여 문서 내 텍스트 추출, 분류 및 이해 Text Analytics용 클라이언트 라이브러리. 이는 텍스트를 이해하고 분석하기 위한 NLP(자연어 처리) 기능을 제공하는 Azure AI 언어 서비스의 일부입니다.
Java의 문서 번역 문서 번역을 사용하여 구조 및 텍스트 서식을 유지하면서 원본 문서를 대상 언어로 번역하는 방법을 설명하는 빠른 시작 문서입니다.
이미지 분석 Microsoft Azure AI Image Analysis SDK에 대한 샘플 코드 및 설정 문서