Foundry 에이전트 서비스는 AI 에이전트를 빌드, 배포 및 크기 조정하기 위한 관리되는 플랫폼입니다. 모든 프레임워크, Foundry 모델 카탈로그에서 지원되는 모든 모델 및 모델 유추 및 도구에 대한 단일 진입점을 사용하여 빌드합니다.
Foundry는 프 롬프트 에이전트 를 정의하고 Foundry에서 실행하도록 허용하거나, 호스트된 에이전트로 사용자 고유의 코드를 패키지하거나, 이미 다른 곳에서 실행 중인 에이전트에서 응답 API 를 호출하는 등 선언적 코드에서 전체 코드에 이르기까지 스펙트럼의 어디에서나 만나게 됩니다. 각 경로를 포괄하는 빌드 방법을 선택합니다.
에이전트 서비스 한눈에 보기
| 구성 요소 | 수행하는 내용 |
|---|---|
| 에이전트 런타임 | 프롬프트 에이전트 및 호스트된 에이전트를 호스팅하고 확장합니다. 대화, 도구 호출 및 에이전트 수명 주기를 관리합니다. |
| 도구 상자 | 웹 검색, 파일 검색, 코드 인터프리터, MCP 서버 및 사용자 지정 함수와 같은 도구 집합을 한 번 큐레이팅합니다. 그런 다음 중앙 집중식 인증, 거버넌스 및 버전 관리를 사용하여 단일 관리형 MCP 엔드포인트를 통해 에이전트 간에 공유합니다. |
| 모델 | GPT-4o, Llama 및 DeepSeek과 같은 Foundry 모델 카탈로그의 여러 모델에서 작동합니다. 에이전트 코드를 변경하지 않고 모델을 교환합니다. |
| 가시성 | 엔드 투 엔드 추적, 메트릭, 평가 및 Application Insights 통합. 에이전트가 내리는 모든 결정을 확인하고 품질을 측정합니다. |
| 최적화 | 에이전트 최적화 프로그램(미리 보기)은 에이전트 동작을 평가하고 프롬프트 에이전트 및 호스트된 에이전트에 대한 더 나은 지침, 기술, 도구 설명 및 모델 선택을 자동으로 생성합니다. |
| ID 및 보안 | Microsoft Entra ID, RBAC, 콘텐츠 필터 및 가상 네트워크 격리. 엔터프라이즈급 신뢰가 기본 제공되었습니다. |
| 게시 | 버전 에이전트는 안정적인 엔드포인트를 만들고 Microsoft Teams, Microsoft 365 Copilot 및 Entra Agent Registry를 통해 공유합니다. |
빌드 방법 선택
Tip
첫 번째 에이전트를 만들고 계신가요? Foundry 포털 또는 코드로 프롬프트 에이전트를 만드는 빠른 시작 가이드를 사용해 프롬프트 에이전트로 시작하세요.
Foundry는 단일 모델 호출에서 완전히 컨테이너화된 에이전트에 이르기까지 여러 가지 방법으로 빌드할 수 있습니다. 수행하려는 작업을 기반으로 경로를 선택합니다.
- 가장 적게 관리하시겠습니까?프롬프트 에이전트로 시작합니다. 지침, 모델 및 도구를 구성합니다. Foundry는 코드 또는 인프라 없이 실행합니다.
- Foundry에서 모든 권한을 원하십니까?호스트된 에이전트를 배포합니다. 사용자 고유의 코드와 프레임워크를 컨테이너로 가져옵니다. Foundry는 관리형 엔드포인트, 크기 조정 및 ID를 사용하여 실행합니다.
- 이미 다른 곳에서 에이전트 코드를 실행했나요?관리할 에이전트 리소스가 없는 Foundry 모델 및 도구를 사용하려면 응답 API를 직접 호출합니다.
프롬프트 에이전트와 호스트된 에이전트는 Foundry의 두 가지 에이전트 유형입니다. 다음 섹션에서는 각 값을 구분하여 자신 있는 것으로 선택할 수 있습니다.
에이전트 유형
에이전트 서비스는 두 가지 에이전트 유형을 제공합니다. 선택한 항목은 빌드한 양과 Foundry가 관리하는 양을 설정합니다.
- 프롬프트 에이전트: 가장 빠른 경로입니다. 지침, 모델 및 도구를 정의하고 Foundry는 관리할 코드나 인프라 없이 에이전트를 실행합니다.
- 호스팅된 에이전트: 가장 높은 수준의 제어. 사용자 고유의 코드와 프레임워크를 가져오고 Foundry는 관리형 엔드포인트, 크기 조정 및 ID를 사용하여 컨테이너로 실행합니다.
프롬프트 에이전트
명령, 모델 선택 및 도구를 포함하여 구성을 통해 프롬프트 에이전트를 완전히 정의합니다. 빠른 시작을 위해 Foundry 포털에서 작성하거나 SDK 또는 REST API를 사용하여 프로그래밍 방식으로 정의하여 CI/CD 워크플로와 통합합니다. 어느 경우든 Foundry가 사용자를 대신해 에이전트를 실행합니다. 유지 관리할 애플리케이션 코드가 없으며 보안을 최적화, 크기 조정 또는 모니터링할 컨테이너 또는 패키지가 없습니다.
시작할 두 가지 경로:
- 포털 우선: Foundry 포털에서 대화형으로 에이전트를 만들고, 플레이그라운드에서 테스트한 다음, 애플리케이션 코드에서 호출합니다.
- 코드 우선: 배포 파이프라인에서 SDK 또는 REST API를 사용하여 에이전트를 정의하여 버전 제어, 코드 검토 및 자동화된 롤아웃을 사용하도록 설정합니다.
가장 적합한 용도: 빠른 시작, 내부 도구, 사용자 지정 오케스트레이션 논리가 필요하지 않은 프로덕션 에이전트 및 인프라 오버헤드 없이 관리되는 런타임을 원하는 팀.
호스팅된 에이전트
호스트된 에이전트는 Agent Framework 사용하여 빌드하는 코드 기반 에이전트입니다. LangGraph, OpenAI 에이전트 SDK, Anthropic 에이전트 SDKGitHub Copilot SDK 또는 사용자 고유의 코드입니다. 에이전트를 소스 코드의 컨테이너 이미지 또는 .zip 파일(.zip 파일을 가져올 때 Foundry에서 이미지를 빌드함)으로 제공하고, Foundry는 관리형 엔드포인트, 자동 크기 조정, 전용 Microsoft Entra ID, 세션 수준 상태 지속성 및 엔드 투 엔드 관찰 가능성을 사용하여 에이전트를 실행합니다.
내부적으로 에이전트 코드는 모델 유추 및 도구 오케스트레이션을 위해 Foundry 프로젝트 엔드포인트를 호출하며, 이를 통해 카탈로그의 Foundry 모델과 파일 검색, 코드 인터프리터 및 웹 검색과 같은 표준 도구와 SharePoint, WorkIQ 및 Fabric IQ와 같은 추가 도구와 같은 통합된 플랫폼 도구 집합에 액세스할 수 있습니다.
최적 대상: 사용자 고유의 사용자 지정 코드를 호출하는 에이전트; 보조적으로, 사용자 지정 오케스트레이션 논리, 다중 에이전트 시스템 및 사용자 지정 프로토콜(웹후크, 음성, AG-UI)에서 Foundry가 호스팅, 크기 조정 및 ID를 처리하도록 하면서 에이전트 논리를 완전히 제어하려고 합니다.
에이전트 유형 비교
| 프롬프트 에이전트 | 호스팅된 에이전트 | |
|---|---|---|
| 저작 작업 영역 | 포털, SDK 또는 REST | 에이전트 프레임워크, LangGraph, OpenAI 에이전트 SDK, Anthropic 에이전트 SDK, GitHub Copilot SDK, 사용자 지정 코드 |
| Foundry 모델 + 플랫폼 도구 | 예 | 예(Foundry 프로젝트 엔드포인트의 응답 API를 통해) |
| 기술 지원 | 예 | 예 |
| 유지 관리할 런타임 코드 | 없음 | 네, 귀하의 에이전트 로직 |
| 관리를 위한 컴퓨팅 | 없음, 완전 관리형 | 컨테이너 컴퓨팅, Foundry 관리형 |
| 관리되는 엔드포인트 | 예 | 예 |
| Autoscale | 자동, Foundry 관리형; 요청량에 따라 확장됨 | 자동, Foundry에서 관리; 세션 수 및 요청 볼륨에 따라 컨테이너 인스턴스 수를 조정 |
| 에이전트 ID(Entra) | 예 | 자동, 에이전트별 전용 |
| 비용 모델 | 호출별 유추 + 도구 사용 | 호출별 유추 + 도구 사용량 + 컨테이너 컴퓨팅 |
| 적합한 대상 | 빠른 시작, 사용자 지정 오케스트레이션이 없는 프로덕션 에이전트 | 사용자 지정 코드를 호출하는 에이전트; 보조적으로 사용자 지정 오케스트레이션 논리 |
임시 에이전트에 대한 응답 API 사용
사용자 고유의 코드에서 직접 응답 API를 호출하는 경우 임시 에이전트를 빌드합니다. 에이전트의 정의(지침, 도구 및 모델)는 Foundry의 지속형 리소스가 아닌 애플리케이션 코드에 있습니다. 각 호출은 프로세스에서 에이전트를 어셈블하고 응답 API에 대해 실행하므로 Foundry에서 생성, 업데이트 또는 삭제할 에이전트가 없습니다.
원하는 경우 다음 패턴을 사용합니다.
- 앱과 함께 제공되는 에이전트 논리입니다. 누군가가 앱과 동기화를 유지해야 하는 별도의 Foundry 리소스로 두는 대신, 소스 제어와 코드 검토를 통해 정의 버전을 나머지 코드와 함께 관리합니다.
- 리소스 오버헤드가 없는 Foundry 기능. 카탈로그 모델, 플랫폼 도구, 프로젝트 범위의 데이터, On-Behalf-Of 인증, 그리고 프로젝트 수준의 옵저버빌리티 및 거버넌스는 여전히 제공됩니다. 모두 Foundry 프로젝트 엔드포인트를 통해.
빠른 시작 참조: 자세한 내용은 응답 API를 사용합니다.
모델 지원
에이전트 서비스는 Foundry 모델 카탈로그에서 사용할 수 있는 많은 모델에서 작동합니다. 전체 목록은 Foundry 포털을 참조하세요.
도구 및 도구 상자
에이전트는 도구를 통해 전 세계에서 작동 합니다. Foundry는 웹 검색, 파일 검색, 코드 인터프리터 및 메모리와 같은 기본 제공 도구를 제공하는 동시에 함수, OpenAPI 사양 및 MCP 서버를 통해 사용자 지정 도구를 추가할 수 있도록 합니다. 전체 집합은 도구 상자 개요를 참조하세요.
도구 상자는 이러한 도구를 재사용 가능한 단일 단위로 그룹화합니다. 도구를 한 번 큐레이팅하면 Foundry는 프레임워크에 관계없이 모든 에이전트 또는 런타임에서 사용할 수 있는 관리형 MCP 호환 엔드포인트 뒤에 해당 도구를 노출합니다. 도구 상자는 인증, 거버넌스 및 버전 관리를 중앙 집중화하므로 모든 에이전트를 다시 배선하는 대신 한 곳에서 도구를 업데이트합니다. 새 버전을 만들고, 테스트하고, 준비가 되면 기본값으로 승격합니다. 자세한 내용은 Foundry의 도구 상자란?을 참조하세요.
MCP 원격 서버에 연결 및 인증
Foundry는 Azure DevOps MCP 서버와 같이 에이전트에 추가할 수 있는 원격 MCP 서버를 지원합니다. Azure DevOps 조직을 연결하여 에이전트 액세스를 사용하도록 설정하고 사용 가능한 도구의 하위 집합을 구성하여 에이전트가 수행할 수 있는 작업을 제어합니다. Functions MCP 웹후크 엔드포인트(/runtime/webhooks/mcp)를 사용하여 Azure Functions 호스트되는 사용자 지정 MCP 서버를 연결하여 에이전트에 사용자 지정 도구를 노출할 수도 있습니다.
MCP 서버 및 기타 도구 연결에 지원되는 인증 옵션은 다음과 같습니다.
- 키 기반 액세스
- Microsoft Entra(에이전트의 관리 ID 또는 프로젝트의 관리 ID 사용)
- OAuth ID 전달(사용자 대리, On-Behalf-Of)
- 인증되지 않은 액세스(해당하는 경우)
이러한 인증 옵션은 도구 구성에서 관리되는 자격 증명 및 범위를 사용하여 원격 MCP 서버를 연결할 때도 적용됩니다.
개발 수명 주기
에이전트 서비스는 전체 build-test-deploy-monitor 워크플로를 지원합니다.
- 만들기: 포털 또는 SDK를 사용하여 프롬프트 에이전트를 정의하거나 응답 API를 호출하는 호스트된 에이전트를 작성합니다.
- 테스트: 에이전트 플레이그라운드에서 에이전트 와 채팅하거나 로컬로 실행합니다. Azure Functions 호스트되는 사용자 지정 MCP 서버를 비롯한 MCP 서버 통합은 게시하기 전에 도구 연결, 사용 권한 및 동작의 유효성을 검사하기 위해 플레이그라운드에서 직접 실행할 수 있습니다.
- 추적: 에이전트 추적을 사용하여 모든 모델 호출, 도구 호출 및 결정을 검사합니다.
- 평가: 평가를 실행하여 품질을 측정하고 회귀를 포착합니다.
- 최적화: 에이전트 최적화 관리자를 사용하여 호스트된 에이전트의 지침을 자동으로 개선합니다.
- 게시: 안정적인 엔드포인트를 사용하여 에이전트를 관리되는 리소스로 승격합니다 .
- 모니터: 서비스 메트릭 및 대시보드를 사용하여 성능 및 안정성을 추적합니다.
자세한 연습은 에이전트 개발 수명 주기를 참조하세요.
엔터프라이즈 기능
에이전트 서비스는 배포하는 모든 에이전트에 대해 엔터프라이즈급 인프라를 제공합니다.
- 에이전트 ID: 각 에이전트는 전용 Microsoft Entra ID를 가질 수 있으므로 자격 증명을 공유하지 않고도 리소스 및 API에 안전하고 범위가 지정된 액세스를 사용할 수 있습니다. 에이전트 ID는 Azure Functions 호스트되는 서버를 포함하여 외부 MCP 서버에 인증할 수 있으며 OBO(OAuth On-Behalf-Of) 통과는 구성 시 지원됩니다.
- 프라이빗 네트워킹: 전체 네트워크 격리 및 데이터 상주 요구 사항 준수를 위해 Azure 가상 네트워크 내에서 에이전트를 실행합니다. 프라이빗 네트워킹은 프롬프트 에이전트에 사용할 수 있습니다. 호스트된 에이전트는 각 세션이 VNet에 연결된 VM 격리 샌드박스에서 실행되는 BYO VNet(bring-your-own Azure Virtual Network)을 지원합니다.
- 역할 기반 액세스 제어: Microsoft Entra 및 Azure RBAC를 통한 세분화된 권한입니다. 에이전트를 만들고, 호출하고, 관리할 수 있는 사용자를 제어합니다.
- 콘텐츠 안전성: 통합 콘텐츠 필터는 프롬프트 삽입 위험(교차 프롬프트 삽입 포함)을 완화하고 안전하지 않은 출력을 방지하는 데 도움이 됩니다.
환경 설정 지침은 환경 설정을 참조하세요.
게시 및 공유
에이전트 서비스는 에이전트가 자신 있는 상태로 개발에서 프로덕션으로 이동할 수 있도록 기본 제공 버전 관리 및 게시를 제공합니다.
- 버전 관리: 에이전트를 반복적으로 개선해 나가면 버전이 자동으로 스냅샷으로 저장됩니다. 이전 버전으로 롤백하거나 버전 간의 변경 내용을 비교합니다.
- 게시: 안정적인 엔드포인트를 사용하여 에이전트를 관리되는 리소스로 승격합니다. 게시된 에이전트는 프로젝트에 대해 구성된 엔터프라이즈 ID 및 액세스 제어를 상속하며 프로그래밍 방식으로 호출할 수 있습니다.
- 배포: Microsoft 365 Copilot 및 Teams와 Entra 에이전트 레지스트리를 통해 게시한 에이전트를 공유하여 사용자가 이미 작업하는 곳에 에이전트를 배치합니다. Foundry 에이전트 서비스는 Microsoft 365 게시를 위한 OpenResponses 및 활동 프로토콜, 사용자 지정 앱 및 서비스와의 유연한 엔드포인트 통합을 위한 호출 프로토콜 및 에이전트 간 통신을 위한 A2A 프로토콜(미리 보기)을 지원합니다.
보안, 개인 정보 보호 및 규정 준수
에이전트 서비스는 ID, 네트워킹, 데이터 처리 및 안전에 대한 강력한 제어가 필요한 엔터프라이즈 워크로드를 위해 설계되었습니다.
- 안전 제어: 통합 가드레일을 사용하여 안전하지 않은 출력을 줄이고 XPIA(교차 프롬프트 삽입 공격)를 비롯한 프롬프트 주입 위험을 완화합니다.
- 네트워크 격리 및 데이터 상주 제어: 가상 네트워크 및 사용자 고유의 리소스를 사용하여 요구 사항을 충족합니다.
- 자신의 리소스 육성: 고유한 Azure 리소스(예: 대화 상태의 경우 스토리지, Azure AI 검색 및 Azure Cosmos DB)를 사용하여 규정 준수 및 운영 요구 사항을 충족합니다. 사용자 고유의 리소스 사용을 참조하세요.
- Responsible AI 지침: 더 광범위한 권장 사항 및 관리 리소스를 보려면 Microsoft Foundry용 Responsible AI를 참조하세요.
관련 콘텐츠
- 환경 설정
- 에이전트 개발 수명 주기
- 첫 번째 호스트된 에이전트 배포
- 도구 카탈로그
- 할당량, 제한 및 지역 지원
- 도움이 되거나 커뮤니티와 연결하려면 Microsoft AI Discord 가입하세요.