대부분의 기업은 챗봇만 원하지 않으며 더 빠르고 적은 오류로 자동화를 원합니다. 즉, 문서 요약, 청구서 처리, 지원 티켓 관리 또는 블로그 게시물 게시를 의미할 수 있습니다. 모든 경우에 목표는 동일합니다. 반복적이고 예측 가능한 작업을 오프로드하여 사람과 리소스가 더 높은 가치의 작업에 집중할 수 있도록 합니다.
LLM(대규모 언어 모델)은 구조화되지 않은 데이터를 이해하고, 결정을 내리고, 콘텐츠를 생성할 수 있는 시스템을 갖춘 새로운 유형의 자동화의 문을 열었습니다. 실제로 기업은 데모를 넘어 프로덕션으로 이동하기 어려울 수 있습니다. LLM은 표류하고, 틀렸으며, 책임이 부족할 수 있습니다. 가시성, 정책 적용 및 오케스트레이션이 없으면 실제 비즈니스 워크플로에서 이러한 모델을 신뢰하기가 어렵습니다.
Azure AI Foundry 는 이를 변경하도록 설계되었습니다. 모델, 도구, 프레임워크 및 거버넌스를 지능형 에이전트를 빌드하기 위한 통합 시스템으로 결합하는 플랫폼입니다. 이 시스템의 중심에는 Azure AI Foundry 에이전트 서비스가 있으며, 이를 통해 개발, 배포 및 프로덕션 전반에 걸쳐 에이전트 작업을 수행할 수 있습니다.
AI Foundry 에이전트 서비스는 모델, 도구 및 프레임워크와 같은 Azure AI Foundry의 핵심 부분을 단일 런타임에 연결합니다. 스레드를 관리하고, 도구 호출을 오케스트레이션하고, 콘텐츠 안전을 적용하고, ID, 네트워킹 및 관찰 시스템과 통합하여 에이전트가 안전하고 확장 가능하며 프로덕션을 준비할 수 있도록 합니다.
AI Foundry 에이전트 서비스는 인프라 복잡성을 추상화하고 설계에 따라 신뢰와 안전을 적용하여 프로토타입에서 프로덕션으로 쉽게 이동할 수 있도록 합니다.
AI 에이전트란?
에이전트는 결정을 내리고, 도구를 호출하고, 워크플로에 참여합니다. 때로는 독립적으로, 때로는 다른 에이전트 또는 인간과 공동으로. 도우미와 에이전트를 차별화하는 것은 자율성입니다. 도우미는 사람을 지원하고 에이전트는 목표를 완료합니다. 실제 프로세스 자동화의 기초입니다.
AI Foundry를 사용하여 만든 에이전트는 모놀리식이 아닙니다. 구성 가능한 단위입니다. 각각 특정 역할이 있고, 올바른 모델에 의해 구동되고, 올바른 도구를 갖추고, 안전하고, 관찰 가능하고, 제어 가능한 런타임 내에 배포됩니다.
각 에이전트에는 다음 세 가지 핵심 구성 요소가 있습니다.
- 모델(LLM): 추론 및 언어 이해를 강화합니다.
- 지침: 에이전트의 목표, 동작 및 제약 조건 정의
- 도구: 에이전트가 지식을 검색하거나 조치를 취하도록 허용
에이전트는 사용자 프롬프트, 경고 또는 다른 에이전트의 메시지와 같은 구조화되지 않은 입력을 받습니다. 도구 결과 또는 메시지의 형태로 출력을 생성합니다. 이 과정에서 도구를 호출하여 검색을 수행하거나 작업을 트리거할 수 있습니다.
AI Foundry의 에이전트는 어떻게 작동합니까?
Azure AI Foundry를 지능형 에이전트의 어셈블리 라인으로 간주합니다. 다른 현대적 공장과 마찬가지로, 이는 각자가 최종 제품의 일부를 형성할 책임이 있는 다양한 전문화된 스테이션을 조합하여 운영됩니다. 에이전트 팩터리는 컴퓨터와 컨베이어 벨트 대신 모델, 도구, 정책 및 오케스트레이션을 사용하여 안전하고 테스트 가능하며 프로덕션이 준비된 에이전트를 빌드합니다. 공장이 단계별로 작동하는 방법은 다음과 같습니다.
1. 모델
조립 라인은 에이전트에 인텔리전스를 부여하는 모델을 선택하는 것으로 시작합니다. GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) 및 Llama 등의 모델을 포함한 대규모 언어 모델의 확장된 목록에서 선택하십시오. 이것은 결정을 내리는 에이전트의 추론 핵심입니다.
2. 사용자 지정
다음으로, 사용 사례에 맞게 해당 모델을 셰이프합니다. 미세 조정, 증류 또는 도메인별 프롬프트를 사용하여 에이전트를 사용자 지정합니다. 이 단계를 사용하면 실제 스레드 콘텐츠 및 도구 결과에서 캡처된 데이터를 사용하여 이전 성능의 에이전트 동작, 역할별 지식 및 패턴을 인코딩할 수 있습니다.
3. AI 도구
그런 다음 요원에게 도구를 갖추게 합니다. 이를 통해 엔터프라이즈 지식(예: Bing, SharePoint, Azure AI Search)에 액세스하고 실제 작업(Logic Apps, Azure Functions, OpenAPI 등을 통해)을 수행할 수 있습니다. 이렇게 하면 에이전트의 기능 확장 능력이 향상됩니다.
4. 오케스트레이션
다음으로 에이전트는 조정이 필요합니다. 연결된 에이전트는 도구 호출 처리, 스레드 상태 업데이트, 재시도 관리 및 출력 로깅과 같은 전체 수명 주기를 오케스트레이션합니다.
5. 신뢰
에이전트가 할당된 워크로드에 적합하고 신뢰할 수 있도록 하는 것이 중요합니다. AI Foundry는 Microsoft Entra, RBAC, 콘텐츠 필터, 암호화 및 네트워크 격리를 통한 ID를 비롯한 엔터프라이즈급 신뢰 기능을 적용합니다. 플랫폼 관리 또는 사용자 고유의 인프라를 사용하여 에이전트가 실행되는 방법과 위치를 선택합니다.
6. 관찰 가능성
마지막으로 에이전트를 테스트하고 모니터링합니다. AI Foundry는 모든 단계에서 로그, 추적 및 평가를 캡처할 수 있습니다. 전체 스레드 수준 가시성 및 Application Insights 통합을 통해 팀은 모든 결정을 검사하고 시간이 지남에 따라 에이전트를 지속적으로 개선할 수 있습니다.
결과는? 프로덕션에 사용할 준비가 된 에이전트: 워크플로 전체에서 안정적이고 확장 가능하며 안전하게 배포할 수 있습니다.
Azure AI Foundry 에이전트 서비스를 사용하는 이유
Azure AI Foundry 에이전트 서비스는 엔터프라이즈 환경에 지능형 에이전트를 배포하기 위한 프로덕션 준비 기반을 제공합니다. 주요 기능 간에 비교되는 방법은 다음과 같습니다.
| 역량 | Azure AI Foundry 에이전트 서비스 |
|---|---|
| 1. 대화에 대한 가시성 | 사용자↔에이전트 및 에이전트↔에이전트 메시지를 포함한 구조화된 스레드에 대한 전체 액세스 권한. UI, 디버깅 및 학습에 이상적 |
| 2. 다중 에이전트 조정 | 에이전트 간 메시징을 위한 내장 지원. |
| 3. 도구 오케스트레이션 | 구조적 로깅을 사용하여 도구 호출 의 서버 쪽 실행 및 재시도 수동 오케스트레이션이 필요하지 않습니다. |
| 4. 신뢰 및 안전 | 통합 콘텐츠 필터는 오용을 방지하고 XPIA(프롬프트 삽입 위험)를 완화하는 데 도움이 됩니다. 모든 출력은 정책에 따라 관리됩니다. |
| 5. 엔터프라이즈 통합 | 규정 준수 요구 사항을 충족하기 위해 사용자 고유 의 스토리지, Azure AI Search 인덱스 및 가상 네트워크를 가져옵니다. |
| 6. 관찰 가능성 및 디버깅 | 스레드, 도구 호출 및 메시지 추적은 완전히 추적할 수 있습니다. 원격 분석을 위한 Application Insights 통합 |
| 7. ID 및 정책 제어 | RBAC, 감사 로그 및 엔터프라이즈 조건부 액세스를 완전히 지원하는 Microsoft Entra를 기반으로 합니다. |
Foundry 에이전트 서비스 시작
Foundry 에이전트 서비스를 시작하려면 Azure 구독에서 Azure AI Foundry 프로젝트를 만들어야 합니다.
서비스를 처음 사용하는 경우 환경 설정 및 빠른 시작 가이드로 시작합니다.
- 필요한 리소스를 사용하여 프로젝트를 만들 수 있습니다.
- 프로젝트를 만든 후 GPT-4o와 같은 호환되는 모델을 배포할 수 있습니다.
- 배포된 모델이 있는 경우 SDK를 사용하여 서비스에 대한 API 호출을 시작할 수도 있습니다.
다음 단계
전원 에이전트를 사용하는 모델에 대해 자세히 알아봅니다.