에이전트는 다양한 기능과 가격 포인트를 가진 다양한 모델 집합으로 구동됩니다. 모델 가용성은 지역 및 클라우드에 따라 다릅니다. 특정 도구와 기능에는 최신 모델이 필요합니다. 다음 모델은 REST API 및 SDK에서 사용할 수 있습니다.
Azure OpenAI 모델
Azure OpenAI는 고객에게 비즈니스 및 사용 패턴에 맞는 호스팅 구조를 선택할 수 있는 기회를 제공합니다. 이 서비스는 다음 두 가지 주요 배포 유형을 제공합니다.
- 표준 은 글로벌 배포 옵션과 함께 제공되며, 트래픽을 전역적으로 라우팅하여 더 높은 처리량을 제공합니다.
- 또한 프로비전은 글로벌 배포 옵션과 함께 제공되므로 고객은 Azure 글로벌 인프라에서 프로비전된 처리량 단위를 구매하고 배포할 수 있습니다.
모든 배포는 정확히 동일한 유추 작업을 수행할 수 있지만 청구, 규모 및 성능은 크게 다릅니다. Azure OpenAI 배포 유형에 대한 자세한 내용은 배포 유형 가이드를 참조하세요.
Azure AI Foundry 에이전트 서비스는 나열된 지역에서 다음 Azure OpenAI 모델을 지원합니다.
비고
- 다음 표는 표준 배포 가용성을 위한 것입니다. 프로비저닝된 PTU(처리량 단위) 가용성에 대한 자세한 내용은 Azure OpenAI 설명서의 프로비전된 처리량을 참조하세요.
GlobalStandard고객은 글로벌 표준 모델에도 액세스할 수 있습니다. - 허브 기반 프로젝트는 gpt-4o, gpt-4o-mini, gpt-4, gpt-35-turbo 모델로 제한됩니다.
| 지역 | o1 | o3-mini | gpt-4.1, 2025-04-14 | gpt-4.1-mini, 2025-04-14 | gpt-4.1-nano, 2025-04-14 | gpt-4o, 2024-05-13 | gpt-4o, 2024-08-06 | gpt-4o, 2024-11-20 | gpt-4o-mini, 2024-07-18 | gpt-4, 0613 | gpt-4, turbo-2024-04-09 | gpt-4-32k, 0613 | gpt-35-turbo, 1106 | gpt-35-turbo, 0125 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 오스트레일리아이스트 | X | X | X | X | X | |||||||||
| 캐나다 동부 | X | X | X | X | X | |||||||||
| 이스트유스 | X | X | X | X | X | X | X | |||||||
| eastus2 | X | X | X | X | X | X | X | |||||||
| francecentral | X | X | X | X | X | |||||||||
| japaneast | X | X | ||||||||||||
| koreacentral | ||||||||||||||
| 노르웨이 동부 | X | |||||||||||||
| polandcentral | ||||||||||||||
| 남인도 | X | X | ||||||||||||
| 스웨덴 중부 | X | X | X | X | X | X | X | X | X | |||||
| 스위스 북부 | X | X | X | X | ||||||||||
| uaenorth | ||||||||||||||
| uksouth | X | X | X | |||||||||||
| 웨스트어스 | X | X | X | X | X | X | ||||||||
| westus3 | X | X | X | X | X |
비 Microsoft 모델
또한 Azure AI Foundry 에이전트 서비스는 Azure AI Foundry 모델 카탈로그에서 다음 모델을 지원합니다.
- Meta-Llama-405B-인스트럭트
이러한 모델을 사용하려면 Azure AI Foundry 포털 을 사용하여 배포를 수행하고 에이전트에서 배포 이름을 참조할 수 있습니다. 다음은 그 예입니다.
agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent" )
Azure AI Foundry 모델
도구 호출이 있는 모델
에이전트 시나리오를 가장 잘 지원하려면 도구 호출을 지원하는 모델을 사용하는 것이 좋습니다. Azure AI Foundry 에이전트 서비스는 현재 Azure AI Foundry 모델 카탈로그의 모든 에이전트 호환 모델을 지원합니다.
이러한 모델을 사용하려면 Azure AI Foundry 포털 을 사용하여 모델 배포를 만들고 에이전트에서 배포 이름을 참조합니다. 다음은 그 예입니다.
agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent")
비고
이 옵션은 서비스에서 기본적으로 지원되는 OpenAI 모델이 아닌 오픈 소스 모델(예: Cepstral, Mistral, Llama)에만 사용해야 합니다. 이 옵션은 도구 호출을 지원하는 모델에만 사용해야 합니다.
도구 호출이 없는 모델
도구 호출 지원은 에이전트 시나리오의 핵심 기능이지만 이제 API 및 SDK에서 도구 호출을 지원하지 않는 모델을 사용할 수 있는 기능을 제공합니다. 이 옵션은 도구 호출이 필요하지 않은 특정 사용 사례가 있는 경우에 유용할 수 있습니다.
다음 단계를 통해 서버리스 API를 통해 사용할 수 있는 채팅 완성 모델을 활용할 수 있습니다.
서버리스 API를 통해 원하는 모델을 배포합니다. 모델이 모델 + 엔드포인트 페이지에 표시됩니다.
모델 이름을 클릭하여 모델의 대상 URI 및 키를 찾을 수 있는 모델 세부 정보를 확인합니다.
대상 URI 및 키를 사용하여 연결된 리소스 페이지에서 새 서버리스 연결을 만듭니다.
이제 코드에서 모델을 참조할 수 있습니다(Target URI + @ + Model Name예:
Model=https://Phi-4-mejco.eastus.models.ai.azure.com/@Phi-4-mejco