Foundry Local을 사용하면 표준 에이전트 프레임워크 Python Agent 환경을 사용하는 동안 로컬 컴퓨터에서 지원되는 Microsoft Foundry 모델을 실행할 수 있습니다.
비고
Foundry Local은 현재 .NET 지원되지 않습니다.
필수 조건
로컬 모델에 대해 에이전트 프레임워크를 실행하기 전에 Foundry Local 및 해당 로컬 런타임 구성 요소를 설치합니다. 선택한 모델을 다운로드하고 로드해야 할 수 있으므로 첫 번째 실행은 시간이 걸릴 수 있습니다.
Installation
pip install agent-framework-foundry-local --pre
Configuration
다음을 사용하여 기본 로컬 모델을 설정합니다.
FOUNDRY_LOCAL_MODEL="phi-4-mini"
을 사용하여 모델을 명시적으로 FoundryLocalClient(model="phi-4-mini")전달할 수도 있습니다.
비고
FoundryLocalClient 는 네임스페이스에 agent_framework.foundry 있습니다. 로컬 채팅 클라이언트이므로 일반적으로 표준 Agent과 페어링합니다.
로컬 에이전트 만들기
import asyncio
from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient
async def main():
agent = Agent(
client=FoundryLocalClient(model="phi-4-mini"),
name="LocalAgent",
instructions="You are a helpful local assistant.",
)
result = await agent.run("What's the weather like in Seattle?")
print(result)
asyncio.run(main())
Tools
FoundryLocalClient 는 표준 Agent과 쌍을 이루는 로컬 채팅 클라이언트이므로 지원되는 도구는 선택한 로컬 모델이 실제로 호출할 수 있는 도구이며 호스트된 런타임에서 제공되지 않습니다. 호스트된 Foundry 도구 형식(get_code_interpreter_toolget_web_search_tool등)은 .에서 FoundryLocalClient사용할 수 없습니다.
| Tool | Status | 비고 |
|---|---|---|
| 함수 도구 | ⚠️ | 선택한 로컬 모델이 함수 호출을 지원하는 경우에만 지원됩니다. 모델 기능을 검사하는 데 사용합니다 FoundryLocalClient.manager . |
| 도구 승인 | ✅ | 프레임워크의 함수 호출 채팅 클라이언트에서 제공합니다. 함수 도구 호출과 함께 작동합니다. |
| 코드 해석기 | ❌ | 호스트된 런타임이 없습니다. |
| 파일 검색 | ❌ | 호스트된 런타임이 없습니다. |
| 웹 검색 | ❌ | 호스트된 런타임이 없습니다. |
| 호스트된 MCP 도구 | ❌ | 로컬 런타임에 노출되지 않습니다. |
| 로컬 MCP 도구 | ✅ | 프로세스에서 실행되며 모든 채팅 클라이언트에서 작동합니다. |
모델의 역량
모든 로컬 모델이 동일한 기능을 지원하는 것은 아닙니다. 함수 호출 및 구조적 출력은 선택한 모델에 따라 달라집니다. 도우미를 FoundryLocalClient.manager 사용하여 에이전트를 실행하기 전에 로컬 카탈로그 및 지원되는 기능을 검사할 수 있습니다.
추가 런타임 컨트롤의 FoundryLocalClientdevice경우 , bootstrap및 prepare_model.
비고
이 기능에 대한 지원은 곧 제공될 예정입니다. 최신 상태는 에이전트 프레임워크 Go 리포지토리 를 참조하세요.