Местный литейный завод

Foundry Local позволяет запускать поддерживаемые модели Microsoft Foundry на локальном компьютере, пока не используется стандартная платформа агента Python Agent.

Замечание

В настоящее время в .NET не поддерживается local foundry Local.

Необходимые условия

Установите Foundry Local и его компоненты локальной среды выполнения перед запуском Agent Framework в локальной модели. Первый запуск может занять некоторое время, так как выбранная модель может потребоваться скачать и загрузить.

Installation

pip install agent-framework-foundry-local --pre

Configuration

Задайте локальную модель по умолчанию следующими способами:

FOUNDRY_LOCAL_MODEL="phi-4-mini"

Кроме того, модель можно передать явным образом.FoundryLocalClient(model="phi-4-mini")

Замечание

FoundryLocalClient живет в agent_framework.foundry пространстве имен. Это локальный клиент чата, поэтому обычно вы связываете его со стандартом Agent.

Создание локального агента

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

Tools

FoundryLocalClient — это локальный клиент чата, связанный со стандартом Agent, поэтому поддерживаемые инструменты — это те, которые выбранная локальная модель может фактически вызывать — они не предоставляются размещенной средой выполнения. Размещенные типы инструментов Foundry (get_code_interpreter_tool, get_web_search_toolи т. д.) недоступны FoundryLocalClient.

инструмент	Статус	Примечания
Средства функций	⚠️	Поддерживается только в том случае, если выбранная локальная модель поддерживает вызов функции. Используется FoundryLocalClient.manager для проверки возможностей модели.
Утверждение инструмента	✅	Предоставляется чат-клиентом фреймворка с вызовом функций; работает с любым вызовом функции-инструмента.
Интерпретатор кода	❌	Нет размещенной среды выполнения.
Поиск файлов	❌	Нет размещенной среды выполнения.
Поиск в Интернете	❌	Нет размещенной среды выполнения.
Размещенные средства MCP	❌	Не предоставляется локальной средой выполнения.
Локальные средства MCP	✅	Выполняется в процессе и работает с любым клиентом чата.

Возможности модели

Не каждая локальная модель поддерживает одни и те же функции. Вызовы функций и структурированные выходные данные зависят от выбранной модели. Вспомогательный FoundryLocalClient.manager компонент можно использовать для проверки локального каталога и поддерживаемых возможностей перед запуском агента.

Для дополнительных элементов управления средой выполнения также поддерживаются такие параметры, FoundryLocalClient как device, bootstrapи prepare_model.

Замечание

Поддержка Go для этой функции скоро появится. Сведения о последнем состоянии см. в репозитории Agent Framework Go .

Дальнейшие действия

Anthropic