Místní prostředí Foundry

Foundry Local umožňuje spouštět na místním počítači podporované modely Microsoft Foundry a současně používat standardní prostředí agenta Framework Python Agent.

Note

V .NET se v současné době nepodporuje Foundry Local.

Předpoklady

Před spuštěním rozhraní Agent Framework pro místní model nainstalujte Foundry Local a jeho místní komponenty modulu runtime. První spuštění může chvíli trvat, protože vybraný model může být potřeba stáhnout a načíst.

Instalace

pip install agent-framework-foundry-local --pre

Configuration

Nastavte výchozí místní model pomocí:

FOUNDRY_LOCAL_MODEL="phi-4-mini"

Model můžete předat také explicitně pomocí FoundryLocalClient(model="phi-4-mini").

Note

FoundryLocalClient žije v agent_framework.foundry oboru názvů. Jedná se o místního chatovacího klienta, takže ho obvykle spárujete se standardem Agent.

Vytvoření místního agenta

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

Tools

FoundryLocalClient je místní chatovací klient spárovaný se standardem Agent, takže podporované nástroje jsou ty, které zvolený místní model může skutečně volat – nejsou poskytovány hostovaným modulem runtime. Hostované typy nástrojů Foundry (get_code_interpreter_tool, get_web_search_toolatd.) nejsou k dispozici v FoundryLocalClientsystému .

nástroj	Stav	Poznámky
Funkční nástroje	⚠️	Podporováno pouze v případě, že vybraný místní model podporuje volání funkcí. Slouží FoundryLocalClient.manager ke kontrole možností modelu.
Schválení nástroje	✅	Poskytováno chatovacím klientem rámce pro vyvolávání funkcí; funguje s libovolným voláním nástroje-funkce.
Interpretér kódu	❌	Žádný hostovaný modul runtime.
Hledání souborů	❌	Žádný hostovaný modul runtime.
Vyhledávání na webu	❌	Žádný hostovaný modul runtime.
Hostované nástroje MCP	❌	Místní modul runtime není vystavený.
Místní nástroje MCP	✅	Spustí se ve vašem procesu a pracuje s libovolným chatovacím klientem.

Možnosti modelu

Ne každý místní model podporuje stejné funkce. Volání funkcí a strukturované výstupy závisí na vybraném modelu. Pomocnou FoundryLocalClient.manager rutinu můžete použít ke kontrole místního katalogu a podporovaných funkcí před spuštěním agenta.

Pro další ovládací prvky modulu runtime podporuje také možnosti, FoundryLocalClient jako deviceje , bootstrapa prepare_model.

Note

Podpora této funkce v Go již brzy. Nejnovější stav najdete v úložišti Agent Framework Go .

Další kroky

Anthropic