Místní prostředí Foundry

Foundry Local umožňuje spouštět na místním počítači podporované modely Microsoft Foundry a současně používat standardní prostředí agenta Framework Python Agent.

Poznámka:

V .NET se v současné době nepodporuje Foundry Local.

Předpoklady

Před spuštěním rozhraní Agent Framework pro místní model nainstalujte Foundry Local a jeho místní komponenty modulu runtime. První spuštění může chvíli trvat, protože vybraný model může být potřeba stáhnout a načíst.

Instalace

pip install agent-framework-foundry-local --pre

Konfigurace

Nastavte výchozí místní model pomocí:

FOUNDRY_LOCAL_MODEL="phi-4-mini"

Model můžete předat také explicitně pomocí FoundryLocalClient(model="phi-4-mini").

Poznámka:

FoundryLocalClient žije v agent_framework.foundry oboru názvů. Jedná se o místního chatovacího klienta, takže ho obvykle spárujete se standardem Agent.

Vytvoření místního agenta

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

Možnosti modelu

Ne každý místní model podporuje stejné funkce. Volání funkcí a strukturované výstupy závisí na vybraném modelu. Pomocnou FoundryLocalClient.manager rutinu můžete použít ke kontrole místního katalogu a podporovaných funkcí před spuštěním agenta.

Pro další ovládací prvky modulu runtime podporuje také možnosti, FoundryLocalClient jako deviceje , bootstrapa prepare_model.

Další kroky

Anthropic