Fonderia Locale

Foundry Local consente di eseguire modelli Microsoft Foundry supportati nel computer locale, ancora usando l'esperienza standard di Agent Framework Python Agent.

Annotazioni

Foundry Local non è attualmente supportato in .NET.

Prerequisiti

Installare Foundry Local e i relativi componenti di runtime locali prima di eseguire Agent Framework in un modello locale. La prima esecuzione può richiedere del tempo perché potrebbe essere necessario scaricare e caricare il modello selezionato.

Installazione

pip install agent-framework-foundry-local --pre

Configurazione

Impostare il modello locale predefinito con:

FOUNDRY_LOCAL_MODEL="phi-4-mini"

È anche possibile passare il modello in modo esplicito con FoundryLocalClient(model="phi-4-mini").

Annotazioni

FoundryLocalClient risiede nello spazio dei agent_framework.foundry nomi . Si tratta di un client di chat locale, quindi in genere lo si associa a un standard Agent.

Creare un agente locale

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

Tools

FoundryLocalClient è un client di chat locale associato a uno standard Agent, quindi gli strumenti supportati sono quelli che il modello locale scelto può effettivamente chiamare, non vengono forniti da un runtime ospitato. I tipi di strumento Foundry ospitati (get_code_interpreter_tool, get_web_search_toole così via) non sono disponibili in FoundryLocalClient.

Strumento	Condizione	Note
Strumenti per le funzioni	⚠️	Supportato solo se il modello locale selezionato supporta la chiamata di funzione. Usare FoundryLocalClient.manager per esaminare le funzionalità del modello.
Approvazione degli strumenti	✅	Fornito dal client di chat di richiamo della funzione del framework; funziona con qualsiasi chiamata allo strumento di funzione.
Interprete di codice	❌	Nessun runtime ospitato.
Ricerca file	❌	Nessun runtime ospitato.
Ricerca Web	❌	Nessun runtime ospitato.
Strumenti MCP ospitati	❌	Non esposto dal runtime locale.
Strumenti MCP locali	✅	Viene eseguito nel processo e funziona con qualsiasi client di chat.

Funzionalità del modello

Non tutti i modelli locali supportano le stesse funzionalità. Le chiamate di funzione e gli output strutturati dipendono dal modello selezionato. L'helper FoundryLocalClient.manager può essere usato per esaminare il catalogo locale e le funzionalità supportate prima di eseguire un agente.

Per controlli di runtime aggiuntivi, FoundryLocalClient supporta anche opzioni come device, bootstrape prepare_model.

Passaggi successivi

Anthropic