Condividi tramite

Introduzione a Foundry Local

Importante

  • Foundry Local è disponibile in anteprima. Le versioni di anteprima pubblica consentono l'accesso anticipato alle funzionalità in fase di distribuzione attiva.
  • Funzionalità, approcci e processi possono modificare o avere funzionalità limitate, prima della disponibilità generale.

Questa guida illustra come configurare Foundry Local per eseguire modelli di intelligenza artificiale nel dispositivo.

Prerequisiti

Per eseguire Foundry Local, il sistema deve soddisfare i requisiti seguenti:

  • Sistema operativo: Windows 10 (x64), Windows 11 (x64/ARM), Windows Server 2025, macOS.
  • Hardware: almeno 8 GB di RAM, 3 GB di spazio libero su disco. Consigliato 16 GB di RAM, 15 GB di spazio libero su disco.
  • Rete: connessione Internet per il download iniziale del modello (facoltativo per l'uso offline)
  • Accelerazione (facoltativa): GPU NVIDIA (serie 2.000 o successive), GPU AMD (serie 6.000 o successive), Qualcomm Snapdragon X Elite (8 GB o più di memoria) o silicio Apple.

Assicurarsi inoltre di disporre di privilegi amministrativi per installare il software nel dispositivo.

Avvio rapido

Introduzione a Foundry Local rapidamente:

  1. Installa Foundry Local

    • Windows: aprire un terminale ed eseguire il comando seguente: 
      winget install Microsoft.FoundryLocal
    • macOS: aprire un terminale ed eseguire il comando seguente: 
      brew tap microsoft/foundrylocal
brew install foundrylocal

    In alternativa, è possibile scaricare il programma di installazione dal repository GitHub locale di Foundry.

  2. Eseguire il primo modello Aprire una finestra del terminale ed eseguire il comando seguente per eseguire un modello:

    foundry model run phi-3.5-mini

    Il modello viene scaricato - il che può richiedere alcuni minuti a seconda della tua velocità di Internet - e viene eseguito. Quando il modello è in esecuzione, è possibile interagire con esso usando l'interfaccia della riga di comando . Ad esempio, è possibile chiedere:

    Why is the sky blue?

    Nel terminale dovrebbe essere visualizzata una risposta dal modello: screenshot dell'output del comando di esecuzione locale foundry.

Suggerimento

È possibile sostituire phi-3.5-mini con qualsiasi nome di modello dal catalogo (vedere foundry model list per i modelli disponibili). Foundry Local scarica la variante del modello che meglio corrisponde alla configurazione hardware e software del sistema. Ad esempio, se si dispone di una GPU NVIDIA, scarica la versione CUDA del modello. Se si dispone di una NPU Qualcomm, scarica la variante NPU. Se non si dispone di GPU o NPU, scarica la versione della CPU.

Esplora i comandi

L'interfaccia della riga di comando di Foundry organizza i comandi in queste categorie principali:

  • Modello: comandi per la gestione e l'esecuzione di modelli.
  • Servizio: comandi per la gestione del servizio locale Foundry.
  • Cache: comandi per la gestione della cache del modello locale (modelli scaricati su disco locale).

Visualizzare tutti i comandi disponibili con:

foundry --help

Per visualizzare i comandi del modello disponibili, eseguire:

foundry model --help

Per visualizzare i comandi del servizio disponibili, eseguire:

foundry service --help

Per visualizzare i comandi della cache disponibili, eseguire:

foundry cache --help

Suggerimento

Per una guida completa a tutti i comandi CLI e il loro utilizzo, consultare il Foundry Local CLI Reference.

Aggiornamento di Foundry Local

Per aggiornare Foundry Local alla versione più recente, usare i comandi seguenti in base al sistema operativo:

  • Windows: aprire un terminale ed eseguire: 
    winget upgrade --id Microsoft.FoundryLocal
  • macOS: aprire un terminale ed eseguire: 
    brew upgrade foundrylocal

Disinstallazione di Foundry Local

Se si vuole disinstallare Foundry Local, usare i comandi seguenti in base al sistema operativo:

  • Windows: aprire un terminale ed eseguire: 
    winget uninstall Microsoft.FoundryLocal
  • macOS: aprire un terminale ed eseguire: 
    brew rm foundrylocal
brew untap microsoft/foundrylocal
brew cleanup --scrub

Passaggi successivi