Compartir a través de

Introducción a Fundición local

Importante

  • Foundry Local está disponible en versión preliminar. Las versiones preliminares públicas proporcionan acceso anticipado a las características que se encuentran en la implementación activa.
  • Las características, los enfoques y los procesos pueden cambiar o tener funcionalidades limitadas, antes de la disponibilidad general (GA).

En esta guía se muestra cómo configurar Foundry Local para ejecutar modelos de IA en el dispositivo.

Prerrequisitos

El sistema debe cumplir los siguientes requisitos para ejecutar Foundry Local:

  • Sistema operativo: Windows 10 (x64), Windows 11 (x64/ARM), Windows Server 2025, macOS.
  • Hardware: mínimo 8 GB de RAM y 3 GB de espacio libre en disco. Se recomienda 16 GB de RAM y 15 GB de espacio libre en disco.
  • Red: conexión a Internet para descargar modelos y proveedores de ejecución. Después de descargar un modelo, puede ejecutar modelos almacenados en caché sin conexión.
  • Aceleración (opcional): GPU NVIDIA (serie 2000 o posterior), GPU AMD (serie 6000 o posterior), AMD NPU, Intel iGPU, Intel NPU (32 GB o más de memoria), Qualcomm Gigabit X Elite (8 GB o más de memoria), Qualcomm NPU o Apple silicon.

Para instalar Foundry Local mediante los comandos de este inicio rápido:

  • En Windows, asegúrese de que winget está disponible.
  • En macOS, instale Homebrew si usa la brew opción .

Nota:

Las nuevas NPU solo se admiten en sistemas que ejecutan Windows 24H2 o posterior. Si usa una NPU de Intel en Windows, instale el controlador NPU de Intel para habilitar la aceleración de NPU en Foundry Local.

Asegúrese de que tiene derechos de administrador para instalar software.

Sugerencia

Si ve un error de conexión de servicio después de la instalación (por ejemplo, "Error de solicitud al servicio local", ejecute foundry service restart.

Inicio rápido

Empiece a trabajar rápidamente con Foundry Local:

Opción 1: Configuración rápida de la CLI

  1. Instale Foundry Local.

    • Windows: abra un terminal y ejecute el siguiente comando. 
      winget install Microsoft.FoundryLocal
    • macOS: abra un terminal y ejecute el siguiente comando. 
      brew tap microsoft/foundrylocal
brew install foundrylocal
      Como alternativa, puede descargar el instalador desde el repositorio de GitHub local de Foundry.

    Referencia: Documentación local de Foundry

  2. Compruebe la instalación. ¡Corre!

    foundry --version

    Debería ver el número de versión instalado.

    Referencia: Referencia de la CLI local de Foundry

  3. Ejecute el primer modelo. Abra un terminal y ejecute este comando:

    foundry model run qwen2.5-0.5b

    Foundry Local descarga el modelo, que puede tardar unos minutos en función de la velocidad de Internet y, a continuación, ejecutarlo. Una vez iniciado el modelo, interactúe con él mediante la interfaz de línea de comandos (CLI). Por ejemplo, puede preguntar:

    Why is the sky blue?

    Verá una respuesta del modelo en el terminal: Captura de pantalla de la salida del comando Foundry Local run.

Referencia: Referencia de la CLI local de Foundry

Opción 2: Descargar proyectos de inicio

Para obtener aprendizaje práctico, descargue uno de los proyectos de inicio que muestran escenarios reales:

Cada proyecto incluye:

  • Instrucciones de configuración paso a paso
  • Código fuente completo
  • Ejemplos de configuración
  • procedimientos recomendados

Sugerencia

Estos proyectos de inicio se alinean con escenarios de las guías paso a paso y proporcionan un valor práctico inmediato.

Sugerencia

Reemplace por qwen2.5-0.5b cualquier nombre de modelo del catálogo (ejecute foundry model list para ver los modelos disponibles). Foundry Local descarga la variante que mejor se adapte a la configuración de hardware y software del sistema. Por ejemplo, si tiene una GPU nvidia, Foundry Local descarga la versión cuDA. Si tiene una NPU de Qualcomm, Foundry Local descarga la variante de NPU. Si no tiene NINGUNA GPU o NPU, Foundry Local descarga la versión de CPU.

Al ejecutar foundry model list por primera vez, verá una barra de progreso de descarga mientras Foundry Local descarga los componentes de ejecución para su hardware.

Referencia: Referencia de la CLI local de Foundry

Exploración de comandos

La CLI de Foundry organiza los comandos en estas categorías principales:

  • Modelo: comandos para administrar y ejecutar modelos.
  • Servicio: comandos para administrar el servicio Foundry Local.
  • Caché: comandos para administrar la caché del modelo local (modelos descargados en el disco local).

Para ver todos los comandos, use:

foundry --help

foundry model --help

foundry --help

foundry service --help

Ver comandos de caché :

foundry cache --help

Referencia: Referencia de la CLI local de Foundry

Opcional: Ejecute el modelo de GPT OSS 20B más reciente.

Ejecute el gpt-oss-20b modelo:

foundry model run gpt-oss-20b

Importante

Si el modelo no está disponible para el dispositivo, ejecute un modelo más pequeño (por ejemplo, qwen2.5-0.5b).

Para la variante CUDA, normalmente se necesita una GPU NVIDIA con 16 GB de VRAM o más.

Foundry Local versión 0.6.87 o posterior agrega compatibilidad con este modelo. Comprueba tu versión con:

foundry --version

Referencia: Referencia de la CLI local de Foundry

Sugerencia

Para más información sobre todos los comandos de la CLI, consulte Referencia de la CLI local de Foundry.

Actualizar Foundry Local

Ejecute el comando del sistema operativo para actualizar Foundry Local.

  • Windows: en un terminal, ejecute: 
    winget upgrade --id Microsoft.FoundryLocal
  • macOS: en un terminal, ejecute: 
    brew upgrade foundrylocal

Desinstalación local de Foundry

Para desinstalar Foundry Local, ejecute el comando para el sistema operativo:

  • Windows: abra un terminal y ejecute: 
    winget uninstall Microsoft.FoundryLocal
  • macOS: abra un terminal y ejecute: 
    brew rm foundrylocal
brew untap microsoft/foundrylocal
brew cleanup --scrub

Solución de problemas

Problemas de conexión de servicio

Si ve este error al ejecutar foundry model list o un comando similar:

foundry model list

Exception: Request to local service failed.
Uri: http://127.0.0.1:0/foundry/list

The requested address is not valid in its context. (127.0.0.1:0)

Please check service status with 'foundry service status'.

Ejecute este comando para reiniciar el servicio:

foundry service restart

Este comando corrige los casos en los que el servicio se ejecuta, pero no es accesible debido a un problema de enlace de puerto.

Referencia: Procedimientos recomendados y solución de problemas

Contenido relacionado

  • Last updated on