Preguntas más frecuentes sobre el uso de inteligencia artificial en aplicaciones de Windows

Elección de la opción correcta

¿Qué opción de Windows con IA debo usar?

Depende del hardware de destino y del caso de uso. API de IA de Windows proporcionan la forma más sencilla para los PC Copilot+: llamadas únicas a la API para OCR, descripción de imágenes, resumen de texto y chat de Phi Silica, sin necesidad de gestionar modelos. Foundry Local es la opción correcta cuando necesita un catálogo de modelos más amplio, compatibilidad con hardware que no sea Copilot+ PC o acceso a api compatible con OpenAI. Windows ML le proporciona el mayor control: incorpore cualquier modelo ONNX y administre directamente los proveedores de ejecución. Consulte Elección de la solución de inteligencia artificial de Windows para obtener una comparación en paralelo.

¿Necesito una Copilot+ PC o una NPU para usar las características de inteligencia artificial de Windows?

Depende de la característica que use. Las API de IA de Windows requieren un PC Copilot+ con una NPU. Foundry Local se ejecuta en cualquier dispositivo Windows con una GPU compatible con DirectX 12, incluidos los dispositivos sin una NPU. Windows ML admite una amplia gama de CPU, GPU y NPUs. Consulte la lista de hardware compatible para obtener más información.

¿Puedo usar Foundry Local con mi código de SDK de OpenAI existente?

Yes. Foundry Local expone una API REST compatible con OpenAI. Inicie el servicio local con foundry service starty, a continuación, apunte al cliente de OpenAI en el punto de conexión local: el nombre del modelo, los mensajes y las llamadas de streaming funcionan sin cambios. Consulte Introducción a Foundry Local para obtener el formato del punto de conexión.

¿Foundry Local es adecuado para aplicaciones de producción o sigue siendo experimental?

Los SDK nativos (C#, Python, JavaScript, Rust) se encuentran actualmente en versión alfa/preliminar. La infraestructura subyacente de ONNX Runtime y de servicio de modelos es de nivel de producción. Para publicar aplicaciones hoy en día, considere que la superficie expuesta de la API del SDK puede cambiar y fije las versiones de sus paquetes. Consulte What is Foundry Local (Qué es Foundry Local ) para obtener el estado de estabilidad más reciente.

¿Funciona Foundry Local sin conexión?

Sí, una vez que se descarga un modelo y se almacena en caché en el dispositivo, Foundry Local realiza la inferencia completamente en el dispositivo sin ninguna dependencia en la nube. La descarga del modelo inicial requiere acceso a Internet. Al iniciarse, Foundry Local puede intentar actualizar el catálogo de modelos, pero esto no es necesario; si el dispositivo está sin conexión, vuelve al catálogo almacenado en caché y la inferencia continúa normalmente. El método (C#) / IsCachedAsync (Python) del is_cached SDK le permite comprobar la disponibilidad del modelo antes de intentar la inferencia para que pueda controlar el caso sin conexión correctamente.

¿Cómo controla Foundry Local las diferencias de hardware entre los dispositivos?

Foundry Local detecta hardware disponible en el inicio y selecciona el mejor proveedor de ejecución: Qualcomm NPU (QNN), cualquier GPU compatible con DirectX 12 a través de WinML/DirectML (AMD, Intel, NVIDIA, Qualcomm), GPU nvidia a través de CUDA o reserva de CPU. Solicita un modelo por alias (por ejemplo, phi-3.5-mini) y Foundry Local ofrece automáticamente la variante optimizada para el hardware del dispositivo. El código de la aplicación es el mismo en todas las configuraciones de hardware.

Privacidad y seguridad de los datos

¿Foundry Local envía datos de usuario a la nube?

N.º Foundry Local se ejecuta completamente en el dispositivo. Los datos de entrada y salida de la inferencia nunca salen del equipo. El único tráfico de red es la descarga del modelo inicial y las actualizaciones de metadatos de catálogo opcionales. Al iniciarse, Foundry Local puede intentar actualizar el catálogo de modelos, pero esto no es necesario; si el dispositivo está sin conexión, vuelve al catálogo almacenado en caché y la inferencia continúa normalmente.

¿Cómo debo controlar la privacidad de los datos al usar las API de ia de Windows?

Las API de IA de Windows procesan los datos localmente en el dispositivo mediante la NPU. Los datos de entrada no se envían a Microsoft servidores. Para obtener instrucciones sobre las prácticas de inteligencia artificial responsable, el consentimiento y la transparencia, consulte Desarrollo de aplicaciones y características de IA generativas responsables en Windows.

Plataforma y entorno de ejecución

¿Qué es Windows ML?

Windows ML permite a la aplicación usar un entorno de ejecución ONNX compartido para todo el sistema y descargar dinámicamente proveedores de ejecución específicos del proveedor (EP) para que la inferencia del modelo esté optimizada para la CPU, GPU o NPU del dispositivo, sin que la aplicación lleve archivos binarios ep o de tiempo de ejecución grandes. Úselo cuando necesite usar su propio modelo ONNX o quiera tener un control total sobre la selección de EP. Consulte Información general sobre Windows ML.

¿Qué es DirectML?

DirectML es una API de aceleración de GPU de bajo nivel para el aprendizaje automático, basada en Direct3D 12. Admite todas las GPU compatibles con DirectX 12 de AMD, Intel, NVIDIA y Qualcomm. ONNX Runtime usa DirectML como proveedor de ejecución en Windows cuando CUDA no está disponible.

¿Cuál es la diferencia entre foundry-local-sdk y foundry-local-sdk-winml en PyPI?

foundry-local-sdk-winml es el paquete específico para Windows — incluye aceleración por hardware mediante Windows ML y se recomienda para Windows. foundry-local-sdkes el paquete multiplataforma para macOS, Linux o Windows sin aceleración de hardware. Instalar solo uno: los dos paquetes anclan versiones diferentes de onnxruntime-core y entrarán en conflicto si ambos están instalados. Tenga en cuenta que foundry-local en PyPI (sin -sdk) es un paquete de terceros no relacionado: instale foundry-local-sdk o foundry-local-sdk-winml.

¿Cómo puedo comprobar qué GPU o NPU tiene mi dispositivo?

Abra el Administrador de tareas (Ctrl+Shift+Esc), seleccione la pestaña Rendimiento y busque entradas de GPU y NPU en el panel izquierdo. También puede ejecutar foundry model list desde la línea de comandos: Foundry Local mostrará qué proveedores de ejecución están activos para el hardware cuando inicie el servicio.

Depende del hardware de destino y del caso de uso. API de IA de Windows proporcionan la forma más sencilla para los PC Copilot+: llamadas únicas a la API para OCR, descripción de imágenes, resumen de texto y chat de Phi Silica, sin necesidad de gestionar modelos. Foundry Local es la opción correcta cuando necesita un catálogo de modelos más amplio, compatibilidad con hardware que no sea Copilot+ PC o acceso a api compatible con OpenAI. Windows ML le proporciona el mayor control: incorpore cualquier modelo ONNX y administre directamente los proveedores de ejecución. Consulte Elección de la solución de inteligencia artificial de Windows para obtener una comparación en paralelo.

Depende de la característica que use. Las API de IA de Windows requieren un PC Copilot+ con una NPU. Foundry Local se ejecuta en cualquier dispositivo Windows con una GPU compatible con DirectX 12, incluidos los dispositivos sin una NPU. Windows ML admite una amplia gama de CPU, GPU y NPUs. Consulte la lista de hardware compatible para obtener más información.

Yes. Foundry Local expone una API REST compatible con OpenAI. Inicie el servicio local con foundry service starty, a continuación, apunte al cliente de OpenAI en el punto de conexión local: el nombre del modelo, los mensajes y las llamadas de streaming funcionan sin cambios. Consulte Introducción a Foundry Local para obtener el formato del punto de conexión.

Los SDK nativos (C#, Python, JavaScript, Rust) se encuentran actualmente en versión alfa/preliminar. La infraestructura subyacente de ONNX Runtime y de servicio de modelos es de nivel de producción. Para publicar aplicaciones hoy en día, considere que la superficie expuesta de la API del SDK puede cambiar y fije las versiones de sus paquetes. Consulte What is Foundry Local (Qué es Foundry Local ) para obtener el estado de estabilidad más reciente.

Sí, una vez que se descarga un modelo y se almacena en caché en el dispositivo, Foundry Local realiza la inferencia completamente en el dispositivo sin ninguna dependencia en la nube. La descarga del modelo inicial requiere acceso a Internet. Al iniciarse, Foundry Local puede intentar actualizar el catálogo de modelos, pero esto no es necesario; si el dispositivo está sin conexión, vuelve al catálogo almacenado en caché y la inferencia continúa normalmente. El método (C#) / IsCachedAsync (Python) del is_cached SDK le permite comprobar la disponibilidad del modelo antes de intentar la inferencia para que pueda controlar el caso sin conexión correctamente.

Foundry Local detecta hardware disponible en el inicio y selecciona el mejor proveedor de ejecución: Qualcomm NPU (QNN), cualquier GPU compatible con DirectX 12 a través de WinML/DirectML (AMD, Intel, NVIDIA, Qualcomm), GPU nvidia a través de CUDA o reserva de CPU. Solicita un modelo por alias (por ejemplo, phi-3.5-mini) y Foundry Local ofrece automáticamente la variante optimizada para el hardware del dispositivo. El código de la aplicación es el mismo en todas las configuraciones de hardware.

N.º Foundry Local se ejecuta completamente en el dispositivo. Los datos de entrada y salida de la inferencia nunca salen del equipo. El único tráfico de red es la descarga del modelo inicial y las actualizaciones de metadatos de catálogo opcionales. Al iniciarse, Foundry Local puede intentar actualizar el catálogo de modelos, pero esto no es necesario; si el dispositivo está sin conexión, vuelve al catálogo almacenado en caché y la inferencia continúa normalmente.

Las API de IA de Windows procesan los datos localmente en el dispositivo mediante la NPU. Los datos de entrada no se envían a Microsoft servidores. Para obtener instrucciones sobre las prácticas de inteligencia artificial responsable, el consentimiento y la transparencia, consulte Desarrollo de aplicaciones y características de IA generativas responsables en Windows.

Windows ML permite a la aplicación usar un entorno de ejecución ONNX compartido para todo el sistema y descargar dinámicamente proveedores de ejecución específicos del proveedor (EP) para que la inferencia del modelo esté optimizada para la CPU, GPU o NPU del dispositivo, sin que la aplicación lleve archivos binarios ep o de tiempo de ejecución grandes. Úselo cuando necesite usar su propio modelo ONNX o quiera tener un control total sobre la selección de EP. Consulte Información general sobre Windows ML.

DirectML es una API de aceleración de GPU de bajo nivel para el aprendizaje automático, basada en Direct3D 12. Admite todas las GPU compatibles con DirectX 12 de AMD, Intel, NVIDIA y Qualcomm. ONNX Runtime usa DirectML como proveedor de ejecución en Windows cuando CUDA no está disponible.

foundry-local-sdk-winml es el paquete específico para Windows — incluye aceleración por hardware mediante Windows ML y se recomienda para Windows. foundry-local-sdkes el paquete multiplataforma para macOS, Linux o Windows sin aceleración de hardware. Instalar solo uno: los dos paquetes anclan versiones diferentes de onnxruntime-core y entrarán en conflicto si ambos están instalados. Tenga en cuenta que foundry-local en PyPI (sin -sdk) es un paquete de terceros no relacionado: instale foundry-local-sdk o foundry-local-sdk-winml.

Abra el Administrador de tareas (Ctrl+Shift+Esc), seleccione la pestaña Rendimiento y busque entradas de GPU y NPU en el panel izquierdo. También puede ejecutar foundry model list desde la línea de comandos: Foundry Local mostrará qué proveedores de ejecución están activos para el hardware cuando inicie el servicio.