¿Por qué la NPU cambia la forma en que los PCs ejecutan IA?

Completado

En secciones anteriores, han aprendido qué es una NPU y cómo los PCs con Copilot+ la usan para impulsar los escenarios empresariales del mundo real. En esta sección se examina más detenidamente why la NPU es un cambio significativo en la arquitectura de PC y lo que significa para el futuro de Windows como plataforma para la inteligencia artificial.

Ver la diferencia: CPU frente a GPU frente a NPU

Para comprender por qué importa la NPU, ayuda a ver cómo los tres procesadores controlan la misma tarea de IA.

En la siguiente demostración, se pidió a un modelo de IA que identificara y contar caras en una fuente de vídeo en directo. La misma tarea se ejecutó en una CPU, una GPU y una NPU.

Comparación ilustrativa de velocidades de carga de imágenes en una NPU, GPU y CPU.

Los tres procesadores completaron la tarea, pero los resultados eran diferentes:

Procesador Velocidad Uso de energía Calor generado
CPU El más lento El más alto Mayoría
GPU Moderado Moderado Moderado
NPU El más rápido El más bajo Menos

La NPU completó la tarea más rápido al generar menos calor y usar menos energía. Esta eficacia es lo que permite a Copilot+ PCs ejecutar características de INTELIGENCIA ARTIFICIAL continuamente, como subtítulos en directo o efectos de Windows Studio durante una llamada de vídeo, sin agotar la duración de la batería ni ralentizar otras aplicaciones.

Sugerencia

En esta demostración se muestra un concepto clave: la NPU no es más rápida en las tareas de inteligencia artificial; es más eficaz. En un contexto empresarial, la eficiencia significa que los empleados pueden usar características de inteligencia artificial en todo el día de trabajo sin llevar un cargador ni cerrar otras aplicaciones para liberar recursos.

Cómo cambia la inteligencia artificial en el dispositivo el modelo informático

Tradicionalmente, el procesamiento de inteligencia artificial se ha basado en servicios basados en la nube: enviar datos a un servidor remoto, procesarlos allí y devolver los resultados. Este enfoque funciona bien para muchos escenarios, pero presenta latencia, requiere una conexión a Internet y significa que la información confidencial deja el dispositivo.

La NPU de los PCs Copilot+ habilita un modelo diferente: procesamiento de IA en el dispositivo. Con una NPU capaz de más de 40 TOPS, muchas tareas de inteligencia artificial se pueden ejecutar localmente ,directamente en el hardware, sin enviar datos a la nube. En muchos flujos de trabajo reales, el procesamiento de inteligencia artificial se produce en un modelo híbrido. Algunas tareas se ejecutan localmente en el dispositivo mediante la NPU para el acceso rápido, privacidad o sin conexión, mientras que las solicitudes más complejas dependen de los servicios de inteligencia artificial basados en la nube. Copilot+ PCs están diseñados para admitir este enfoque equilibrando la inteligencia en el dispositivo con el procesamiento en la nube según sea necesario.

Modelo de procesamiento Cómo funciona Ideal para
Inteligencia artificial basada en la nube Los datos se envían a un servicio remoto para el procesamiento y los resultados se devuelven a través de Internet. Tareas complejas que requieren modelos grandes, consultas de datos entre organizaciones, escenarios en los que Internet está disponible
Inteligencia artificial en el dispositivo Los datos se procesan localmente en la NPU sin salir del dispositivo Tareas de baja latencia, escenarios sin conexión, cargas de trabajo sensibles a la privacidad, características en tiempo real, como subtítulos y efectos de vídeo
Inteligencia artificial híbrida Algunas tareas se ejecutan localmente en la NPU, mientras que otras se controlan mediante servicios en la nube, en función de la carga de trabajo. Organizaciones que necesitan características en tiempo real en el dispositivo e inteligencia basada en la nube, como Microsoft 365 Copilot

Copilot+ PCs admiten los tres modelos. Las funciones integradas en el dispositivo, como Live Captions, Windows Studio Effects y Click to Do, se ejecutan en la NPU. Las características basadas en la nube, como Microsoft 365 Copilot usan el procesamiento en la nube. Muchos flujos de trabajo combinan ambos, por ejemplo, mediante la búsqueda en el dispositivo para buscar un archivo local y, a continuación, usar Microsoft 365 Copilot para resumir su contenido.

Windows como plataforma para la inteligencia artificial

La NPU forma parte de un cambio más amplio en la forma en que Windows admite la inteligencia artificial en toda la organización. Windows 11 Pro actúa como la plataforma que conecta las funcionalidades de inteligencia artificial en el dispositivo con herramientas de administración de TI e inteligencia basada en la nube.

Este enfoque de plataforma incluye:

  • El procesamiento de inteligencia artificial en el dispositivo a través de la NPU, lo que permite tiempos de respuesta más rápidos y reduce la dependencia de la conectividad en la nube para las características admitidas.
  • los agentes de IA dentro de Windows que pueden razonar, planificar y realizar acciones en nombre de los usuarios, como configurar los ajustes del dispositivo mediante lenguaje natural o sugerir los siguientes pasos basados en el contenido en pantalla.
  • Windows AI Foundry para crear aplicaciones personalizadas con tecnología de inteligencia artificial que aprovechan la aceleración de hardware local junto con los servicios en la nube.
  • Gobernanza y control de TI a través de Microsoft Intune, lo que permite a las organizaciones administrar qué funcionalidades de inteligencia artificial están disponibles y cómo interactúan los agentes con los datos de la organización.

Importante

Los agentes de inteligencia artificial de Windows operan dentro del marco de administración y seguridad existentes de la organización. Los administradores de TI pueden controlar el comportamiento del agente y el acceso a los datos a través de las mismas herramientas que se usan para administrar otras directivas y configuraciones de Windows 11 Pro.

¿Qué significa esto para las organizaciones?

La combinación de inteligencia artificial en el dispositivo, la inteligencia en la nube y la gobernanza de la plataforma crea un modelo práctico para las organizaciones que adoptan inteligencia artificial a escala:

  • Los empleados obtienen características de inteligencia artificial más rápidas y con mayor capacidad de respuesta que funcionan incluso sin conexión a Internet, lo que mejora la productividad en el campo, durante el viaje o en entornos de baja conectividad.
  • Los equipos de TI mantienen el control sobre las funcionalidades de inteligencia artificial a través de herramientas de administración conocidas, con características de seguridad habilitadas de forma predeterminada y el comportamiento del agente regulado en el nivel de directiva.
  • Developers puede crear soluciones de inteligencia artificial personalizadas mediante Windows AI Foundry, integrando modelos de código abierto y propietario que se ejecutan localmente en la NPU, manteniendo la información confidencial en el dispositivo mientras se conecta a los servicios en la nube cuando sea necesario.

Al analizar Copilot+ PCs con los responsables de la toma de decisiones empresariales, la historia de la plataforma suele ser el ángulo más atractivo: estos no son equipos más rápidos, sino que son la base para la forma en que la organización crea, implementa y administra la inteligencia artificial en el futuro. La NPU es una parte fundamental de esa base, lo que permite una nueva clase de experiencias con tecnología de inteligencia artificial que son eficientes, con capacidad de respuesta y seguras.