Waarom de NPU verandert hoe pc's AI uitvoeren
In eerdere secties hebt u geleerd wat een NPU is en hoe Copilot+ PCs deze gebruiken om echte bedrijfsscenario's mogelijk te maken. Deze sectie bekijkt why de NPU een aanzienlijke verschuiving in de pc-architectuur is en wat het betekent voor de toekomst van Windows als platform voor AI.
Het verschil zien: CPU versus GPU versus NPU
Om te begrijpen waarom de NPU belangrijk is, helpt het om te zien hoe alle drie de processors dezelfde AI-taak verwerken.
In de volgende demonstratie werd een AI-model gevraagd om gezichten in een live videofeed te identificeren en te tellen. Dezelfde taak is uitgevoerd op een CPU, een GPU en een NPU.
Alle drie de processors hebben de taak voltooid, maar de resultaten zijn anders:
| Processor | Snelheid | Energiegebruik | Warmte gegenereerd |
|---|---|---|---|
| CPU | Langzaamst | Hoogste | Meeste |
| GPU | Gematigd | Gematigd | Gematigd |
| NPU | Snelst | Laagste | Minst |
De NPU heeft de taak sneller voltooid tijdens het genereren van minder warmte en het gebruik van minder energie. Deze efficiëntie stelt Copilot+ PCs in staat om continu AI-functies uit te voeren, zoals livebijschriften of Windows Studio-effecten tijdens een videogesprek, zonder de levensduur van de batterij te vertragen of andere toepassingen te vertragen.
Tip
Deze demonstratie illustreert een belangrijk concept: de NPU is niet sneller bij AI-taken. Dit is efficiënter. In een bedrijfscontext betekent efficiëntie dat werknemers AI-functies gedurende de hele werkdag kunnen gebruiken zonder een oplader te dragen of andere apps te sluiten om resources vrij te maken.
Hoe AI op het apparaat het rekenmodel wijzigt
Van oudsher is AI-verwerking gebaseerd op cloudservices: het verzenden van gegevens naar een externe server, het verwerken ervan daar en het retourneren van de resultaten. Deze aanpak werkt goed voor veel scenario's, maar introduceert latentie, vereist een internetverbinding en betekent dat gevoelige gegevens het apparaat verlaten.
De NPU in Copilot+ PCs maakt een ander model mogelijk: on-device AI processing. Met een NPU die geschikt is voor 40+ TOPS, kunnen veel AI-taken lokaal, rechtstreeks op de hardware, worden uitgevoerd zonder gegevens naar de cloud te verzenden. In veel praktijkwerkstromen vindt AI-verwerking plaats in een hybride model. Sommige taken worden lokaal uitgevoerd op het apparaat met behulp van de NPU voor snelheid, privacy of offlinetoegang, terwijl complexere aanvragen afhankelijk zijn van AI-services in de cloud. Copilot+ PCs zijn ontworpen om deze aanpak te ondersteunen door de intelligentie op het apparaat te verdelen met cloudverwerking, indien nodig.
| Verwerkingsmodel | Hoe werkt het? | Meest geschikt voor |
|---|---|---|
| AI in de cloud | Gegevens worden verzonden naar een externe service voor verwerking en resultaten worden via internet geretourneerd | Complexe taken waarvoor grote modellen, query's voor gegevens in meerdere organisaties zijn vereist, scenario's waarin internet beschikbaar is |
| AI op apparaat | Gegevens worden lokaal verwerkt op de NPU zonder het apparaat te verlaten | Taken met lage latentie, offlinescenario's, privacygevoelige workloads, realtime functies zoals bijschriften en video-effecten |
| Hybride AI | Sommige taken worden lokaal uitgevoerd op de NPU, terwijl andere worden verwerkt door cloudservices, afhankelijk van de workload | Organisaties die zowel realtime functies op het apparaat als cloudintelligentie nodig hebben, zoals Microsoft 365 Copilot |
Copilot+ PCs alle drie de modellen ondersteunen. Functies op het apparaat, zoals Live Captions, Windows Studio-effecten en Click to Do, worden uitgevoerd op de NPU. Cloudfuncties zoals Microsoft 365 Copilot gebruikmaken van cloudverwerking. Veel werkstromen combineren beide, bijvoorbeeld door op het apparaat te zoeken naar een lokaal bestand en vervolgens Microsoft 365 Copilot te gebruiken om de inhoud ervan samen te vatten.
Windows als platform voor AI
De NPU maakt deel uit van een bredere verschuiving in de wijze waarop Windows AI in de hele organisatie ondersteunt. Windows 11 Pro fungeert als het platform dat AI-mogelijkheden op het apparaat verbindt met cloudgebaseerde intelligentie en IT-beheerhulpprogramma's.
Deze platformbenadering omvat:
- AI-verwerking op apparaat via de NPU, waardoor snellere reactietijden worden ingeschakeld en de afhankelijkheid van cloudconnectiviteit voor ondersteunde functies wordt verminderd.
- AI-agents binnen Windows die namens gebruikers kunnen redeneren, plannen en acties kunnen ondernemen, zoals het configureren van apparaatinstellingen via natuurlijke taal of het voorstellen van volgende stappen op basis van inhoud op het scherm.
- Windows AI Foundry voor het bouwen van aangepaste AI-toepassingen die gebruikmaken van lokale hardwareversnelling naast cloudservices.
- IT-governance en -beheer via Microsoft Intune, zodat organisaties kunnen beheren welke AI-mogelijkheden beschikbaar zijn en hoe agents communiceren met organisatiegegevens.
Belangrijk
AI-agents in Windows werken binnen het bestaande beheer- en beveiligingsframework van de organisatie. IT-beheerders kunnen agentgedrag en gegevenstoegang beheren via dezelfde hulpprogramma's die worden gebruikt voor het beheren van andere Windows 11 Pro-beleidsregels en configuraties.
Wat dit betekent voor organisaties
De combinatie van AI, cloudintelligentie en platformgovernance op apparaat maakt een praktisch model voor organisaties die AI op schaal gebruiken:
- Werknemers krijgen snellere, responsievere AI-functies die zelfs zonder internetverbinding werken, waardoor de productiviteit in het veld, tijdens reizen of in omgevingen met lage connectiviteit wordt verbeterd.
- IT-teams hebben controle over AI-mogelijkheden via vertrouwde beheerhulpprogramma's, waarbij beveiligingsfuncties standaard zijn ingeschakeld en dat het gedrag van agents op beleidsniveau wordt geregeld.
- Ontwikkelingen kunnen aangepaste AI-oplossingen bouwen met behulp van Windows AI Foundry, waarbij opensource- en bedrijfseigen modellen worden geïntegreerd die lokaal worden uitgevoerd op de NPU, waarbij gevoelige gegevens op het apparaat worden behouden terwijl ze nog steeds verbinding maken met cloudservices wanneer dat nodig is.
Bij het bespreken van Copilot+ PCs met zakelijke besluitvormers is het platformverhaal vaak de meest aantrekkelijke hoek: dit zijn niet snellere pc's, ze vormen de basis voor de manier waarop de organisatie AI in de toekomst bouwt, implementeert en beheert. De NPU is een essentieel onderdeel van die basis, waardoor een nieuwe klasse ai-ervaringen mogelijk wordt gemaakt die efficiënt, responsief en veilig zijn.