Proč NPU mění způsob spouštění AI počítačů
V předchozích částech jste se dozvěděli, co je NPU a jak ho Copilot+ PCs používat k výkonu reálných obchodních scénářů. Tato část se podrobněji podíváme na why NPU představuje významný posun v architektuře počítačů – a to, co znamená pro budoucnost Windows jako platformu pro AI.
Zobrazení rozdílu: CPU vs. GPU vs. NPU
Abyste pochopili, proč npu záleží, pomůže zjistit, jak všechny tři procesory zpracovávají stejnou úlohu AI.
V následující ukázce byl model AI požádán o identifikaci a počítání obličejů v živém videozáznamu. Stejná úloha se spustila na procesoru, GPU a NPU.
Všechny tři procesory dokončily úlohu, ale výsledky byly jiné:
| Procesor | Rychlost | Spotřeba energie | Vygenerované teplo |
|---|---|---|---|
| Procesor | Nejpomalejší | Nejvyšší | Většina |
| GPU | Mírný | Mírný | Mírný |
| NPU | Nejrychlejší | Nejnižší | Nejméně |
NPU dokončila úlohu rychleji a současně generuje méně tepla a využívá méně energie. Tato efektivita umožňuje Copilot+ PCs spouštět funkce umělé inteligence nepřetržitě – například živé titulky nebo Windows Studio Effects během videohovoru – bez vyprázdnění baterie nebo zpomalení jiných aplikací.
Tip
Tato ukázka ukazuje klíčový koncept: NPU není rychlejší u úloh umělé inteligence – je efektivnější. V obchodním kontextu efektivita znamená, že zaměstnanci můžou využívat funkce umělé inteligence v průběhu pracovního dne, aniž by museli přenášet nabíječku nebo zavírat jiné aplikace, aby uvolnili prostředky.
Změna výpočetního modelu pomocí umělé inteligence na zařízení
Tradičně se zpracování umělé inteligence spoléhalo na cloudové služby – odesílání dat na vzdálený server, jejich zpracování a vracení výsledků. Tento přístup funguje dobře pro mnoho scénářů, ale přináší latenci, vyžaduje připojení k internetu a znamená, že citlivá data zařízení opustí.
NPU v Copilot+ PCs umožňuje jiný model: zpracování AI na zařízení. Díky NPU, který dokáže 40 a více TOPS, může mnoho úloh umělé inteligence běžet místně – přímo na hardwaru – bez odesílání dat do cloudu. V mnoha reálných pracovních postupech probíhá zpracování umělé inteligence v hybridním modelu. Některé úlohy běží místně na zařízení s využitím NPU pro rychlost, ochranu osobních údajů nebo offline přístup, zatímco složitější požadavky spoléhají na cloudové služby AI. Copilot+ PCs jsou navržené tak, aby tento přístup podporovaly vyvážením inteligentních funkcí na zařízení s využitím cloudového zpracování podle potřeby.
| Model zpracování | Jak to funguje | Nejvhodnější pro |
|---|---|---|
| Cloudová AI | Data se odesílají do vzdálené služby pro zpracování a výsledky se vrátí přes internet. | Složité úlohy vyžadující velké modely, dotazy napříč organizačními daty, scénáře, ve kterých je k dispozici internet |
| AI na zařízení | Data se zpracovávají místně v NPU bez opuštění zařízení. | Úlohy s nízkou latencí, offline scénáře, úlohy citlivé na ochranu osobních údajů, funkce v reálném čase, jako jsou titulky a efekty videa |
| Hybridní AI | Některé úlohy běží místně na NPU, zatímco jiné jsou zpracovávány cloudovými službami v závislosti na úloze. | Organizace, které potřebují funkce na zařízení v reálném čase i cloudové inteligentní funkce, jako je Microsoft 365 Copilot |
Copilot+ PCs podporují všechny tři modely. Funkce na zařízení, jako jsou živé titulky, Windows Studio Efekty a Klikněte pro spuštění, běží na NPU. Cloudové funkce, jako je Microsoft 365 Copilot, používají cloudové zpracování. Mnoho pracovních postupů kombinuje obojí – například pomocí vyhledávání na zařízení k vyhledání místního souboru a následné použití Microsoft 365 Copilot k shrnutí jeho obsahu.
Windows jako platforma pro AI
NPU je součástí širšího posunu v tom, jak Windows podporuje AI v celé organizaci. Windows 11 Pro slouží jako platforma, která spojuje funkce umělé inteligence na zařízení s cloudovými inteligentními nástroji a nástroji pro správu IT.
Přístup této platformy zahrnuje:
- Zpracování umělé inteligence na zařízení prostřednictvím NPU, které umožňuje rychlejší odezvu a snižuje závislost na připojení ke cloudu pro podporované funkce.
- AI agenti ve Windows, kteří umí uvažovat, plánovat a provádět akce jménem uživatelů, například konfigurovat nastavení zařízení pomocí přirozeného jazyka nebo navrhovat další kroky na základě obsahu na obrazovce.
- Windows AI Foundry pro vytváření vlastních aplikací využívajících AI, které společně s cloudovými službami využívají místní hardwarovou akceleraci.
- IT řízení a kontrola prostřednictvím Microsoft Intune, což organizacím umožňuje spravovat, které funkce AI jsou dostupné a jak agenti interagují s daty organizace.
Důležité
Agenti umělé inteligence v Windows pracují v rámci stávající architektury správy a zabezpečení organizace. Správci IT můžou řídit chování agenta a přístup k datům prostřednictvím stejných nástrojů, které slouží ke správě dalších zásad a konfigurací Windows 11 Pro.
Co to znamená pro organizace
Kombinace AI na zařízení, cloudových inteligentních funkcí a zásad správného řízení platforem vytváří praktický model pro organizace, které přijímají umělou inteligenci ve velkém měřítku:
- Zaměstnanci získají rychlejší a rychleji responzivní funkce AI, které fungují i bez připojení k internetu – zlepšují produktivitu v terénu, během cestování nebo v prostředích s nízkým připojením.
- IT týmy udržují kontrolu nad možnostmi umělé inteligence prostřednictvím známých nástrojů pro správu, přičemž funkce zabezpečení jsou ve výchozím nastavení povolené a chování agenta se řídí na úrovni zásad.
- Developers můžou vytvářet vlastní řešení AI pomocí Windows AI Foundry, integrovat opensourcové a proprietární modely, které běží místně na NPU – v případě potřeby zachovat citlivá data na zařízení a v případě potřeby se stále připojovat ke cloudovým službám.
Při diskuzi o Copilot+ PCs s pracovníky s rozhodovací pravomocí na podnikové straně je příběh platformy často nejzajímavějším úhlem: nejedná se o rychlejší počítače – jsou základem toho, jak organizace sestavuje, nasazuje a spravuje AI. NPU je důležitou součástí tohoto základu, která umožňuje novou třídu prostředí využívajících AI, která jsou efektivní, responzivní a zabezpečená.