Gyakori kérdések az AI Windows alkalmazásokban való használatával kapcsolatban

Hogyan integrálhatom az AI-t a Windows ügyfélalkalmazásba?

Az AI integrálása az Windows-alkalmazásba két elsődleges módszerrel érhető el: egy helyi vagy egy felhőalapú modellel. A helyi modellbeállításhoz használhat egy már meglévő modellt, vagy betaníthatja a sajátját olyan platformokon, mint a TensorFlow vagy a PyTorch, majd az OnnxRuntime használatával beépítheti az alkalmazásba. Microsoft Foundry on Windows api-kat kínál különböző függvényekhez, beleértve az OCR-t vagy a Phi Silica modellt. Másrészt a modell felhőben való üzemeltetése és REST API-n keresztüli elérése lehetővé teszi az alkalmazás számára, hogy zökkenőmentes maradjon az erőforrás-igényes feladatok felhőbe való delegálásával. További információért lásd: Az Windows alkalmazásban használt Machine Learning modellek használata.

Szükségem van a Windows 11 legújabb verziójára és egy NPU-val rendelkező Copilot+ PC az AI-funkciók használatához?

Az AI-munkaterhelések többféleképpen is futtathatók, a modellek helyi telepítésével és futtatásával Windows-eszközén vagy felhőalapú modellek futtatásával (lásd: Az AI használatának kezdő lépései a Windows rendszeren), azonban a Windows AI API-k által támogatott AI-funkciók jelenleg NPU-val rendelkező Copilot+ PC készüléket igényelnek.

Melyik programozási nyelvek a legalkalmasabbak mesterséges intelligencia fejlesztésére Windows ügyfélalkalmazásokban?

Bármilyen programozási nyelvet használhat. A C#-t például széles körben használják Windows ügyfélalkalmazások létrehozásához. Ha több vezérlésre van szüksége az alacsony szintű részletek felett, a C++ kiváló választás. Másik lehetőségként megfontolhatja a Python használatát. A Linuxos Windows-alrendszer (WSL) használatával Linux-alapú AI-eszközöket is futtathat Windows.

Melyek a legjobb AI-keretrendszerek Windows ügyfélalkalmazásokhoz?

Javasoljuk az OnnxRuntime használatát.

Hogyan kezelhetem az adatvédelmet és a biztonságot az AI Windows ügyfélalkalmazásokban való használatakor?

Az AI-alapú alkalmazások fejlesztése során elengedhetetlen a felhasználói adatok védelmének és biztonságának tiszteletben tartása. Az adatok gyűjtése előtt kövesse az adatkezeléssel kapcsolatos ajánlott eljárásokat, például a bizalmas adatok titkosítását, a biztonságos kapcsolatok használatát és a felhasználói hozzájárulás beszerzését. Azt is átláthatónak kell lennie, hogy hogyan használja az adatokat, és hogy a felhasználók szabályozhassák az adataikat. Mindenképpen olvassa el a Windows alatt felelősen fejlesztett generatív AI-alkalmazások és funkciók című dokumentumot is.

Mik az AI Windows ügyfélalkalmazásokban való futtatásának rendszerkövetelményei?

Az AI-t használó Windows alkalmazások rendszerkövetelményei az AI-modell összetettségétől és a használt hardveres gyorsítástól függenek. Az egyszerű modellekhez elegendő lehet a modern PROCESSZOR, de összetettebb modellekhez GPU-ra vagy NPU-ra lehet szükség. Figyelembe kell vennie az alkalmazás memória- és tárolási követelményeit, valamint a felhőalapú AI-szolgáltatásokhoz szükséges hálózati sávszélességet is.

Hogyan optimalizálhatók az AI-teljesítmény Windows ügyfélalkalmazásokban?

Az AI-teljesítmény Windows alkalmazásokban való optimalizálásához érdemes megfontolni a hardveres gyorsítást( például GPU-kat vagy NPU-kat) a modellkövetkeztetés felgyorsításához. Windows Copilot+ laptopok AI-számítási feladatokhoz vannak optimalizálva, és jelentős teljesítménynövelést biztosítanak az AI-feladatokhoz. Lásd még: Foundry Toolkit az Visual Studio Code áttekintéséhez.

Használhatok előre betanított AI-modelleket a Windows ügyfélalkalmazásomban?

Igen, előre betanított AI-modelleket is használhat a Windows alkalmazásban. Előre betanított modelleket tölthet le az internetről, vagy felhőalapú AI-szolgáltatással hozzáférhet az előre betanított modellekhez. Ezután integrálhatja ezeket a modelleket az alkalmazásba egy olyan keretrendszer használatával, mint az OnnxRuntime.

Mi az a DirectML?

A DirectML egy alacsony szintű API a gépi tanuláshoz, amely GPU-gyorsítást biztosít a gyakori gépi tanulási feladatokhoz a támogatott hardverek és illesztőprogramok széles körében, beleértve az olyan gyártóktól származó Összes DirectX 12-kompatibilis GPU-t, mint az AMD, az Intel, az NVIDIA és a Qualcomm.

Hogyan deríthetem ki, hogy milyen processzor- vagy GPU-val vagy NPU-val rendelkezik az eszközöm?

Ha ellenőrizni szeretné a Windows eszköz processzorának, GPU-jának vagy NPU-jának típusát és működését, nyissa meg a Task Managert (Ctrl + Shift + Esc), majd válassza a Performance lapot, és láthatja a gép processzorát, memóriáját, Wi-Fi-jét, GPU-ját és/vagy NPU-ját, valamint a sebességével kapcsolatos információkat. kihasználtsági arányt és egyéb adatokat.

Mi az Windows ML?

A Windows ML (Machine Learning) lehetővé teszi, hogy alkalmazása az ONNX Runtime (ORT) egy megosztott, rendszerszintű példányát használja, és támogatja a gyártóspecifikus végrehajtásszolgáltatók (EP-k) dinamikus letöltését, hogy a modellinferencia a Windows ökoszisztéma processzorainak, GPU-inak és NPU-inak széles körében optimalizálható legyen, anélkül, hogy az alkalmazásnak magával kellene vinnie a nagy méretű futtatókörnyezeteket vagy EP-ket.

Az AI integrálása az Windows-alkalmazásba két elsődleges módszerrel érhető el: egy helyi vagy egy felhőalapú modellel. A helyi modellbeállításhoz használhat egy már meglévő modellt, vagy betaníthatja a sajátját olyan platformokon, mint a TensorFlow vagy a PyTorch, majd az OnnxRuntime használatával beépítheti az alkalmazásba. Microsoft Foundry on Windows api-kat kínál különböző függvényekhez, beleértve az OCR-t vagy a Phi Silica modellt. Másrészt a modell felhőben való üzemeltetése és REST API-n keresztüli elérése lehetővé teszi az alkalmazás számára, hogy zökkenőmentes maradjon az erőforrás-igényes feladatok felhőbe való delegálásával. További információért lásd: Az Windows alkalmazásban használt Machine Learning modellek használata.

Az AI-munkaterhelések többféleképpen is futtathatók, a modellek helyi telepítésével és futtatásával Windows-eszközén vagy felhőalapú modellek futtatásával (lásd: Az AI használatának kezdő lépései a Windows rendszeren), azonban a Windows AI API-k által támogatott AI-funkciók jelenleg NPU-val rendelkező Copilot+ PC készüléket igényelnek.

Bármilyen programozási nyelvet használhat. A C#-t például széles körben használják Windows ügyfélalkalmazások létrehozásához. Ha több vezérlésre van szüksége az alacsony szintű részletek felett, a C++ kiváló választás. Másik lehetőségként megfontolhatja a Python használatát. A Linuxos Windows-alrendszer (WSL) használatával Linux-alapú AI-eszközöket is futtathat Windows.

Javasoljuk az OnnxRuntime használatát.

Az AI-alapú alkalmazások fejlesztése során elengedhetetlen a felhasználói adatok védelmének és biztonságának tiszteletben tartása. Az adatok gyűjtése előtt kövesse az adatkezeléssel kapcsolatos ajánlott eljárásokat, például a bizalmas adatok titkosítását, a biztonságos kapcsolatok használatát és a felhasználói hozzájárulás beszerzését. Azt is átláthatónak kell lennie, hogy hogyan használja az adatokat, és hogy a felhasználók szabályozhassák az adataikat. Mindenképpen olvassa el a Windows alatt felelősen fejlesztett generatív AI-alkalmazások és funkciók című dokumentumot is.

Az AI-t használó Windows alkalmazások rendszerkövetelményei az AI-modell összetettségétől és a használt hardveres gyorsítástól függenek. Az egyszerű modellekhez elegendő lehet a modern PROCESSZOR, de összetettebb modellekhez GPU-ra vagy NPU-ra lehet szükség. Figyelembe kell vennie az alkalmazás memória- és tárolási követelményeit, valamint a felhőalapú AI-szolgáltatásokhoz szükséges hálózati sávszélességet is.

Az AI-teljesítmény Windows alkalmazásokban való optimalizálásához érdemes megfontolni a hardveres gyorsítást( például GPU-kat vagy NPU-kat) a modellkövetkeztetés felgyorsításához. Windows Copilot+ laptopok AI-számítási feladatokhoz vannak optimalizálva, és jelentős teljesítménynövelést biztosítanak az AI-feladatokhoz. Lásd még: Foundry Toolkit az Visual Studio Code áttekintéséhez.

Igen, előre betanított AI-modelleket is használhat a Windows alkalmazásban. Előre betanított modelleket tölthet le az internetről, vagy felhőalapú AI-szolgáltatással hozzáférhet az előre betanított modellekhez. Ezután integrálhatja ezeket a modelleket az alkalmazásba egy olyan keretrendszer használatával, mint az OnnxRuntime.

A DirectML egy alacsony szintű API a gépi tanuláshoz, amely GPU-gyorsítást biztosít a gyakori gépi tanulási feladatokhoz a támogatott hardverek és illesztőprogramok széles körében, beleértve az olyan gyártóktól származó Összes DirectX 12-kompatibilis GPU-t, mint az AMD, az Intel, az NVIDIA és a Qualcomm.

Ha ellenőrizni szeretné a Windows eszköz processzorának, GPU-jának vagy NPU-jának típusát és működését, nyissa meg a Task Managert (Ctrl + Shift + Esc), majd válassza a Performance lapot, és láthatja a gép processzorát, memóriáját, Wi-Fi-jét, GPU-ját és/vagy NPU-ját, valamint a sebességével kapcsolatos információkat. kihasználtsági arányt és egyéb adatokat.

A Windows ML (Machine Learning) lehetővé teszi, hogy alkalmazása az ONNX Runtime (ORT) egy megosztott, rendszerszintű példányát használja, és támogatja a gyártóspecifikus végrehajtásszolgáltatók (EP-k) dinamikus letöltését, hogy a modellinferencia a Windows ökoszisztéma processzorainak, GPU-inak és NPU-inak széles körében optimalizálható legyen, anélkül, hogy az alkalmazásnak magával kellene vinnie a nagy méretű futtatókörnyezeteket vagy EP-ket.