Hardwareversnelling voor Azure IoT Edge Vision AI
Computerafbeeldingen en kunstmatige intelligentie (AI) vereisen grote hoeveelheden rekenkracht. Een essentiële factor bij het ontwerpen van Ai-projecten voor Azure IoT Edge Vision is de mate van hardwareversnelling die de oplossing nodig heeft.
Hardwareversnellers zoals GPU's (Graphics Processing Units), field programmeerbare gate arrays (FGA's) en toepassingsspecifieke geïntegreerde circuits (ASICs) zijn rendabele manieren om de prestaties te verbeteren.
Hardwaretypen berekenen
In de volgende secties worden de belangrijkste typen computerhardware voor IoT Edge Vision-onderdelen beschreven.
CPU
Een CPU (Central Processing Unit) is de standaardoptie voor de meeste computers voor algemeen gebruik. Een CPU kan voldoende zijn voor vision-workloads waarbij timing niet essentieel is. Werkbelastingen met kritieke timing, meerdere camerastreams of hoge framesnelheden hebben echter specifieke hardwareversnelling nodig.
GPU
Een GPU is de standaardprocessor voor high-end grafische computerkaarten. HPC-scenario's (High Performance Computer), gegevensanalyse en AI- of MACHINE Learning-workloads (ML) maken allemaal gebruik van GPU's. Vision-workloads maken gebruik van de enorme parallelle rekenkracht van GPU's om pixelgegevensverwerking te versnellen. Het nadeel van een GPU is het hogere energieverbruik, wat een kritieke overweging is bij edge-workloads.
FPGA
FPGA's zijn krachtige, herconfigureerbare hardwareversnellers die de groei van neurale deep learning-netwerken ondersteunen. FPGA-accelerators hebben miljoenen programmeerbare poorten en honderden I/O-pinnen en kunnen triljoenen MAC-bewerkingen per seconde (TOPS) uitvoeren. Er zijn veel FPGA-bibliotheken die zijn geoptimaliseerd voor Vision-workloads. Sommige van deze bibliotheken bevatten vooraf geconfigureerde interfaces om verbinding te maken met downstreamcamera's en apparaten.
Het gebruik van FGPA's in ML- en IoT Edge-workloads ontwikkelt zich nog steeds. FPGA's schieten meestal tekort in drijvendekommage-bewerkingen, maar fabrikanten hebben op dit gebied verbeteringen aangebracht.
ASIC
ASIC's worden gemaakt om een specifieke taak uit te voeren. ASIC's zijn veruit de snelste accelerators die beschikbaar zijn, maar zijn het minst configureerbaar. ASIC-chips zijn populair vanwege hun kleine formaat, vermogen per watt en bescherming van intellectuele eigendom (IP). Het IP-adres wordt in ASIC-chips gebrand, waardoor het moeilijk is om eigen algoritmen te reverse-engineeren.
Medewerkers
Dit artikel wordt onderhouden door Microsoft. Het is oorspronkelijk geschreven door de volgende inzenders.
Hoofdauteur:
- Keith Hill | Senior PM Manager
Als u niet-openbare LinkedIn-profielen wilt zien, meldt u zich aan bij LinkedIn.
Volgende stappen
Feedback
https://aka.ms/ContentUserFeedback.
Binnenkort beschikbaar: In de loop van 2024 zullen we GitHub-problemen geleidelijk uitfaseren als het feedbackmechanisme voor inhoud en deze vervangen door een nieuw feedbacksysteem. Zie voor meer informatie:Feedback verzenden en weergeven voor