Accélération matérielle pour Azure IoT Edge vision AI

  • Article

Les représentations graphiques sur ordinateur et l’intelligence artificielle nécessitent une grande puissance de traitement. Un facteur critique dans la conception de projets Azure IoT Edge vision AI est le degré d’accélération matérielle dont la solution a besoin.

Les accélérateurs matériels les GPU (Graphical Processing Unit), les FGPA (Field Programmable Gate Array) et les circuits intégrés spécifiques à des applications sont des moyens économiques d’améliorer les performances.

Types de matériel informatique

Les sections suivantes décrivent les principaux types de matériel informatique pour les composants IoT Edge vision.

UC

Un processeur (CPU, Central Processing Unit) est l’option par défaut pour la plupart des traitements génériques. Un processeur peut être suffisant pour les charges de travail vision où le temps n’est pas critique. Cependant, la plupart des charges de travail qui impliquent un délai critique, plusieurs flux de caméra ou des fréquences d’images élevées nécessitent une accélération matérielle spécifique.

GPU

Un GPU est le processeur par défaut pour les cartes graphiques d’ordinateur haut de gamme. Les scénarios HPC (ordinateur haute performance), l’exploration de données, et les charges de travail d’IA ou de machine learning (ML) utilisent tous des GPU. Les charges de travail vision utilisent la puissance de calcul parallèle massive des GPU pour accélérer le traitement des données de pixels. L’inconvénient d’un GPU est sa consommation d’énergie supérieure, ce qui est une considération critique dans les charges de travail de périphérie.

FPGA

Les FPGA sont des accélérateurs matériels puissants et reconfigurables qui prennent en charge la croissance des réseaux neuronaux de deep learning. Les accélérateurs FPGA ont des millions de portes programmables et des centaines de broches d’E/S, et peuvent faire des milliards d’opérations MAC (Multiply Accumulate) par seconde (TOPS). De nombreuses bibliothèques FPGA sont optimisées pour les charges de travail vision. Certaines de ces bibliothèques incluent également des interfaces préconfigurées pour se connecter aux caméras et aux appareils en aval.

L’utilisation de FGPA dans les charges de travail ML et IoT Edge est en évolution permanente. Les FPGA ont tendance à être peu performants dans les opérations à virgule flottante, mais les fabricants ont apporté des améliorations dans ce domaine.

ASIC

Les puces ASIC sont conçues pour effectuer une tâche spécifique. Les puces ASIC sont de loin les accélérateurs les plus rapides disponibles, mais ce sont les moins configurables. Les puces ASIC sont répandues en raison de leur taille réduite, de leur performances en puissance par watt et de la protection de la propriété intellectuelle. La propriété intellectuelle est « gravée » dans les puces ASIC, ce qui rend difficile la rétroconception des algorithmes propriétaires.

Contributeurs

Cet article est géré par Microsoft. Il a été écrit à l’origine par les contributeurs suivants.

Auteur principal :

Pour afficher les profils LinkedIn non publics, connectez-vous à LinkedIn.

Étapes suivantes

Machine learning et science des données dans Azure IoT Edge vision