다음을 통해 공유

Azure IoT Edge 비전 AI에 대한 하드웨어 가속

  • 아티클

컴퓨터 그래픽 및 AI(인공 지능)에는 많은 양의 컴퓨팅 성능이 필요합니다. Azure IoT Edge 비전 AI 프로젝트를 설계하는 데 중요한 요소는 솔루션에 필요한 하드웨어 가속 정도입니다.

GPU(그래픽 처리 장치), FPGA(필드 프로그래밍 가능 게이트 배열) 및 ASIC(애플리케이션 관련 집적 회로)와 같은 하드웨어 가속기는 성능을 개선하는 비용 효율적인 방법입니다.

하드웨어 유형 컴퓨팅

다음 섹션에서는 IoT Edge 비전 구성 요소에 대한 주요 유형의 컴퓨팅 하드웨어에 대해 설명합니다.

CPU

CPU(중앙 처리 장치)는 대부분의 범용 컴퓨팅에 대한 기본 옵션입니다. 타이밍이 중요하지 않은 비전 워크로드에는 CPU로 충분할 수 있습니다. 그러나 중요한 타이밍, 여러 카메라 스트림 또는 높은 프레임 속도를 포함하는 워크로드에는 특정 하드웨어 가속이 필요합니다.

GPU

GPU는 고급 컴퓨터 그래픽 카드의 기본 프로세서입니다. HPC(고성능 컴퓨터) 시나리오, 데이터 마이닝 및 AI 또는 ML(기계 학습) 워크로드 모두 GPU를 사용합니다. 비전 워크로드는 GPU의 방대한 병렬 컴퓨팅 능력을 사용하여 픽셀 데이터 처리를 가속화합니다. GPU의 단점은 더 높은 전력 소비이며, 에지 워크로드에서 중요한 고려 사항입니다.

FPGA

FPGA는 딥 러닝 신경망의 성장을 지원하는 강력하고 재구성 가능한 하드웨어 가속기입니다. FPGA 가속기에는 수백만 개의 프로그래밍 가능한 게이트와 수백 개의 I/O 핀이 있으며, 초당 수조 개의 MAC(곱하기 누적) 작업(TOPS)을 수행할 수 있습니다. 비전 워크로드에 최적화된 많은 FPGA 라이브러리가 있습니다. 이러한 라이브러리 중 일부는 다운스트림 카메라 및 디바이스에 연결하기 위해 미리 구성된 인터페이스를 포함합니다.

ML 및 IoT Edge 워크로드에서 FPGA 사용은 계속 진화하고 있습니다. FPGA는 부동 소수점 작업에 미치지 못하지만 제조업체는 이 영역을 개선했습니다.

ASIC

ASIC는 특정 작업을 수행하기 위해 제조됩니다. ASIC는 지금까지 사용할 수 있는 가장 빠른 가속기이지만 구성할 수 있는 것이 가장 적습니다. ASIC 칩은 작은 크기, 와트당 전력 성능 및 IP(지적 재산권) 보호로 인해 인기가 있습니다. IP가 ASIC 칩에 소모되어 독점 알고리즘을 역엔지니어링하기가 어렵습니다.

참가자

Microsoft에서 이 문서를 유지 관리합니다. 원래 다음 기여자가 작성했습니다.

보안 주체 작성자:

비공개 LinkedIn 프로필을 보려면 LinkedIn에 로그인합니다.

다음 단계

Azure IoT Edge 비전 AI의 기계 학습 및 데이터 과학