Akselerasi perangkat keras untuk Azure IoT Edge vision AI
Grafik komputer dan kecerdasan buatan (AI) membutuhkan daya komputasi dalam jumlah besar. Faktor penting dalam merancang proyek Azure IoT Edge vision AI adalah tingkat akselerasi perangkat keras yang dibutuhkan solusi.
Akselerator perangkat keras seperti unit pemrosesan grafis (GPU), array gerbang yang dapat diprogram bidang (FPGA), dan sirkuit terintegrasi khusus aplikasi (ASIC) adalah cara hemat biaya untuk meningkatkan performa.
Menghitung jenis perangkat keras
Bagian berikut menjelaskan jenis utama perangkat keras komputasi untuk komponen visi IoT Edge.
CPU
Unit pemrosesan pusat (CPU) adalah opsi default untuk sebagian besar komputasi tujuan umum. CPU mungkin cukup untuk beban kerja visi di mana waktu tidak penting. Namun, beban kerja yang melibatkan waktu penting, beberapa aliran kamera, atau kecepatan bingkai tinggi membutuhkan akselerasi perangkat keras tertentu.
GPU
GPU adalah prosesor default untuk kartu grafis komputer kelas atas. Skenario komputer performa tinggi (HPC), penggalian data, dan AI atau beban kerja pembelajaran mesin (ML) semuanya menggunakan GPU. Beban kerja visi menggunakan daya komputasi paralel besar-besaran GPU untuk mempercepat pemrosesan data piksel. Kelemahan dari GPU adalah konsumsi daya yang lebih tinggi, yang merupakan pertimbangan penting dalam beban kerja tepi.
FPGA
FPGA adalah akselerator perangkat keras yang kuat dan dapat dikonfigurasi ulang yang mendukung pertumbuhan jaringan neural pembelajaran mendalam. Akselerator FPGA memiliki jutaan gerbang yang dapat diprogram dan ratusan pin I/O, dan dapat melakukan triliunan operasi multiply accumulate (MAC) per detik (TOPS). Ada banyak pustaka FPGA yang dioptimalkan untuk beban kerja visi. Beberapa pustaka ini termasuk antarmuka yang telah dikonfigurasi sebelumnya untuk terhubung ke kamera dan perangkat hilir.
Penggunaan FGA dalam beban kerja ML dan IoT Edge masih berkembang. FPGA cenderung kekurangan operasi floating point, tetapi produsen telah melakukan perbaikan di area ini.
ASIC
ASIC diproduksi untuk melakukan tugas tertentu. ASIC sejauh ini adalah akselerator tercepat yang tersedia, tetapi paling sedikit dapat dikonfigurasi. Chip ASIC populer karena ukurannya yang kecil, daya per performa watt, dan perlindungan kekayaan intelektual (IP). IP dibakar menjadi chip ASIC, sehingga sulit untuk merekayasa balik algoritma kepemilikan.
Kontributor
Artikel ini dikelola oleh Microsoft. Awalnya ditulis oleh kontributor berikut.
Penulis utama:
- Bukit Keith | Manajer PM Senior
Untuk melihat profil LinkedIn non-publik, masuk ke LinkedIn.