Azure IoT Edge görüntü yapay zekası için donanım hızlandırma

  • Makale

Bilgisayar grafikleri ve yapay zeka (AI) için büyük miktarda bilgi işlem gücü gerekir. Azure IoT Edge görüntü yapay zekası projelerinin tasarlanmasında kritik bir faktör, çözümün ihtiyaç duyduğu donanım hızlandırma derecesidir.

Grafik işleme birimleri (GPU), alan programlanabilir kapı dizileri (FPGA' lar) ve uygulamaya özgü tümleşik devreler (ASIC) gibi donanım hızlandırıcıları performansı artırmanın uygun maliyetli yollarıdır.

Donanım türlerini hesaplama

Aşağıdaki bölümlerde, IoT Edge görüntü işleme bileşenleri için ana bilgi işlem donanımı türleri açıklanmaktadır.

CPU

Merkezi işlem birimi (CPU), çoğu genel amaçlı bilgi işlem için varsayılan seçenektir. Cpu, zamanlamanın kritik olmadığı görme iş yükleri için yeterli olabilir. Ancak kritik zamanlama, birden çok kamera akışı veya yüksek kare hızları içeren iş yüklerinin belirli donanım hızlandırması gerekir.

GPU

GPU, üst düzey bilgisayar grafik kartları için varsayılan işlemcidir. Yüksek performanslı bilgisayar (HPC) senaryoları, veri madenciliği ve yapay zeka veya makine öğrenmesi (ML) iş yüklerinin tümü GPU kullanır. Görüntü işleme iş yükleri, piksel veri işlemeyi hızlandırmak için GPU'ların yüksek paralel işlem gücünü kullanır. GPU'nun dezavantajı, uç iş yüklerinde önemli bir nokta olan daha yüksek güç tüketimidir.

FPGA

FPGA'lar, derin öğrenme sinir ağlarının büyümesini destekleyen güçlü, yeniden yapılandırılabilir donanım hızlandırıcılarıdır. FPGA hızlandırıcılarının milyonlarca programlanabilir kapısı ve yüzlerce G/Ç pini vardır ve saniyede trilyonlarca çarpma birikir (MAC) işlemi (TOPS) yapabilir. Görüntü işleme iş yükleri için iyileştirilmiş birçok FPGA kitaplığı vardır. Bu kitaplıklardan bazıları aşağı akış kameralarına ve cihazlarına bağlanmak için önceden yapılandırılmış arabirimler içerir.

ML ve IoT Edge iş yüklerinde FGPI kullanımı hala gelişmektedir. FPGA'lar kayan nokta işlemlerinde kısa kalma eğilimindedir, ancak üreticiler bu alanda geliştirmeler yapmıştır.

ASIC

ASIC'ler belirli bir görevi yerine getirmek için üretilir. ASIC'ler açık arayla en hızlı hızlandırıcılardır, ancak en az yapılandırılabilir hızlandırıcılardır. ASIC yongaları küçük boyutları, watt başına güç performansı ve fikri mülkiyet (IP) koruması nedeniyle popülerdir. IP, ASIC yongalarına yakılarak özel algoritmaların tersine mühendislik işlemini zorlaştırır.

Katkıda Bulunanlar

Bu makale Microsoft tarafından yönetilir. Başlangıçta aşağıdaki katkıda bulunanlar tarafından yazılmıştır.

Asıl yazar:

Genel olmayan LinkedIn profillerini görmek için LinkedIn'de oturum açın.

Sonraki adımlar

Azure'da makine öğrenmesi ve veri bilimi IoT Edge vizyon yapay zekası