Udostępnij za pośrednictwem

Przyspieszanie sprzętowe dla sztucznej inteligencji usługi Azure IoT Edge vision

  • Artykuł

Grafika komputerowa i sztuczna inteligencja (AI) wymagają dużej mocy obliczeniowej. Kluczowym czynnikiem projektowania projektów sztucznej inteligencji w usłudze Azure IoT Edge vision jest stopień przyspieszania sprzętowego potrzebnego rozwiązania.

Akceleratory sprzętowe, takie jak jednostki procesora graficznego (GPU), programowalne tablice bram (FPGA), a układy zintegrowane specyficzne dla aplikacji (ASICs) to ekonomiczne sposoby poprawy wydajności.

Przetwarzanie typów sprzętu

W poniższych sekcjach opisano główne typy sprzętu obliczeniowego dla IoT Edge składników przetwarzania obrazów.

Procesor CPU

Centralna jednostka przetwarzania (CPU) jest opcją domyślną dla większości obliczeń ogólnego przeznaczenia. Procesor CPU może być wystarczający w przypadku obciążeń przetwarzania obrazów, w których czas nie jest krytyczny. Jednak obciążenia, które wymagają krytycznego chronometrażu, wielu strumieni kamer lub wysokich szybkości klatek, wymagają określonego przyspieszenia sprzętowego.

Procesory GPU

Procesor GPU jest domyślnym procesorem dla kart graficznych o wysokiej jakości. Scenariusze komputerów o wysokiej wydajności, wyszukiwanie danych oraz obciążenia sztucznej inteligencji lub uczenia maszynowego (ML) używają wszystkich procesorów GPU. Obciążenia przetwarzania obrazów wykorzystują ogromną moc przetwarzania równoległego procesorów GPU w celu przyspieszenia przetwarzania danych pikseli. Wadą procesora GPU jest jego wyższe zużycie energii, co jest krytycznym czynnikiem w obciążeniach brzegowych.

FPGA

Układy FPGA są potężnymi, rekonfigurowalnymi akceleratorami sprzętowymi, które obsługują rozwój sieci neuronowych uczenia głębokiego. Akceleratory FPGA mają miliony programowalnych bram i setki wyprowadzeń we/wy i mogą wykonywać biliony operacji mnożenia skumulowanych (MAC) na sekundę (TOPS). Istnieje wiele bibliotek FPGA zoptymalizowanych pod kątem obciążeń przetwarzania obrazów. Niektóre z tych bibliotek obejmują wstępnie skonfigurowane interfejsy służące do łączenia się z aparatami podrzędnymi i urządzeniami.

Użycie protokołu FGPA w usłudze ML i obciążeniach IoT Edge wciąż rośnie. Układy FPGA zwykle brakuje w operacjach zmiennoprzecinkowych, ale producenci wprowadzili ulepszenia w tym obszarze.

ASIC

AsICs są produkowane w celu wykonania określonego zadania. AsICs są zdecydowanie najszybsze dostępne akceleratory, ale są najmniej konfigurowalne. Mikroukłady ASIC są popularne ze względu na ich mały rozmiar, moc na wydajność watów i ochronę własności intelektualnej (IP). Adres IP jest spalony na chipy ASIC, co utrudnia odwrócenie zastrzeżonych algorytmów inżyniera.

Współautorzy

Ten artykuł jest obsługiwany przez firmę Microsoft. Pierwotnie został napisany przez następujących współautorów.

Główny autor:

Aby wyświetlić niepubliowe profile usługi LinkedIn, zaloguj się do serwisu LinkedIn.

Następne kroki

Uczenie maszynowe i nauka o danych w usłudze Azure IoT Edge vision AI