Udostępnij za pośrednictwem

Przyspieszanie procesora GPU dla usługi Azure IoT Edge dla systemu Linux w systemie Windows

  • Artykuł

Dotyczy ikony:tak IoT Edge 1.1

Ważne

IoT Edge 1.1 data zakończenia wsparcia technicznego wynosiła 13 grudnia 2022 r. Zapoznaj się z cyklem życia produktów firmy Microsoft, aby uzyskać informacje na temat sposobu obsługi tego produktu lub interfejsu API albo tej usługi lub technologii. Aby uzyskać więcej informacji na temat aktualizowania do najnowszej wersji IoT Edge, zobacz Update IoT Edge.

Procesory GPU są popularnym wyborem do obliczeń sztucznej inteligencji, ponieważ oferują możliwości przetwarzania równoległego i często mogą wykonywać wnioskowanie oparte na wizji szybciej niż procesory CPU. Aby lepiej obsługiwać aplikacje sztucznej inteligencji i uczenia maszynowego, usługa Azure IoT Edge dla systemu Linux w systemie Windows (EFLOW) może uwidocznić procesor GPU modułowi maszyny wirtualnej z systemem Linux.

Usługa Azure IoT Edge dla systemu Linux w systemie Windows obsługuje kilka technologii przekazywania procesora GPU, w tym:

  • Bezpośrednie przypisanie urządzenia (DDA) — rdzenie procesora GPU są przydzielane do maszyny wirtualnej z systemem Linux lub hosta.

  • Gpu-Paravirtualization (GPU-PV) — procesor GPU jest współużytkowany między maszyną wirtualną z systemem Linux a hostem.

Musisz wybrać odpowiednią metodę przekazywania podczas wdrażania, aby dopasować je do obsługiwanych możliwości sprzętu procesora GPU urządzenia.

Ważne

Funkcje te mogą obejmować składniki opracowane i należące do firmy NVIDIA Corporation lub jej licencjodawców. Korzystanie z tych składników podlega umowie licencyjnej NVIDIA End-User znajdującej się na stronie internetowej firmy NVIDIA.

Korzystając z funkcji przyspieszania procesora GPU, akceptujesz i wyrażasz zgodę na warunki umowy licencyjnej nvidia End-User.

Wymagania wstępne

Funkcje przyspieszania procesora GPU platformy Azure IoT Edge dla systemu Linux w systemie Windows obecnie obsługują wybrany zestaw sprzętu procesora GPU. Ponadto użycie tej funkcji może wymagać określonych wersji systemu Windows.

Obsługiwane procesory GPU i wymagane wersje systemu Windows są wymienione poniżej:

Obsługiwane procesory GPU Typ przekazywania procesora GPU Obsługiwane wersje systemu Windows
NVIDIA T4, A2 DDA Windows Server 2019
Windows Server 2022
Windows 10/11 (Pro, Enterprise, IoT Enterprise)
NVIDIA GeForce, Quadro, RTX GPU-PV Windows 10/11 (Pro, Enterprise, IoT Enterprise)
Intel iGPU GPU-PV Windows 10/11 (Pro, Enterprise, IoT Enterprise)

Ważne

Obsługa procesorów GPU PV może być ograniczona do niektórych generacji procesorów lub architektur gpu określonych przez dostawcę procesora GPU. Aby uzyskać więcej informacji, zobacz dokumentację sterownika iGPU firmy Intel lub dokumentację cuda firmy NVIDIA dla systemu WSL.

Użytkownicy systemu Windows Server 2019 muszą używać minimalnej kompilacji 17763 z zainstalowanymi wszystkimi bieżącymi aktualizacjami zbiorczymi.

Windows 10 użytkownicy muszą korzystać z kompilacji aktualizacji z listopada 2021 r. 19044.1620 lub nowszej. Po zakończeniu instalacji możesz zweryfikować wersję kompilacji, uruchamiając polecenie winver w wierszu polecenia.

Przekazywanie procesora GPU nie jest obsługiwane w przypadku wirtualizacji zagnieżdżonej, takiej jak uruchamianie platformy EFLOW na maszynie wirtualnej z systemem Windows.

Instalacja i instalacja systemu

Poniższe sekcje zawierają informacje o instalacji i instalacji zgodnie z procesorem GPU.

PROCESORY GPU NVIDIA T4/A2

W przypadku procesorów GPU T4/A2 firma Microsoft zaleca zainstalowanie sterownika ograniczania ryzyka urządzenia od dostawcy procesora GPU. Chociaż jest to opcjonalne, zainstalowanie sterownika ograniczania ryzyka może zwiększyć bezpieczeństwo wdrożenia. Aby uzyskać więcej informacji, zobacz Wdrażanie urządzeń graficznych przy użyciu bezpośredniego przypisania urządzenia.

Ostrzeżenie

Włączenie przekazywania urządzeń sprzętowych może zwiększyć ryzyko bezpieczeństwa. Firma Microsoft zaleca sterownik ograniczania ryzyka urządzenia od dostawcy procesora GPU, jeśli ma to zastosowanie. Aby uzyskać więcej informacji, zobacz Wdrażanie urządzeń graficznych przy użyciu dyskretnego przypisania urządzenia.

NVIDIA GeForce/Quadro/RTX GPU

W przypadku procesorów GPU NVIDIA GeForce/Quadro/RTX pobierz i zainstaluj sterownik nvidia CUDA obsługujący Podsystem Windows dla systemu Linux (WSL) do użycia z istniejącymi przepływami pracy uczenia maszynowego CUDA. Pierwotnie opracowany dla systemu WSL, cudA dla sterowników WSL są również używane dla platformy Azure IoT Edge dla systemu Linux w systemie Windows.

Windows 10 użytkownicy muszą również zainstalować protokół WSL, ponieważ niektóre biblioteki są współużytkowane przez biblioteki WSL i Azure IoT Edge dla systemu Linux w systemie Windows.

Procesory iGP Intel

W przypadku procesorów iGP Firmy Intel pobierz i zainstaluj sterownik graficzny Intel z obsługą procesorów GPU WSL.

Windows 10 użytkownicy muszą również zainstalować protokół WSL, ponieważ niektóre biblioteki są współużytkowane przez biblioteki WSL i Azure IoT Edge dla systemu Linux w systemie Windows.

Włączanie przyspieszania procesora GPU w usłudze Azure IoT Edge Linux we wdrożeniu systemu Windows

Po zakończeniu instalacji systemu możesz utworzyć wdrożenie usługi Azure IoT Edge dla systemu Linux w systemie Windows. W trakcie tego procesu należy włączyć procesor GPU w ramach wdrożenia platformy EFLOW.

Na przykład poniższe polecenie tworzy maszynę wirtualną z przypisanym procesorem GPU NVIDIA A2.

Deploy-Eflow -gpuPassthroughType "DirectDeviceAssignment" -gpuCount 1 -gpuName "NVIDIA A2"

Po zakończeniu instalacji można przystąpić do wdrażania i uruchamiania modułów z systemem Linux przyspieszanych przez procesor GPU za pośrednictwem usługi Azure IoT Edge dla systemu Linux w systemie Windows.

Następne kroki