Percepatan GPU bagi Azure IoT Edge untuk Linux pada Windows
Berlaku untuk: 
IoT Edge 1.1
Penting
Tanggal akhir dukungan IoT Edge 1.1 adalah 13 Desember 2022. Periksa Siklus Hidup Produk Microsoft untuk mendapatkan informasi tentang bagaimana produk, layanan, teknologi, atau API ini didukung. Untuk informasi selengkapnya tentang memperbarui ke IoT Edge versi terbaru, lihat Memperbarui IoT Edge.
GPU adalah pilihan populer untuk komputasi kecerdasan buatan, karena menawarkan kemampuan pemrosesan paralel dan sering dapat mengeksekusi kesimpulan berbasis visi lebih cepat daripada CPU. Untuk mendukung aplikasi kecerdasan buatan dan pembelajaran mesin dengan lebih baik, Azure IoT Edge untuk Linux di Windows (EFLOW) dapat mengekspos GPU ke modul Linux komputer virtual.
Azure IoT Edge untuk Linux pada Windows mendukung beberapa teknologi passthrough GPU, termasuk:
Direct Device Assignment (DDA) - Core GPU dialokasikan baik ke mesin virtual Linux atau host.
GPU-Paravirtualization (GPU-PV) - GPU dibagi antara mesin virtual Linux dan host.
Anda harus memilih metode passthrough yang sesuai selama penyebaran agar sesuai dengan kemampuan perangkat keras GPU perangkat Anda yang didukung.
Penting
Fitur-fitur ini dapat mencakup komponen yang dikembangkan dan dimiliki oleh NVIDIA Corporation atau pemberi lisensinya. Penggunaan komponen diatur oleh Perjanjian Lisensi Penguna Akhir NVIDIA yang terletak di situs web NVIDIA.
Saat menggunakan fitur percepatan GPU, Anda menerima dan menyetujui ketentuan Perjanjian Lisensi Pengguna Akhir NVIDIA.
Prasyarat
Fitur percepatan GPU Azure IoT Edge untuk Linux pada Windows saat ini mendukung satu set perangkat keras GPU tertentu. Selain itu, penggunaan fitur ini mungkin memerlukan versi Windows tertentu.
GPU yang didukung dan versi Windows yang diperlukan tercantum di bawah:
| GPU yang didukung | Jenis Passthrough GPU | Versi Windows yang Didukung |
|---|---|---|
| NVIDIA T4, A2 | DDA | Windows Server 2019 Windows Server 2022 Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| NVIDIA GeForce, Quadro, RTX | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| Intel iGPU | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
Penting
Dukungan GPU-PV dapat terbatas pada generasi prosesor atau arsitektur GPU tertentu seperti yang ditentukan oleh vendor GPU. Untuk informasi selengkapnya, lihat Dokumentasi driver iGPU Intel atau CUDA NVIDIA untuk Dokumentasi WSL.
Pengguna Windows Server 2019 harus menggunakan build minimum 17763 dengan semua pembaruan kumulatif saat ini terinstal.
Pengguna Windows 10 harus menggunakan build pembaruan November 2021 19044.1620 atau yang lebih tinggi. Setelah penginstalan, Anda dapat memverifikasi versi build dengan menjalankan winver di prompt perintah.
Passthrough GPU tidak didukung dengan virtualisasi berlapis, seperti menjalankan EFLOW di komputer virtual Windows.
Penyiapan dan penginstalan sistem
Bagian berikut berisi informasi penyiapan dan penginstalan, sesuai dengan GPU Anda.
GPU NVIDIA T4/A2
Untuk GPU T4/A2, Microsoft merekomendasikan penginstalan driver mitigasi perangkat dari vendor GPU Anda. Meskipun opsional, menginstal driver mitigasi dapat meningkatkan keamanan penyebaran Anda. Untuk mengetahui informasi selengkapnya, lihat Menyebarkan perangkat grafis menggunakan penugasan perangkat langsung.
Peringatan
Mengaktifkan passthrough perangkat keras dapat meningkatkan risiko keamanan. Microsoft menyarankan driver mitigasi perangkat dari vendor GPU Anda, bila dapat diterapkan. Untuk informasi selengkapnya, lihat Menyebarkan perangkat grafis menggunakan penugasan perangkat terpisah.
GPU NVIDIA GeForce/Quadro/RTX
Untuk GPU NVIDIA GeForce/Quadro/RTX, unduh dan instal driver berkemampuan NVIDIA CUDA untuk Subsistem Windows untuk Linux (WSL) untuk digunakan dengan alur kerja CUDA ML Yang ada. Awalnya dikembangkan untuk WSL, driver CUDA untuk WSL juga digunakan untuk Azure IoT Edge untuk Linux pada Windows.
Pengguna Windows 10 juga harus menginstal WSL karena beberapa pustaka dibagikan antara WSL dan Azure IoT Edge untuk Linux di Windows.
Intel iGPU
Untuk Intel iGPU, unduh dan instal Intel Graphics Driver dengan dukungan GPU WSL.
Pengguna Windows 10 juga harus menginstal WSL karena beberapa pustaka dibagikan antara WSL dan Azure IoT Edge untuk Linux di Windows.
Mengaktifkan akselerasi GPU di Azure IoT Edge Linux Anda pada penyebaran Windows
Setelah penyiapan sistem selesai, Anda siap untuk membuat penyebaran Azure IoT Edge untuk Linux di Windows. Selama proses ini, Anda harus mengaktifkan GPU sebagai bagian dari penyebaran EFLOW.
Misalnya, perintah di bawah ini membuat komputer virtual dengan GPU NVIDIA A2 yang ditetapkan.
Deploy-Eflow -gpuPassthroughType "DirectDeviceAssignment" -gpuCount 1 -gpuName "NVIDIA A2"
Setelah penginstalan selesai, Anda siap untuk menyebarkan dan menjalankan modul Linux yang dipercepat GPU melalui Azure IoT Edge untuk Linux di Windows.
Langkah berikutnya
Coba sampel berkemampuan GPU yang menampilkan Vision di Edge, templat solusi yang menggambarkan cara membangun aplikasi pembelajaran mesin berbasis visi Anda sendiri.
Temukan cara menjalankan aplikasi Intel OpenVINO di EFLOW dengan mengikuti panduan Intel tentang iGPU dengan Azure IoT Edge untuk Linux di Windows (EFLOW) & OpenVINO Toolkit dan implementasi referensi.
Pelajari lebih lanjut tentang teknologi passthrough GPU dengan membuka dokumentasi DDA dan posting blog GPU-PV.