Gambaran Umum WebNN
WEB Neural Network (WebNN) API adalah standar web yang muncul yang memungkinkan aplikasi web dan kerangka kerja mempercepat jaringan neural mendalam dengan GPU, CPU, atau akselerator AI yang dibuat khusus seperti NPU. API WebNN memanfaatkan Api DirectML di Windows untuk mengakses kemampuan perangkat keras asli dan mengoptimalkan eksekusi model jaringan neural.
Saat penggunaan AI/ML dalam aplikasi menjadi lebih populer, API WebNN memberikan manfaat berikut:
- Pengoptimalan Performa – Dengan menggunakan DirectML, WebNN membantu mengaktifkan aplikasi web dan kerangka kerja untuk memanfaatkan pengoptimalan perangkat keras dan perangkat lunak terbaik yang tersedia untuk setiap platform dan perangkat, tanpa memerlukan kode yang kompleks dan khusus platform.
- Latensi Rendah - Inferensi dalam browser membantu mengaktifkan kasus penggunaan baru dengan sumber media lokal, seperti analisis video real time, deteksi wajah, dan pengenalan ucapan, tanpa perlu mengirim data ke server jarak jauh dan menunggu respons.
- Perlindungan Privasi - Data pengguna tetap berada di perangkat dan mempertahankan privasi pengguna, karena aplikasi web dan kerangka kerja tidak perlu mengunggah informasi sensitif atau pribadi ke layanan cloud untuk diproses.
- Ketersediaan Tinggi - Tidak ada ketergantungan pada jaringan setelah penembolokan aset awal untuk kasus offline, karena aplikasi web dan kerangka kerja dapat menjalankan model jaringan neural secara lokal bahkan ketika koneksi internet tidak tersedia atau tidak dapat diandalkan.
- Biaya Server Rendah - Komputasi pada perangkat klien berarti tidak ada server yang diperlukan, yang membantu aplikasi web mengurangi biaya operasional dan pemeliharaan menjalankan layanan AI/ML di cloud.
AI/ML yang didukung oleh WebNN termasuk AI generatif, deteksi orang, deteksi wajah, segmentasi semantik, deteksi kerangka, transfer gaya, resolusi super, keterangan gambar, terjemahan mesin, dan penindasan kebisingan.
Catatan
WebNN API masih berlangsung, dengan dukungan GPU dalam status pratinjau dan dukungan NPU akan segera hadir. API WebNN saat ini tidak boleh digunakan di lingkungan produksi.
Dukungan kerangka kerja
WebNN dirancang sebagai API backend untuk kerangka kerja web. Untuk Windows, sebaiknya gunakan ONNX Runtime Web. Ini memberikan pengalaman yang familier untuk menggunakan DirectML dan ONNX Runtime secara asli sehingga Anda dapat memiliki pengalaman yang konsisten dalam menyebarkan AI dalam format ONNX di seluruh aplikasi web dan asli.
Persyaratan WebNN
Anda dapat memeriksa informasi tentang browser Anda dengan menavigasi ke about://version di bilah alamat browser kromium Anda.
| Perangkat Keras | Penjelajah Web | Versi Windows | Versi Web Runtime ONNX | Versi Driver |
|---|---|---|---|---|
| GPU | WebNN memerlukan browser Chromium*. Silakan gunakan versi terbaru Microsoft Edge Beta. | Versi minimum: Windows 11, versi 21H2. | Versi minimum: 1.18 | Instal driver terbaru untuk perangkat keras Anda. |
Catatan
Browser berbasis Chromium saat ini dapat mendukung WebNN, tetapi akan bergantung pada status implementasi masing-masing browser.
Dukungan model
GPU (Pratinjau):
Saat berjalan pada GPU, WebNN saat ini mendukung model berikut:
- Turbo Diffusion Stabil
- Diffusion Stabil 1.5
- Basis bisikan
- MobileNetv2
- Segment Apa Pun
- ResNet
- EfficientNet
- SqueezeNet
WebNN juga bekerja dengan model kustom selama dukungan operator cukup. Periksa status operator di sini.
FAQ
Bagaimana cara mengajukan masalah dengan WebNN?
Untuk masalah umum dengan WebNN, silakan ajukan masalah di GitHub Pratinjau Pengembang WebNN kami
Untuk masalah dengan ONNX Runtime Web atau Penyedia Eksekusi WebNN, buka Github ONNXRuntime.
Bagaimana cara men-debug masalah dengan WebNN?
Spesifikasi W3C WebNN memiliki informasi tentang penyebaran kesalahan, biasanya melalui pengecualian DOM. Log di akhir about://gpu mungkin juga memiliki informasi yang bermanfaat. Untuk masalah lebih lanjut, silakan ajukan masalah seperti yang ditautkan di atas.
Apakah WebNN mendukung sistem operasi lainnya?
Saat ini, WebNN paling baik mendukung sistem operasi Windows. Versi untuk sistem operasi Mac sedang berlangsung.
Back-end perangkat keras apa yang saat ini tersedia? Apakah model tertentu hanya didukung dengan back-end perangkat keras tertentu?
Anda dapat menemukan informasi tentang dukungan operator di WebNN pada Status Implementasi Operasi WebNN | Pembelajaran Mesin web.