Web 類神經網路 (WebNN) API 是新興的 Web 標準,可讓 Web 應用程式和架構使用 GPU、CPU 或目的建置 AI 加速器,例如 NPU 來加速深度神經網路。 WebNN API 會利用 Windows 上的 DirectML API 來存取原生硬體功能,並將神經網路模型的執行優化。
隨著在應用程式中使用 AI/ML 變得更受歡迎,WebNN API 提供下列優點:
- 效能優化 – 利用 DirectML,WebNN 有助於讓 Web 應用程式和架構利用每個平臺和裝置的最佳可用硬體和軟體優化,而不需要複雜且平臺特定的程式代碼。
- 低延遲 - 瀏覽器內推斷可協助啟用本機媒體來源的新使用案例,例如即時視訊分析、臉部偵測和語音辨識,而不需要將數據傳送至遠端伺服器並等候回應。
- 隱私權保護 - 用戶數據會保留在裝置上並保留用戶隱私權,因為 Web 應用程式和架構不需要將敏感性或個人資訊上傳至雲端服務進行處理。
- 高可用性 - 在初始資產快取完成後,針對離線使用情境,不依賴網路,因為即使網路連接不可用或不可靠,Web 應用程式和框架也可以在本地執行類神經網路模型。
- 低伺服器成本 - 用戶端裝置上的運算表示不需要任何伺服器,這可協助 Web 應用程式降低在雲端中執行 AI/ML 服務的作業和維護成本。
WebNN 支援的 AI/ML 案例包括產生 AI、人員偵測、臉部偵測、語意分割、基本架構偵測、樣式傳輸、超解析度、影像輔助字幕、機器翻譯和噪音抑制。
備註
WebNN API 仍在進行中,GPU 和 NPU 支援處於預覽狀態。 WebNN API 目前不應用於生產環境。
架構支援
WebNN 設計為 Web 架構的後端 API。 針對 Windows,我們建議使用 ONNX 執行時 Web。 這提供了以 DirectML 和 ONNX 執行階段原生方式使用的熟悉體驗,使您可以在 Web 和原生應用程式之間以 ONNX 格式一致地部署 AI。
WebNN 需求
您可以在 chromium 瀏覽器的網址列中瀏覽至 about://version,以檢查瀏覽器的相關信息。
| 硬體 | 網頁瀏覽器 | Windows 版本 | ONNX 執行環境 Web 版本 | 驅動程式版本 |
|---|---|---|---|---|
| 圖形處理器 | WebNN 需要 Chromium 瀏覽器*。 請使用最新版的 Microsoft Edge Beta。 | 最低版本:Windows 11 版本 21H2。 | 最低版本:1.18 | 安裝您硬體的最新驅動程式。 |
| NPU | WebNN 需要 Chromium 瀏覽器*。 請使用最新版的 Microsoft Edge Canary。 如需如何停用 GPU 封鎖清單,請參閱下面的注意事項。 | 最低版本:Windows 11 版本 21H2。 | 最低版本:1.18 | Intel 驅動程式版本:32.0.100.2381。 如需如何更新驅動程式的步驟,請參閱常見問題。 |
備註
Chromium 型瀏覽器目前可支援 WebNN,但將取決於個別瀏覽器的實作狀態。
備註
針對 NPU 支援,請使用下列旗標從命令行啟動 Edge: msedge.exe --disable_webnn_for_npu=0
模型支援
GPU (預覽):
在 GPU 上執行時,WebNN 目前支援下列模型:
- 穩定的 Diffusion Turbo
- 穩定擴散 1.5
- 低語基底
- 移動網路v2
- 分割任何物體
- ResNet 公司
- EfficientNet (高效網路)
- SqueezeNet (擠壓網)
只要作員支持足夠,WebNN 也適用於自定義模型。 在這裡檢查運算子的狀態。
NPU (預覽):
搭載 Intel® AI Boost NPU 的 Intel® Core™ Ultra 處理器上,WebNN 支援:
常見問題
如何提出 WebNN 的問題?
如需 WebNN 的一般問題,請在 WebNN 開發人員預覽 GitHub 上提出問題
如有 ONNX Runtime Web 或 WebNN 執行提供者的問題,請前往 ONNXRuntime Github。
如何偵錯 WebNN 的問題?
WebNN W3C 規格有關於錯誤傳播的資訊,通常透過 DOM 例外狀況。 about://gpu 結尾的記錄檔可能也有有用的資訊。 如有進一步問題,請通過上述連結提交問題。
WebNN 是否支援其他作系統?
目前,WebNN 最能支援 Windows作系統。 其他作業系統的版本正在開發中。
目前有哪些硬體後端可供使用? 特定硬體後端是否只支援特定模型?
您可以在 WebNN 作業的實作狀態找到 WebNN 中作員支持的相關信息 |Web Machine Learning。
更新適用於 NPU 支援的 Intel 驅動程式的步驟為何(預覽版)?
- 從 Intel 的驅動程式網站找出更新的驅動程式。
- 取消壓縮 ZIP 檔案。
- 按 Win+R 開啟 [執行] 對話框。
- 在文字欄位中輸入 devmgmt.msc。
- 按 Enter 鍵或按兩下 [確定]。
- 在設備管理器中,開啟 [神經處理器] 節點
- 以滑鼠右鍵按下您要更新驅動程式的 NPU。
- 從內容功能表中選取更新驅動程式
- 選取 [瀏覽我的電腦尋找驅動程式]
- 選擇[讓我從電腦上的可用驅動程式清單中挑選]
- 按下 [擁有磁碟] 按鈕
- 按下 [瀏覽] 按鈕
- 流覽至解壓縮上述 zip 檔案的位置。
- 按 [確定]。