共用方式為

WebNN 概觀

  • 發行項

Web 類神經網路 （WebNN） API 是新興的 Web 標準，可讓 Web 應用程式和架構使用 GPU、CPU 或目的建置 AI 加速器，例如 NPU 來加速深度神經網路。 WebNN API 會利用 Windows 上的 DirectML API 來存取原生硬體功能，並將神經網路模型的執行優化。

隨著在應用程式中使用 AI/ML 變得更受歡迎，WebNN API 提供下列優點：

  • 效能優化 – 利用 DirectML，WebNN 有助於讓 Web 應用程式和架構利用每個平臺和裝置的最佳可用硬體和軟體優化，而不需要複雜且平臺特定的程式代碼。
  • 低延遲 - 瀏覽器內推斷可協助啟用本機媒體來源的新使用案例，例如即時視訊分析、臉部偵測和語音辨識，而不需要將數據傳送至遠端伺服器並等候回應。
  • 隱私權保護 - 用戶數據會保留在裝置上並保留用戶隱私權，因為 Web 應用程式和架構不需要將敏感性或個人資訊上傳至雲端服務進行處理。
  • 高可用性 - 在初始資產快取離線案例之後，不依賴網路，因為 Web 應用程式和架構可以在本機執行類神經網路模型，即使因特網連線無法使用或不可靠也一樣。
  • 低伺服器成本 - 用戶端裝置上的運算表示不需要任何伺服器，這可協助 Web 應用程式降低在雲端中執行 AI/ML 服務的作業和維護成本。

WebNN 支援的 AI/ML 包括產生 AI、人員偵測、臉部偵測、語意分割、基本架構偵測、樣式傳輸、超解析度、影像 標題、機器翻譯和噪音抑制。

注意

WebNN API 仍在進行中，GPU 支援處於預覽狀態，NPU 支援即將推出。 WebNN API 目前不應用於生產環境。

架構支援

WebNN 設計為 Web 架構的後端 API。 針對 Windows，我們建議使用 ONNX 運行時間 Web。 這可讓您熟悉以原生方式使用 DirectML 和 ONNX 運行時間的體驗，讓您可以在 Web 和原生應用程式之間以 ONNX 格式部署 AI。

WebNN 需求

您可以在 chromium 瀏覽器的網址列中瀏覽至 about://version，以檢查瀏覽器的相關信息。

硬體 網頁瀏覽器 Windows 版本 ONNX 運行時間 Web 版本 驅動程式版本
GPU WebNN 需要 Chromium 瀏覽器*。 請使用最新版本的 Microsoft Edge Beta。 最低版本：Windows 11 版本 21H2。 最低版本：1.18 安裝您硬體的最新驅動程式。

將 WebNN 整合到 Web 應用程式背後的結構圖表

注意

Chromium 型瀏覽器目前可支援 WebNN，但將取決於個別瀏覽器的實作狀態。

模型支援

GPU （預覽）：

在 GPU 上執行時，WebNN 目前支援下列模型：

只要操作員支持足夠，WebNN 也適用於自定義模型。 在這裡檢查運算子的狀態。

常見問題集

如何? 提出 WebNN 的問題嗎？

如需 WebNN 的一般問題，請在 WebNN 開發人員預覽 GitHub 上提出問題

如需 ONNX 運行時間 Web 或 WebNN 執行提供者的問題，請移至 ONNXRuntime Github。

如何? WebNN 的偵錯問題嗎？

WebNN W3C 規格有錯誤傳播的相關信息，通常是透過 DOM 例外狀況。 about://gpu 結尾的記錄檔可能也有有用的資訊。 如需進一步的問題，請提出上述鏈接的問題。

WebNN 是否支援其他作業系統？

目前，WebNN 最能支援 Windows 作業系統。 Mac 作業系統的版本正在進行中。

目前有哪些硬體後端可供使用？ 特定硬體後端是否只支援特定模型？

您可以在 WebNN 作業的實作狀態找到 WebNN 中操作員支援的相關信息 |Web 機器學習。