Compartir a través de

Introducción a WebNN

La API de red neuronal web (WebNN) es un estándar web emergente que permite a las aplicaciones web y marcos acelerar las redes neuronales profundas con GPU, CPU o aceleradores de IA creados específicamente, como NPUs. La API de WebNN aprovecha la API de DirectML en Windows para acceder a las funcionalidades de hardware nativas y optimizar la ejecución de modelos de red neuronal.

A medida que el uso de IA/ML en aplicaciones es más popular, la API de WebNN proporciona las siguientes ventajas:

  • Optimizaciones de rendimiento : al usar DirectML, WebNN ayuda a permitir que las aplicaciones web y los marcos aprovechen las mejores optimizaciones de hardware y software disponibles para cada plataforma y dispositivo, sin necesidad de código complejo y específico de la plataforma.
  • Baja latencia : la inferencia en el explorador ayuda a habilitar nuevos casos de uso con orígenes multimedia locales, como análisis de vídeo en tiempo real, detección de caras y reconocimiento de voz, sin necesidad de enviar datos a servidores remotos y esperar respuestas.
  • Conservación de la privacidad: los datos de usuario permanecen en el dispositivo y conservan la privacidad del usuario, ya que las aplicaciones web y los marcos no necesitan cargar información confidencial o personal en los servicios en la nube para su procesamiento.
  • Alta disponibilidad : no depende de la red después del almacenamiento en caché inicial de recursos para casos sin conexión, ya que las aplicaciones web y los marcos pueden ejecutar modelos de red neuronal localmente incluso cuando la conexión a Internet no está disponible o no es confiable.
  • Bajo costo de servidor : la computación en dispositivos cliente significa que no se necesitan servidores, lo que ayuda a las aplicaciones web a reducir los costos operativos y de mantenimiento de la ejecución de servicios de inteligencia artificial y aprendizaje automático en la nube.

Los escenarios de IA/ML admitidos por WebNN incluyen IA generativa, detección de personas, detección de caras, segmentación semántica, detección de esqueletos, transferencia de estilo, superresolución, generación de subtítulos de imagen, traducción automática y supresión de ruido.

Nota:

La API de WebNN todavía está en curso, con compatibilidad con GPU y NPU en un estado de versión preliminar. La API de WebNN no debe usarse actualmente en un entorno de producción.

Soporte de marco

WebNN está diseñado como una API de back-end para marcos web. Para Windows, se recomienda usar ONNX Runtime Web. Esto proporciona una experiencia familiar para usar DirectML y ONNX Runtime de forma nativa para que pueda tener una experiencia coherente con la implementación de IA en formato ONNX en aplicaciones web y nativas.

Requisitos de WebNN

Para comprobar información sobre el explorador, vaya a about://version en la barra de direcciones del explorador chromium.

Equipamiento Exploradores web Versión de Windows Versión web de ONNX Runtime Versión del controlador
GPU WebNN requiere un explorador Chromium*. Use la versión más reciente de Microsoft Edge Beta. Versión mínima: Windows 11, versión 21H2. Versión mínima: 1.18 Instale el controlador más reciente para el hardware.
NPU (Unidad Nacional de Acción WebNN requiere un explorador Chromium*. Use la versión más reciente de Microsoft Edge Canary. Consulte la nota siguiente para ver cómo deshabilitar la lista de bloqueos de GPU. Versión mínima: Windows 11, versión 21H2. Versión mínima: 1.18 Versión del controlador Intel: 32.0.100.2381. Consulte preguntas más frecuentes sobre los pasos sobre cómo actualizar el controlador.

Diagrama de la estructura detrás de la integración de WebNN en la aplicación web

Nota:

Los exploradores basados en Chromium actualmente pueden admitir WebNN, pero dependerán del estado de implementación del explorador individual.

Nota:

Para la compatibilidad con NPU, inicie edge desde la línea de comandos con la marca siguiente: msedge.exe --disable_webnn_for_npu=0

Compatibilidad con los modelos

GPU (versión preliminar):

Al ejecutarse en GPU, WebNN admite actualmente los siguientes modelos:

WebNN también funciona con modelos personalizados siempre que la compatibilidad con operadores sea suficiente. Compruebe el estado de los operadores aquí.

NPU (versión preliminar)

En los procesadores Intel® Core™ Ultra con el NPU Intel® AI Boost, WebNN admite:

Preguntas más frecuentes

¿Cómo puedo archivar un problema con WebNN?

Para problemas generales con WebNN, envíe un problema en nuestra versión preliminar para desarrolladores de WebNN en GitHub.

Para problemas con ONNX Runtime Web o el Proveedor de Ejecución de WebNN, vaya al ONNXRuntime Github.

¿Cómo se depuran problemas con WebNN?

La especificación W3C de WebNN tiene información sobre la propagación de errores, normalmente a través de excepciones DOM. El registro al final de about://gpu también puede tener información útil. Para otros problemas, envíe una incidencia como se indica anteriormente.

¿Admite WebNN otros sistemas operativos?

Actualmente, WebNN admite mejor el sistema operativo Windows. Las versiones de otros sistemas operativos están en curso.

¿Qué back-ends de hardware están disponibles actualmente? ¿Algunos modelos solo se admiten con back-ends de hardware específicos?

Puede encontrar información sobre la compatibilidad con operadores en WebNN en Estado de implementación de operaciones de WebNN | Aprendizaje automático web.

¿Cuáles son los pasos para actualizar el controlador Intel para la compatibilidad con NPU (versión preliminar)?

  1. Busque el controlador actualizado desde el sitio web del controlador de Intel.
  2. Descomprima el archivo ZIP.
  3. Presione Win+R para abrir el cuadro de diálogo Ejecutar.
  4. Escriba devmgmt.msc en el campo de texto.
  5. Presione Entrar o haga clic en Aceptar.
  6. En el Administrador de dispositivos, abra el nodo "Procesadores neuronales"
  7. Haga clic con el botón derecho en la NPU cuyo controlador desea actualizar.
  8. Seleccione "Update Driver" (Actualizar controlador) en el menú contextual.
  9. Seleccione "Examinar mi equipo para controladores"
  10. Seleccione "Permitirme elegir de una lista de controladores disponibles en mi equipo"
  11. Presione el botón "Tener disco".
  12. Presione el botón "Examinar".
  13. Navegue hasta el lugar donde descomprimió el archivo ZIP mencionado anteriormente.
  14. Presione Aceptar.