Proveedores de ejecución de Windows ML

Windows ML proporciona proveedores de ejecución para acelerar la inferencia en NPU, GPU y CPU. Para más información sobre la aceleración de la inferencia, consulte Accelerate AI models (Aceleración de modelos de IA).

Proveedores de ejecución incluidos

Los siguientes proveedores de ejecución se incluyen con Windows ML:

  • Unidad Central de Procesamiento (CPU)
  • DirectML (heredado)

Proveedores de ejecución disponibles

A diferencia de los proveedores incluidos, los proveedores de ejecución siguientes no se incluyen con Windows ML; se descargan bajo demanda.

Los proveedores de ejecución que se enumeran a continuación están disponibles en equipos con Windows 11 que ejecutan la versión 24H2 (compilación 26100) o posterior (en función de la compatibilidad de dispositivos y controladores) para la descarga dinámica a través de las API de Windows ML ExecutionProviderCatalog . Para usar estos proveedores, consulte Instalación de EPs de Windows ML y Registro de EPs de Windows ML. Para ver qué versión de cada EP está disponible actualmente y obtener información sobre los próximos lanzamientos, consulte Lanzamientos del proveedor de ejecución Windows ML.

Los siguientes proveedores de ejecución están disponibles para los desarrolladores que usan Microsoft. WindowsAppSDK.ML o Microsoft.Windows. IA. MachineLearning versión 2.x:

Proveedor de ejecución EpName Proveedor
GPU de AMD AMDGPUExecutionProvider AMD
NvTensorRtRtx NvTensorRtRtxExecutionProvider NVIDIA
OpenVINO OpenVINOExecutionProvider Intel
QNN QNNExecutionProvider Qualcomm
VitisAI VitisAIExecutionProvider AMD
WebGPU (Experimental) WebGpuExecutionProvider Microsoft
MIGraphX (en desuso) MIGraphXExecutionProvider AMD

Antes de que la aplicación use un proveedor de ejecución, asegúrese de leer las licencias correspondientes al proveedor de ejecución. Para obtener la lista completa de términos de licencia de terceros, consulte Avisos de terceros de Windows ML.

GPU de AMD (AMD)

El proveedor de ejecución de GPU de AMD (AMDGPUExecutionProvider) permite la inferencia de IA acelerada por hardware en dispositivos GPU de AMD compatibles. Proporciona una interfaz unificada que selecciona automáticamente el back-end de aceleración amd más adecuado en función del hardware y la carga de trabajo disponibles, lo que proporciona un rendimiento optimizado en las plataformas DE GPU amd.

Información del proveedor de ejecución

NvTensorRtRtx (NVIDIA)

OpenVINO (Intel)

QNN (Qualcomm)

  • EpName: "QNNExecutionProvider"
  • Requisitos:
    • Snapdragon(R) X Elite - X1Exxxxx
      • Qualcomm(R) Hexagon(TM) NPU con controlador versión 30.0.140.0 o posterior
    • Snapdragon(R) X Plus - X1Pxxxxx
      • Qualcomm(R) Hexagon(TM) NPU con controlador versión 30.0.140.0 o posterior
  • Documentación: Documentación
  • Soporte técnico: soporte técnico
  • Términos de licencia: consulte QNN en los avisos de terceros de Windows ML.
  • Historial de versiones y lanzamientos: Lanzamientos del proveedor de ejecución de Windows ML

VitisAI (AMD)

WebGPU (experimental)

Importante

WebGPU EP es experimental y requiere la instalación de paquetes NuGet experimentales. No está disponible en Windows ML 1.8.x. Para obtener detalles de uso completos, consulte WebGPU EP.

Historial de versiones y lanzamientos
Versión de MSIX Notas de la versión de WebGPU EP
0.4.0.0 0.4.0
0.3.0.0 0.3.0
0.2.1.0 0.2.1
0.1.0.0 0.1.0

MIGraphX (AMD)

Importante

MIGraphXExecutionProviderestá en desuso en Windows ML 2.x. AMD recomienda realizar la transición a AMDGPUExecutionProvider para todos los dispositivos AMD GPU. MIGraphXExecutionProvider se retirará de la interfaz de LA API de Windows ML con una nueva versión principal de Windows ML.

Información del proveedor de ejecución

Consulte también