API веб-нейронной сети (WebNN) — это новый веб-стандарт, позволяющий веб-приложениям и фреймворкам ускорять глубокие нейронные сети с помощью GPU, ЦПУ или специально созданных акселераторов ИИ, таких как нейронные процессоры (NPUs). API WebNN использует API DirectML в Windows для доступа к собственным возможностям оборудования и оптимизации выполнения моделей нейронной сети.
Поскольку использование искусственного интеллекта и машинного обучения в приложениях становится более популярным, API WebNN предоставляет следующие преимущества:
оптимизации производительности – Используя DirectML, WebNN помогает веб-приложениям и фреймворкам воспользоваться преимуществами оптимизации оборудования и программного обеспечения для каждой платформы и устройства, не требуя сложного и специфичного для платформы кода.
режим низкой задержки - Вычисления в браузере помогают реализовать новые варианты использования с локальными мультимедийными источниками, например, анализ видео в режиме реального времени, обнаружение лиц и распознавание речи, без необходимости отправки данных на удалённые серверы и ожидания ответов.
сохранение конфиденциальности . Данные пользователей остаются на устройстве и сохраняют конфиденциальность пользователей, так как веб-приложения и платформы не должны передавать конфиденциальную или личную информацию в облачные службы для обработки.
высокий уровень доступности . Не зависит от сети после первоначального кэширования ресурсов в автономном случае, так как веб-приложения и платформы могут локально запускать модели нейронной сети, даже если подключение к Интернету недоступно или ненадежно.
низкая стоимость серверов - Использование клиентских устройств для вычислений означает, что серверы не нужны, что позволяет веб-приложениям сократить затраты на эксплуатацию и обслуживание служб ИИ/МО в облаке.
Сценарии ИИ/ML, поддерживаемые WebNN, включают генерацию ИИ, обнаружение людей, обнаружение лиц, семантическую сегментацию, обнаружение скелетов, перенос стилей, суперразрешение, описание изображения, машинный перевод и подавление шума.
Ескерім
API WebNN по-прежнему разрабатывается с поддержкой GPU и NPU в стадии предварительной версии. В настоящее время API WebNN не следует использовать в рабочей среде.
Поддержка платформы
WebNN разработан в качестве серверного API для веб-платформ. Для Windows рекомендуется использовать веб-среды выполнения ONNX. Это обеспечивает знакомый опыт использования DirectML и ONNX Runtime на нативной платформе, чтобы гарантировать единообразное развертывание ИИ в формате ONNX как в веб-приложениях, так и в нативных приложениях.
Требования к WebNN
Вы можете проверить сведения о браузере, перейдя к about://version в адресной строке браузера chromium.
Аппаратное обеспечение
Веб-браузеры
Версия Windows
Веб-версия среды выполнения ONNX
Версия драйвера
GPU
Для WebNN требуется браузер Chromium*. Используйте последнюю версию бета-версии Microsoft Edge.
Минимальная версия: Windows 11 версии 21H2.
Минимальная версия: 1.18
Установите последний драйвер для оборудования.
NPU
Для WebNN требуется браузер Chromium*. Используйте последнюю версию Microsoft Edge Canary. См. примечание ниже по отключению списка блокировок GPU.
Минимальная версия: Windows 11 версии 21H2.
Минимальная версия: 1.18
Версия драйвера Intel: 32.0.100.2381. Ознакомьтесь с часто задаваемыми вопросами о том, как обновить драйвер.
Ескерім
Браузеры на основе Chromium в настоящее время могут поддерживать WebNN, но будут зависеть от состояния реализации отдельного браузера.
Ескерім
Для поддержки NPU запустите edge из командной строки со следующим флагом: msedge.exe --disable_webnn_for_npu=0
Поддержка модели
GPU (предварительная версия):
При запуске на gpu, WebNN в настоящее время поддерживает следующие модели:
В случае проблем с средой выполнения ONNX Runtime Web или с поставщиком выполнения WebNN перейдите на ONNXRuntime Github.
Как выполнять отладку проблем с WebNN?
Спецификация W3C WebNN содержит сведения о распространении ошибок, как правило, с помощью исключений DOM. Журнал в конце about://gpu также может содержать полезные сведения. Для дальнейших проблем отправьте файл проблемы, как описано выше.
Поддерживает ли WebNN другие операционные системы?
В настоящее время WebNN лучше всего поддерживает операционную систему Windows. Ведётся работа над версиями для других операционных систем.
Какие аппаратные внутренние компоненты сейчас доступны? Поддерживаются ли некоторые модели только с определенными аппаратными внутренними устройствами?
Продемонстрировать основные понятия ИИ, связанные с разработкой программного обеспечения и служб Microsoft Azure для создания решений искусственного интеллекта.
В этом руководстве показано, как использовать API WebNN для создания системы классификации изображений в Интернете, которая является аппаратным ускорением с помощью GPU на устройстве.
Связывание DirectML с средой выполнения ONNX часто является самым простым способом для многих разработчиков, чтобы обеспечить ускорение искусственного интеллекта для своих пользователей в масштабе.