Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Windows ML работает с моделями формата ONNX, так как Windows ML — это просто механизм распространения, предоставляющий ONNX Runtime и поставщиков выполнения, зависящих от оборудования. Это означает, что вы можете использовать миллионы существующих предварительно обученных моделей из различных источников или обучить собственные модели. В этом руководстве описывается, где можно найти, преобразовать или обучить модели ONNX.
| Options | Сведения |
|---|---|
| 1. Использование моделей из набора средств искусственного интеллекта | Выберите из более 20 моделей OSS (включая модели LLM и другие типы моделей), которые готовы к оптимизации для использования с Windows ML с помощью средства преобразования AI Toolkit |
| 2. Использование других существующих моделей ONNX | Изучите более 30 000 предварительно обученных моделей ONNX на платформе Hugging Face или из других источников. |
| 3. Преобразование существующих моделей в формат ONNX | Просмотрите более 2400 000+ предварительно обученных моделей PyTorch / TensorFlow / и т. д. из Hugging Face или других источников и преобразуйте их в ONNX |
| 4. Настройка существующих моделей | Тонко настройте более 2 400 000 предварительно обученных моделей PyTorch / TensorFlow / т. д., полученных из источников, таких как Hugging Face, или других источников, чтобы они лучше подходили для вашего сценария и могли быть преобразованы в формат ONNX. |
| 5. Обучение моделей | Обучайте свои собственные модели в PyTorch, TensorFlow или других фреймворках и преобразуйте их в ONNX. |
Вы также можете выбрать из десятков готовых моделей ИИ и API в Microsoft Foundry в Windows, которые выполняются с помощью Машинного обучения Windows. Дополнительные сведения см. в статье "Использование локального ИИ с помощью Microsoft Foundry в Windows ".
Вариант 1. Использование моделей из набора средств искусственного интеллекта
С инструментом преобразования AI Toolkit доступны десятки LLM и других типов моделей, готовых к оптимизации для использования с Windows ML. Получив модель с помощью ai Toolkit, вы получите преобразованную модель ONNX, оптимизированную для различных оборудования, на котором работает Windows ML.
Сведения о доступных моделях см. в списке моделей набора средств ИИ.
Вариант 2. Использование других существующих моделей ONNX
Hugging Face размещает тысячи моделей ONNX, которые можно использовать с Windows ML. Модели ONNX можно найти следующими способами:
- Просмотр Центра моделей распознавания лиц
- Фильтрация по ONNX в фильтре библиотеки
Вам потребуется найти модель, совместимую с версией среды выполнения ONNX, включенной в версию Windows ML, которую вы используете. Ознакомьтесь с версиями среды выполнения ONNX, отправленными в Windows ML , чтобы узнать, какая версия среды выполнения ONNX используется с Windows ML.
Вариант 3. Преобразование существующих моделей в формат ONNX
Модели из PyTorch, TensorFlow или других платформ можно преобразовать в формат ONNX и использовать с Windows ML.
Hugging Face хостит миллионы моделей, которые можно преобразовать и использовать с Windows ML.
Вам потребуется преобразовать модель для запуска с версией среды выполнения ONNX, включенной в используемую версию Windows ML. Ознакомьтесь с версиями среды выполнения ONNX, отправленными в Windows ML , чтобы узнать, какая версия среды выполнения ONNX используется с Windows ML.
Чтобы преобразовать модель в формат ONNX, см. документацию для конкретной платформы, например:
Вариант 4. Настройка существующих моделей
Многие модели на Hugging Face или из других источников можно точно настроить (следуя инструкциям на карточках моделей на Hugging Face). Затем можно преобразовать настраиваемую модель в ONNX, следуя инструкциям, приведенным выше в варианте 3.
Популярный способ донастройки моделей — использовать команду olive finetune. См. документацию Olive, чтобы узнать больше об использовании Olive.
Вариант 5. Обучение моделей
Если вам нужна модель для конкретной задачи и вы не можете найти существующую модель, вы можете обучить свою собственную в PyTorch, TensorFlow или других фреймворках.
После обучения модели следуйте инструкциям в варианте 3 выше, чтобы преобразовать модель в формат ONNX.
Дальнейшие шаги
Получив модель ONNX, ее можно запустить с помощью Windows ML на целевых устройствах.
- Инициализация поставщиков вычислительных операций: скачивание и регистрация поставщиков в Windows ML
- Запуск моделей ONNX . Узнайте, как выполнять вывод с помощью Windows ML
Другие решения
В составе Microsoft Foundry в Windows вы также можете выбрать из десятков готовых моделей ИИ и API, которые выполняются с помощью Windows ML. Дополнительные сведения см. в статье "Использование локального ИИ с помощью Microsoft Foundry в Windows ".