Vyhledání nebo trénování modelů pro Windows ML

Windows ML je kompatibilní s modely formátu ONNX, protože Windows ML je Windows podporovanou distribucí modulu ONNX Runtime a poskytovatelů výkonu specifických pro hardware. To znamená, že můžete používat miliony stávajících předem natrénovaných modelů z různých zdrojů nebo trénovat vlastní modely. Tato příručka popisuje, kde najít, převést nebo trénovat modely ONNX.

Další informace o Windows ML najdete v tématu Co je Windows ML.

Možnosti Podrobnosti
1. Použití modelů ze sady Foundry Toolkit Vyberte si z více než 20+ OSS modelů (včetně LLM a dalších typů modelů), které jsou připraveny k optimalizaci pro použití s Windows ML pomocí konverzního nástroje Foundry Toolkit.
2. Použití jiných existujících modelů ONNX Procházet více než 30 000 předem předtrénovaných modelů ONNX z Hugging Face nebo jiných zdrojů
3. Převod existujících modelů na formát ONNX Prohlédněte si více než 2 400 000 předem natrénovaných modelů PyTorch / TensorFlow / atd. z Hugging Face nebo jiných zdrojů a převeďte je na ONNX
4. Vyladění stávajících modelů Vylaďte více než 2 400 000 modelů předem natrénovaných pomocí PyTorch / TensorFlow / atd. z Hugging Face nebo jiných zdrojů, aby lépe pracovaly ve vašem scénáři, a převeďte je do formátu ONNX.
5. Trénování modelů Trénování vlastních modelů v PyTorch, TensorFlow nebo jiných architekturách a jejich převodu na ONNX

Můžete si také vybrat z desítek připravených modelů AI a rozhraní API v Microsoft Foundry na Windows, které běží prostřednictvím Windows ML. Další informace najdete v tématu Použití místní umělé inteligence s Microsoft Foundry na Windows.

Možnost 1: Použití modelů ze sady Foundry Toolkit

S nástrojem pro převod sady Foundry Toolkit je k dispozici desítky LLM a dalších typů modelů, které jsou připravené k optimalizaci a použití s Windows ML. Získáním modelu přes Foundry Toolkit získáte převedený model ONNX, který je optimalizovaný pro celou řadu hardwaru, na kterém běží Windows ML.

Pokud chcete procházet dostupné modely, podívejte se na seznam modelů sady Foundry Toolkit.

Možnost 2: Použití jiných existujících modelů ONNX

Hugging Face hostuje tisíce modelů ONNX, které můžete použít s Windows ML. Modely ONNX najdete podle:

  1. Procházení Centrem modelů Hugging Face
  2. Filtrování podle ONNX ve filtru knihovny

Budete muset najít model, který je kompatibilní s verzí modulu runtime ONNX, která je součástí verze Windows ML, kterou používáte. Informace o tom, jakou verzi modulu runtime ONNX používáte s Windows ML, najdete v verzích modulu runtime ONNX zahrnutých ve Windows ML.

Možnost 3: Převod existujících modelů na formát ONNX

Modely z PyTorch, TensorFlow nebo jiných architektur lze převést na formát ONNX a použít s Windows ML.

Hugging Face hostuje miliony modelů, které můžete převést a používat s Windows ML.

Model budete muset převést tak, aby běžel s verzí modulu runtime ONNX, která je součástí verze Windows ML, kterou používáte. Informace o tom, jakou verzi modulu runtime ONNX používáte s Windows ML, najdete v verzích modulu runtime ONNX zahrnutých ve Windows ML.

Pokud chcete převést model na formát ONNX, projděte si dokumentaci specifickou pro architekturu, například:

Možnost 4: Vyladění existujících modelů

Mnoho modelů na Hugging Face nebo jiných zdrojích je možné doladit (podle pokynů na kartách modelu na Hugging Face). Následně můžete jemně vyladěný model převést na ONNX podle pokynů v možnosti 3 výše.

Oblíbeným způsobem, jak doladit modely, je použití příkazu olive finetune. Další informace o používání Olive najdete v dokumentaci k Olive .

Možnost 5: Trénování modelů

Pokud potřebujete model pro konkrétní úlohu a nemůžete najít existující model, můžete vytrénovat vlastní model v PyTorch, TensorFlow nebo jiných architekturách.

Jakmile model vytrénujete, postupujte podle pokynů v možnosti 3 výše a převeďte model na formát ONNX.

Další kroky

Jakmile máte model ONNX, můžete ho spustit pomocí Windows ML na cílových zařízeních.

  • Instalace poskytovatelů programu Windows ML – Stažení a instalace zprostředkovatelů spouštění ve Windows ML
  • Run onNX models – Naučte se spouštět odvozování pomocí Windows ML.

Další řešení

Jako součást Microsoft Foundry na Windows si také můžete vybrat z desítek připravených modelů AI a rozhraní API, které běží prostřednictvím Windows ML. Další informace najdete v tématu Použití místní umělé inteligence s Microsoft Foundry na Windows.

  • Last updated on