Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
Windows ML funguje s modely ve formátu ONNX, protože Windows ML je jednoduše distribuční mechanismus poskytující ONNX Runtime a poskytovatele provádění specifické pro hardware. To znamená, že můžete používat miliony stávajících předem natrénovaných modelů z různých zdrojů nebo trénovat vlastní modely. Tato příručka popisuje, kde najít, převést nebo trénovat modely ONNX.
| Možnosti | Podrobnosti |
|---|---|
| 1. Použití modelů ze sady AI Toolkit | Vyberte si z více než 20 modelů OSS (včetně LLM a dalších typů modelů), které jsou připravené k optimalizaci pro použití s Windows ML pomocí nástroje pro převod sady AI Toolkit. |
| 2. Použití jiných existujících modelů ONNX | Procházet více než 30 000 předem předtrénovaných modelů ONNX z Hugging Face nebo jiných zdrojů |
| 3. Převod existujících modelů na formát ONNX | Prohlédněte si více než 2 400 000 předem natrénovaných modelů PyTorch / TensorFlow / atd. z Hugging Face nebo jiných zdrojů a převeďte je na ONNX |
| 4. Vyladění stávajících modelů | Vylaďte více než 2 400 000 modelů předem natrénovaných pomocí PyTorch / TensorFlow / atd. z Hugging Face nebo jiných zdrojů, aby lépe pracovaly ve vašem scénáři, a převeďte je do formátu ONNX. |
| 5. Trénování modelů | Trénování vlastních modelů v PyTorch, TensorFlow nebo jiných architekturách a jejich převodu na ONNX |
Můžete si také vybrat z desítek připravených modelů AI a rozhraní API v Microsoft Foundry ve Windows, které běží přes Windows ML. Další informace najdete v tématu Použití místní umělé inteligence s Microsoft Foundry ve Windows .
Možnost 1: Použití modelů ze sady AI Toolkit
Pomocí nástroje pro převod z AI Toolkit je k dispozici desítky LLM a jiných typů modelů, které jsou připravené na optimalizaci pro použití s Windows ML. Získáním modelu prostřednictvím sady nástrojů AI získáte převedený model ONNX, který je optimalizovaný pro celou řadu hardwaru, na kterém běží Windows ML.
Dostupné modely můžete procházet v seznamu modelů sady AI Toolkit.
Možnost 2: Použití jiných existujících modelů ONNX
Hugging Face hostuje tisíce modelů ONNX, které můžete použít s Windows ML. Modely ONNX najdete podle:
- Procházení Centrem modelů Hugging Face
- Filtrování podle ONNX ve filtru knihovny
Budete muset najít model, který je kompatibilní s verzí modulu runtime ONNX, která je součástí verze Windows ML, kterou používáte. Informace o tom, jakou verzi modulu runtime ONNX používáte se systémem Windows ML, najdete v tématu Verze modulu runtime ONNX dodávaná ve Windows ML .
Možnost 3: Převod existujících modelů na formát ONNX
Modely z PyTorch, TensorFlow nebo jiných architektur je možné převést na formát ONNX a použít s Windows ML.
Hugging Face hostuje miliony modelů, které můžete převést a používat s Windows ML.
Model budete muset převést tak, aby běžel s verzí modulu runtime ONNX, která je součástí verze windows ML, kterou používáte. Informace o tom, jakou verzi modulu runtime ONNX používáte se systémem Windows ML, najdete v tématu Verze modulu runtime ONNX dodávaná ve Windows ML .
Pokud chcete převést model na formát ONNX, projděte si dokumentaci specifickou pro architekturu, například:
Možnost 4: Vyladění existujících modelů
Mnoho modelů na Hugging Face nebo jiných zdrojích je možné doladit (podle pokynů na kartách modelu na Hugging Face). Následně můžete jemně vyladěný model převést na ONNX podle pokynů v možnosti 3 výše.
Oblíbeným způsobem, jak doladit modely, je použití příkazu olive finetune. Další informace o používání Olive najdete v dokumentaci k Olive .
Možnost 5: Trénování modelů
Pokud potřebujete model pro konkrétní úlohu a nemůžete najít existující model, můžete vytrénovat vlastní model v PyTorch, TensorFlow nebo jiných architekturách.
Jakmile model vytrénujete, postupujte podle pokynů v možnosti 3 výše a převeďte model na formát ONNX.
Další kroky
Jakmile máte model ONNX, můžete ho spustit s Windows ML na cílových zařízeních.
- Inicializace poskytovatelů provádění – Stažení a registrace poskytovatelů provádění ve Windows ML
- Spouštění modelů ONNX – Naučte se spouštět odvozování pomocí Windows ML.
Další řešení
Jako součást Microsoft Foundry ve Windows si také můžete vybrat z desítek připravených modelů AI a rozhraní API, které běží přes Windows ML. Další informace najdete v tématu Použití místní umělé inteligence s Microsoft Foundry ve Windows .