Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Ten temat przeprowadza przez najprostszą drogę do uruchomienia modelu ONNX z Windows ML na CPU, a następnie wskazuje na możliwości przyspieszenia sprzętowego, gdy będziesz gotowy.
Aby dowiedzieć się więcej o usłudze Windows ML, zobacz Co to jest uczenie maszynowe systemu Windows.
Wymagania wstępne
- Wersja systemu Windows obsługiwana przez zestaw SDK aplikacji systemu Windows
- Architektura: x64 lub ARM64
- Wymagania wstępne specyficzne dla języka widoczne poniżej
Uwaga / Notatka
Windows aplikacje ML mogą być przeznaczone dla dowolnej wersji Windows obsługiwanej przez Zestaw SDK do aplikacji systemu Windows. Dostawcy wykonania zoptymalizowani pod kątem sprzętu, uzyskiwani za pośrednictwem katalogu Windows ML EP, wymagają systemu Windows 11 w wersji 24H2 (kompilacja 26100) lub nowszej. Aby uzyskać więcej szczegółów, zobacz dostawcy wykonania Windows ML.
- Platforma .NET 8 lub nowsza do korzystania ze wszystkich interfejsów API uczenia maszynowego systemu Windows
- Za pomocą platformy .NET 6 można instalować dostawców wykonywania przy użyciu
Microsoft.Windows.AI.MachineLearninginterfejsów API, ale nie można używaćMicrosoft.ML.OnnxRuntimeinterfejsów API.
- Za pomocą platformy .NET 6 można instalować dostawców wykonywania przy użyciu
- Określanie docelowej wersji serwera TFM specyficznego dla systemu Windows 10, na przykład
net8.0-windows10.0.17763.0lub nowszej
Krok 1. Znajdowanie modelu
Przed napisaniem jakiegokolwiek kodu potrzebny jest model ONNX. Aby uzyskać wskazówki dotyczące uzyskiwania modeli ONNX , zobacz Znajdowanie lub trenowanie modeli .
Krok 2. Instalowanie usługi Windows ML
Zobacz Instalowanie i wdrażanie usługi Windows ML , aby uzyskać pełne instrukcje we wszystkich obsługiwanych językach i trybach wdrażania (zależne od struktury i samodzielne).
Krok 3: Dodaj przestrzenie nazw i nagłówki.
Po zainstalowaniu Windows ML w projekcie, zapoznaj się z Use ONNX APIs (Korzystanie z interfejsów API ONNX), aby uzyskać wskazówki dotyczące używanych przestrzeni nazw i nagłówków.
Krok 4. Uruchamianie modelu ONNX
Po zainstalowaniu systemu Windows ML można uruchamiać modele ONNX na procesorze CPU bez dodatkowej konfiguracji. Aby uzyskać wskazówki, zobacz Uruchamianie modeli ONNX .
W tym momencie aplikacja ma działający proces wnioskowania na CPU.
Krok 5. Opcjonalnie przyspieszanie procesora NPU lub procesora GPU
Chcesz szybszego wnioskowania na NPU, GPU, a nawet CPU? Zobacz Przyspieszanie modeli AI w celu dodania dostawców zapewniających wykonywanie dostrojone sprzętowo dla sprzętu docelowego.
Zobacz także
- Przyspiesz modele sztucznej inteligencji — dodaj dostawców NPU, jednostki GPU lub CPU
- Uruchamianie modeli ONNX — informacje o wnioskowaniu modeli ONNX
- Instalowanie i wdrażanie usługi Windows ML — opcje wdrażania aplikacji przy użyciu uczenia maszynowego z systemem Windows
- Samouczek — kompletny samouczek dotyczący korzystania z usługi Windows ML z modelem ResNet-50
- Przykłady kodu — nasze przykłady kodu korzystające z uczenia maszynowego z systemem Windows