Dokumentacja wnioskowania rozproszonej AI w Windows Server

Poznaj rozproszone wnioskowanie AI na Windows Server. Porównuj runtime, łącz klientów z punktami końcowymi, buduj z SQL Server i planuj infrastrukturę GPU.

Zrozumienie podejść do wnioskowania AI

Omówienie

• Plan rozproszonego wnioskowania AI na Windows Server

Pojęcie

• Co to jest Windows ML?

Planuj akcelerację GPU w Windows Server

Pojęcie

• Planowanie przyspieszania procesora GPU w systemie Windows Server

Eksploruj czasy wykonawcze wnioskowania

Rozpocznij

• Rozpocznij pracę z Foundry Local na potrzeby wnioskowania na urządzeniu

Połącz aplikacje i narzędzia do modelowania punktów końcowych

Przewodnik z instrukcjami

• Połącz GitHub Copilot CLI z punktem końcowym inferencji Windows Server
• Połącz Visual Studio Code z lokalnymi i zdalnymi endpointami modeli
• Podłącz Intelligent Terminal Preview do punktu końcowego modelu Windows Server

Buduj rozwiązania AI z wykorzystaniem SQL Server

Omówienie

• Inteligentne aplikacje i sztuczna inteligencja w SQL Server

Konfiguruj GPU dla klastrowanych maszyn wirtualnych

Przewodnik z instrukcjami

• Używanie procesorów GPU z dyskretnym przypisaniem urządzenia na klastrowanych maszynach wirtualnych