Dokumentace k distribuovanému vyvozování pomocí AI v systému Windows Server

Prozkoumejte distribuovanou AI inferenci na Windows Server. Porovnejte runtime, připojujte klienty k koncovým zařízením, stavte s SQL Server a plánujte infrastrukturu GPU.

Pochopte přístupy k AI inferenční analýze

Přehled

• Plánujte distribuovanou AI inferenci na Windows Server

Koncepce

• Co je Windows ML?

Plánování akcelerace GPU v systému Windows Server

Koncepce

• Plánování akcelerace GPU ve Windows Serveru

Prozkoumání časů provádění inference

Začínáme

• Začněte s Foundry Local pro inferenci přímo na zařízení

Propojit aplikace a nástroje s modelovými koncovými body

Praktický průvodce

• Připojte GitHub Copilot CLI k inferenčnímu endpointu Windows Server
• Připojte Visual Studio Code k lokálním a vzdáleným modelovým endpointům
• Připojte Intelligent Terminal Preview k endpointu modelu Windows Server

Vytvářejte AI řešení pomocí SQL Server

Přehled

• Inteligentní aplikace a AI v SQL Server

Konfigurace GPU pro shlukované VM

Praktický průvodce

• Použití GPU s diskrétním přiřazením zařízení v clusterovaných virtuálních počítačích