A Windows Serveren végzett elosztott AI-inferencia dokumentációja

Fedezze fel a Windows Server-en található elosztott AI következtetéseket. Hasonlítsd össze a futásidőket, kapcsold az ügyfeleket a végpontokhoz, építs SQL Server-szel, és tervezd meg a GPU infrastruktúrát.

Értsd meg az MI következtetési megközelítéseket

Áttekintés

• Az elosztott AI-inferencia megtervezése Windows Server rendszeren

Fogalom

• Mi az Windows ML?

GPU gyorsítás tervezése a Windows Server-ben

Fogalom

• GPU-gyorsítás tervezése Windows Serveren

Fedezd fel az inferencia futóidejét

Bevezetés

• Kezdj el a Foundry Local használatával az eszközön indukcióhoz

Alkalmazások és eszközök kapcsolása a végpontok modellezéséhez

Útmutató

• Csatlakoztassa a GitHub Copilot CLI-t egy Windows Server következtetési végponthoz
• Kapcsold össze a Visual Studio Code-ot helyi és távoli modellvégpontokhoz
• Kapcsolja az Intelligent Terminal előzetes verzióját egy Windows Server-modellvégponthoz

MI megoldások építése SQL Server-rel

Áttekintés

• Intelligens alkalmazások és AI a SQL Server

GPU-k konfigurálása klaszterezett VM-ekhez

Útmutató

• A fürtözött virtuális gépeken diszkrét eszköz-hozzárendeléssel való GPU-használat