Gedistri­bueerde AI-inferentie op Windows Server-documentatie

Onderzoek gedistribueerde AI-inferentie op Windows Server. Vergelijk runtimes, verbind clients met endpoints, bouw met SQL Server en plan GPU-infrastructuur.

Begrijp AI-inferentiebenaderingen

Overzicht

• Plan gedistribueerde AI-inferentie op Windows Server

Concept

• Wat is Windows ML?

GPU-versnelling plannen in Windows Server

Concept

• Plannen voor GPU-versnelling in Windows Server

Verken runtimes voor inferentie

Aan de slag

• Begin met Foundry Local voor inferentie op het apparaat

Verbind apps en tools met model-endpoints

Instructies

• Verbind GitHub Copilot CLI met een Windows Server inferentie-endpoint
• Verbind Visual Studio Code met lokale en externe modeleindpunten
• Verbind Intelligent Terminal Preview met een Windows Server-model-endpoint

Bouw AI-oplossingen met SQL Server

Overzicht

• Intelligente toepassingen en AI in SQL Server

Configuratie GPU's voor geclusterde VM's

Instructies

• GPU's gebruiken met discrete apparaattoewijzing in geclusterde VM's