Inferenza AI distribuita nella documentazione di Windows Server

Esplora l'inferenza AI distribuita su Windows Server. Confronta i runtime, collega i client agli endpoint, compila con SQL Server e pianifica l'infrastruttura GPU.

Comprendere gli approcci di inferenza AI

Panoramica

• Pianifica l'inferenza AI distribuita su Windows Server

Concetto

• Che cos'è Windows ML?

Pianifica l'accelerazione GPU in Windows Server

Concetto

• Pianificare l'accelerazione GPU in Windows Server

Esplora i runtime di inferenza

Operazioni preliminari

• Introduzione a Foundry Local per l'inferenza sul dispositivo

Collega app e strumenti per modellare endpoint

Guida pratica

• Collega la CLI di GitHub Copilot a un endpoint di inferenza di Windows Server
• Connetti Visual Studio Code agli endpoint dei modelli locali e remoti
• Collega Intelligent Terminal Preview a un endpoint modello Windows Server

Costruisci soluzioni di IA con SQL Server

Panoramica

• Applicazioni intelligenti e intelligenza artificiale in SQL Server

Configura le GPU per le VM clusterate

Guida pratica

• Usare GPU con assegnazione di dispositivi discreti nelle macchine virtuali in cluster