Inferensi AI terdistribusi pada dokumentasi Windows Server

Jelajahi inferensi AI terdistribusi di Windows Server. Bandingkan runtime, hubungkan klien ke endpoint, bangun dengan SQL Server, dan rencanakan infrastruktur GPU.

Memahami pendekatan inferensi AI

Gambaran Umum

• Rencanakan inferensi AI terdistribusi di Windows Server

Konsep

• Apa itu Windows ML?

Rencanakan akselerasi GPU di Windows Server

Konsep

• Merencanakan akselerasi GPU di Windows Server

Jelajahi lingkungan runtime inferensi

Memulai

• Mulai dengan Foundry Local untuk inferensi di perangkat

Hubungkan aplikasi dan alat untuk memodelkan endpoint

Panduan Penggunaan

• Hubungkan CLI GitHub Copilot ke endpoint inferensi Windows Server
• Hubungkan Visual Studio Code ke endpoint model lokal dan jarak jauh
• Hubungkan Intelligent Terminal Preview ke endpoint model Windows Server

Bangun solusi AI dengan SQL Server

Gambaran Umum

• Aplikasi cerdas dan AI di SQL Server

Konfigurasikan GPU untuk VM yang terklaster

Panduan Penggunaan

• Menggunakan GPU dengan Penugasan Perangkat Diskrit dalam VM terkluster