Inferencia de IA distribuida en la documentación de Windows Server

Explora la inferencia de IA distribuida en Windows Server. Compara los runtimes, conecta clientes con endpoints, construye con SQL Server y planifica la infraestructura de la GPU.

Comprender los enfoques de inferencia de IA

Información general

• Planear la inferencia distribuida de IA en Windows Server

Concepto

• ¿Qué es Windows ML?

Planifica la aceleración de GPU en Windows Server

Concepto

• Planeamiento de la aceleración de GPU en Windows Server

Explorar los tiempos de ejecución de inferencia

Introducción

• Empieza con Foundry Local para la inferencia en el dispositivo

Conecta aplicaciones y herramientas para modelar endpoints

Guía paso a paso

• Conecta la CLI de GitHub Copilot a un endpoint de inferencia de Windows Server
• Conecta Visual Studio Code a los extremos de modelos locales y remotos
• Conecta Intelligent Terminal Preview a un punto final modelo de Windows Server

Crea soluciones de IA con SQL Server

Información general

• Aplicaciones inteligentes e inteligencia artificial en SQL Server

Configurar GPUs para máquinas virtuales agrupadas en clústeres

Guía paso a paso

• Uso de GPU con asignación de dispositivos discretos en máquinas virtuales en clúster