Inferência de IA distribuída na documentação do Windows Server

Explore a inferência distribuída de IA no Windows Server. Compare tempos de execução, conecte clientes a pontos de extremidade, desenvolva com SQL Server e planeje a infraestrutura de GPU.

Entenda abordagens de inferência de IA

Visão geral

• Planeje inferência distribuída de IA no Windows Server

Conceito

• O que é o Windows ML?

Planeje aceleração de GPU no Windows Server

Conceito

• Planejar a aceleração de GPU no Windows Server

Explore ambientes de execução de inferência

Introdução

• Comece com o Foundry Local para inferência no dispositivo

Conecte aplicativos e ferramentas para modelar endpoints

Guia de Instruções

• Conecte a CLI do GitHub Copilot a um endpoint de inferência do Windows Server
• Conecte o Visual Studio Code a endpoints de modelos locais e remotos
• Conecte o Intelligent Terminal Preview a um modelo endpoint do Windows Server

Construa soluções de IA com SQL Server

Visão geral

• Aplicativos inteligentes e IA no SQL Server

Configurar GPUs para VMs em cluster

Guia de Instruções

• Usar GPUs com atribuição de dispositivo discreto em VMs clusterizados