Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
O Windows ML funciona com modelos de formato ONNX, já que o Windows ML é simplesmente um mecanismo de distribuição que fornece o ONNX Runtime e provedores de execução específicos de hardware. Isso significa que você pode usar milhões de modelos pré-treinados existentes de várias fontes ou treinar seus próprios modelos. Este guia aborda onde localizar, converter ou treinar modelos ONNX.
| Opções | Detalhes |
|---|---|
| 1. Usar modelos do Kit de Ferramentas de IA | Escolha entre mais de 20 modelos de OSS (incluindo LLMs e outros tipos de modelos) prontos para otimização para uso com o Windows ML usando a ferramenta de conversão do Kit de Ferramentas de IA |
| 2. Usar outros modelos ONNX existentes | Navegue por mais de 30.000 modelos ONNX pré-treinados da Hugging Face ou de outras fontes |
| 3. Converter modelos existentes no formato ONNX | Navegue por mais de 2.400.000 modelos pré-treinados do PyTorch / TensorFlow / etc da Hugging Face ou outras fontes e converta-os em ONNX |
| 4. Ajustar modelos existentes | Ajuste mais de 2.400.000 modelos pré-treinados de PyTorch/TensorFlow/etc da Hugging Face ou outras fontes para funcionar melhor para o seu cenário (e convertê-los para o formato ONNX) |
| 5. Treinar modelos | Treine seus próprios modelos em PyTorch, TensorFlow ou outras estruturas e converta-os em ONNX |
Você também pode escolher entre dezenas de modelos de IA prontos para uso e APIs no Microsoft Foundry no Windows, que são executados por meio do Windows ML. Consulte Usar a IA local com o Microsoft Foundry no Windows para saber mais.
Opção 1: usar modelos do Kit de Ferramentas de IA
Com a ferramenta conversão do Kit de Ferramentas de IA, há dezenas de LLMs e outros tipos de modelos prontos para otimização para uso com o Windows ML. Ao obter um modelo por meio do Kit de Ferramentas de IA, você obterá um modelo ONNX convertido otimizado para a variedade de hardware em que o Windows ML é executado.
Para procurar os modelos disponíveis, consulte a Lista de Modelos do Kit de Ferramentas de IA.
Opção 2: usar outros modelos ONNX existentes
O Hugging Face hospeda milhares de modelos ONNX que você pode usar com o Windows ML. Você pode encontrar modelos ONNX por:
- Navegando pelo Hub de Modelos do Hugging Face
- Filtragem por "ONNX" no filtro de biblioteca
Você precisará encontrar um modelo compatível com a versão do ONNX Runtime incluída na versão do Windows ML que você está usando. Consulte as versões do ONNX Runtime enviadas no Windows ML para descobrir qual versão do ONNX Runtime você está usando com o Windows ML.
Opção 3: Converter modelos existentes no formato ONNX
Modelos de PyTorch, TensorFlow ou outras estruturas podem ser convertidos em formato ONNX e usados com o Windows ML.
Hugging Face hospeda milhões de modelos que podem ser convertidos e usados com o Windows ML.
Você precisará converter o modelo para ser executado com a versão do ONNX Runtime incluída na versão do Windows ML que você está usando. Consulte as versões do ONNX Runtime enviadas no Windows ML para descobrir qual versão do ONNX Runtime você está usando com o Windows ML.
Para converter um modelo no formato ONNX, consulte a documentação específica da estrutura, por exemplo:
Opção 4: ajustar modelos existentes
Muitos modelos em Abraçando o Rosto ou outras fontes podem ser ajustados (seguindo as instruções nos cartões de modelo em Abraçando o Rosto). Em seguida, você pode converter o modelo ajustado em ONNX seguindo as instruções na Opção 3 acima.
Uma maneira popular de ajustar modelos é usar o comando olive finetune. Consulte a documentação da Olive para saber mais sobre como usar Olive.
Opção 5: Treinar modelos
Se você precisar de um modelo para uma tarefa específica e não conseguir encontrar um modelo existente, poderá treinar o seu próprio em PyTorch, TensorFlow ou outras estruturas.
Depois de treinar seu modelo, siga as instruções na Opção 3 acima para converter seu modelo no formato ONNX.
Próximas etapas
Depois de ter um modelo ONNX, você poderá executá-lo com o Windows ML em seus dispositivos de destino.
- Inicializar provedores de execução – baixar e registrar provedores de execução no Windows ML
- Executar modelos ONNX – Saiba como executar a inferência com o Windows ML
Outras soluções
Como parte do Microsoft Foundry no Windows, você também pode escolher entre dezenas de modelos e APIs de IA prontos para uso, que são executados por meio do Windows ML. Consulte Usar a IA local com o Microsoft Foundry no Windows para saber mais.