Introdução ao Foundry Local

O Foundry Local permite a execução local de grandes modelos de linguagem (LLMs) diretamente no seu dispositivo Windows, como parte do Microsoft Foundry em Windows. Esta é uma boa alternativa se você quiser ir mais fundo e implementar um cenário de IA que não está disponível com as APIs de IA do Windows.

Esta solução de inferência de IA no dispositivo fornece privacidade, personalização e benefícios de custo em comparação com alternativas baseadas em nuvem. O melhor de tudo é que ele se encaixa em seus fluxos de trabalho e aplicativos existentes com uma CLI e API REST fáceis de usar.

Observação

A documentação completa para o Foundry Local — incluindo instalação, gestão de modelos, a API REST e a referência ao SDK — é mantida na documentação Azure AI Foundry. O link abaixo leva-o até lá. Use o botão de voltar do seu navegador ou a breadcrumb para voltar à documentação de IA do Windows a qualquer momento.

Se não tem a certeza se o Foundry Local é a escolha certa para o seu cenário, veja Escolha a sua solução de IA Windows antes de continuar.

Para obter mais informações sobre o Foundry Local, consulte a documentação do Foundry Local.