Atualizar modelos do GitHub para modelos do Microsoft Foundry

Neste artigo, você aprenderá a desenvolver um aplicativo de IA generativo a partir dos Modelos do GitHub e, em seguida, atualizar sua experiência implantando um recurso de Ferramentas de Fundimento com o Microsoft Foundry Models.

Os Modelos do GitHub são úteis quando você deseja encontrar e experimentar modelos de IA gratuitamente à medida que desenvolve um aplicativo de IA generativo. Quando estiver pronto para levar seu aplicativo para produção, atualize sua experiência implantando um recurso de Foundry Tools em uma assinatura do Azure e comece a usar Foundry Models. Você não precisa adicionar ou alterar nada mais em seu código.

O playground e o uso gratuito de API para Modelos do GitHub são sujeitos a limites de taxa por solicitações por minuto, solicitações por dia, tokens por solicitação e solicitações simultâneas. Se você atingir o limite de taxa, será necessário aguardar a restauração desse limite antes de fazer mais solicitações.

Pré-requisitos

Você precisa de:

• Uma conta do GitHub com acesso a Modelos do GitHub.
• Uma assinatura do Azure com uma forma de pagamento válida. Caso você não tenha uma assinatura do Azure, crie uma conta paga do Azure para começar. Como alternativa, você pode aguardar até estar pronto para implantar seu modelo em produção, momento em que você será solicitado a criar ou atualizar sua conta do Azure para uma conta padrão.
• Modelos Foundry de parceiros e da comunidade exigem acesso ao Azure Marketplace. Verifique se você possui as permissões necessárias para assinar as ofertas de modelo. Os modelos da Foundry vendidos diretamente pelo Azure não têm esse requisito.

Atualizar para Modelos da Fábrica

Os limites de taxa para o playground e o uso gratuito da API ajudam você a experimentar modelos e desenvolver seu aplicativo de IA. Quando estiver pronto para migrar seu aplicativo para produção, use uma chave e um endpoint de uma conta paga do Azure. Você não precisa adicionar ou alterar nada mais em seu código.

Observação

Os modelos do GitHub são gratuitos com limites de taxa. Depois de atualizar para Os Modelos do Foundry, o uso é cobrado para sua assinatura do Azure com base no tipo de implantação escolhido.

Para obter a chave e o ponto de extremidade:

1. Vá para Modelos do GitHub e selecione um modelo para acessar seu playground. Este artigo usa o Mistral Medium 3 (25.05).

2. Digite alguns prompts ou use alguns dos prompts sugeridos para interagir com o modelo no playground.

3. Selecione Use este modelo na área de testes. Essa ação abre uma janela para "Começar a usar Modelos na sua base de código".

4. Na etapa "Configurar autenticação", selecione Obter a chave do Microsoft Foundry na seção "IA do Azure".

   

5. Se você já estiver conectado à sua conta do Azure, ignore esta etapa. No entanto, se você não tiver uma conta do Azure ou não estiver conectado à sua conta, siga estas etapas:

   1. Se você não tiver uma conta do Azure, selecione Criar minha conta e siga as etapas para criar uma.

   2. Como alternativa, se você tiver uma conta do Azure, selecione Entrar novamente. Se sua conta existente for uma conta gratuita, primeiro você precisará atualizar para um plano padrão.

   3. Retorne ao playground do modelo e selecione Obter a chave do Microsoft Foundry novamente.

   4. Entre em sua conta do Azure.

6. Você é levado para o GitHub da Foundry > e chega à página inicial de um projeto do Foundry.

   Dica

   Se você acessar a versão clássica do Foundry, use a opção New Foundry no canto superior direito para mudar para a nova experiência do Foundry.

7. Siga as etapas em Implantar um modelo para implantar o modelo de sua escolha, testá-lo no Playground e inferência do modelo implantado com código.

8. Verifique se a implantação funciona enviando um prompt de teste no Playground. Se você receber uma resposta, seu modelo estará pronto para ser usado no código.

Importante

Ao contrário dos Modelos do GitHub, onde todos os modelos já estão configurados, o recurso Foundry Tools permite controlar quais modelos estão disponíveis em seu endpoint e com qual configuração. Adicione quantos modelos você planeja usar antes de indique-os no parâmetro model. Saiba como adicionar mais modelos ao recurso.

Explorar recursos adicionais

O Foundry Models dá suporte a recursos que não estão disponíveis nos modelos do GitHub:

• Catálogo de modelos – procure, compare e avalie modelos do Azure, parceiros e da comunidade de software livre.
• Autenticação sem chave – use a ID do Microsoft Entra para autenticação baseada em token sem gerenciar chaves de API.
• Filtragem de conteúdo – configure filtros de segurança de conteúdo para suas implantações.
• Limitação de taxa — defina limites de taxa personalizados para modelos específicos em seu recurso.
• Tipos de implantação – escolha entre vários SKUs de implantação, como pay-per-token, provisionado e lote.

Solucionar problemas comuns

Questão	Resolução
Modelo não disponível em sua região	Verifique a disponibilidade da região do modelo em sua página de catálogo de modelos e escolha uma região com suporte.
Erro de autenticação após troca de chave	Verifique se você copiou a chave correta do portal do Foundry. Selecione Configurações do projeto>Chaves e pontos de extremidade para ver suas chaves.
Erros de limite de taxa após a atualização	Os limites de taxa do Foundry Tools dependem do tipo de implantação. Ampliar ou escolher uma implantação de largura de banda mais alta.

Conteúdo relacionado

• Implantar modelos do Microsoft Foundry no portal do Foundry
• Criar implantações de modelo
• Tipos de implantação para modelos Foundry