Ajuste os modelos Meta Llama no Azure AI Studio

Importante

Alguns dos recursos descritos neste artigo podem estar disponíveis apenas na visualização. Essa visualização é fornecida sem um contrato de nível de serviço e não a recomendamos para cargas de trabalho de produção. Algumas funcionalidades poderão não ser suportadas ou poderão ter capacidades limitadas. Para obter mais informações, veja Termos Suplementares de Utilização para Pré-visualizações do Microsoft Azure.

O Azure AI Studio permite-lhe adaptar modelos de linguagem grandes aos seus conjuntos de dados pessoais utilizando um processo conhecido como ajuste fino.

A otimização oferece um valor significativo, pois permite a personalização e o ajuste de tarefas e aplicações específicas. Isso leva a um melhor desempenho, eficiência de custos, latência reduzida e saídas personalizadas.

Neste artigo, você aprenderá a ajustar modelos Meta Llama no Azure AI Studio.

A família Meta Llama de grandes modelos de linguagem (LLMs) é uma coleção de modelos de texto generativos pré-treinados e ajustados que variam em escala de 7 bilhões a 70 bilhões de parâmetros. A família de modelos também inclui versões ajustadas otimizadas para casos de uso de diálogo com o Reinforcement Learning from Human Feedback (RLHF), chamado Llama-2-chat.

Modelos

Meta Lama 3

O ajuste fino dos modelos Llama 3 não é suportado no momento.

Meta Lama 2

Os seguintes modelos estão disponíveis no Azure Marketplace para Llama 2 ao ajustar como um serviço com cobrança pré-paga:

• Llama-2-70b (pré-visualização)
• Llama-2-13b (pré-visualização)
• Llama-2-7b (pré-visualização)

A otimização dos modelos Llama 2 é atualmente suportada em projetos localizados nos EUA Oeste 3.

Pré-requisitos

Meta Lama 3

O ajuste fino dos modelos Llama 3 não é suportado no momento.

Meta Lama 2

Uma subscrição do Azure com um método de pagamento válido. As subscrições gratuitas ou de avaliação do Azure não funcionarão. Se você não tiver uma assinatura do Azure, crie uma conta paga do Azure para começar.

• Um hub AI Studio.

  Importante

  Para os modelos Meta Llama 2, a oferta de ajuste fino do modelo pré-pago só está disponível com hubs criados na região Oeste dos EUA 3 .

• Um projeto do AI Studio no Azure AI Studio.

• Os controles de acesso baseados em função do Azure (Azure RBAC) são usados para conceder acesso a operações no Azure AI Studio. Para executar os passos neste artigo, sua conta de utilizador deve ter atribuída a função de proprietário ou contribuinte para a subscrição do Azure. Em alternativa, pode ser atribuída à sua conta uma função personalizada com as seguintes permissões:

  • Na subscrição do Azure — para subscrever o projeto AI Studio na oferta do Azure Marketplace, uma vez para cada projeto, por oferta:

    • Microsoft.MarketplaceOrdering/agreements/offers/plans/read
    • Microsoft.MarketplaceOrdering/agreements/offers/plans/sign/action
    • Microsoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.Marketplace/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.SaaS/register/action

  • No grupo de recursos — para criar e utilizar o recurso SaaS:

    • Microsoft.SaaS/resources/read
    • Microsoft.SaaS/resources/write

  • No projeto AI Studio — para implantar pontos de extremidade (a função Desenvolvedor de IA do Azure já contém essas permissões):

    • Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*
    • Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*

  Para obter mais informações sobre permissões, consulte Controle de acesso baseado em função no Azure AI Studio.

Registo do fornecedor de subscrição

Verifique se a assinatura está registrada no provedor de Microsoft.Network recursos.

1. Inicie sessão no portal do Azure.

2. Selecione Assinaturas no menu à esquerda.

3. selecione a subscrição que quer utilizar.

4. Selecione Configurações>Provedores de recursos no menu à esquerda.

5. Confirme se Microsoft.Network está na lista de provedores de recursos. Caso contrário, adicione-o.

   

Preparação de dados

Prepare os dados de preparação e de validação para otimizar o seu modelo. Os dados de preparação e os conjuntos de dados de validação consistem em exemplos de entrada e saída de como pretende que o modelo seja executado.

Certifique-se de que todos os seus exemplos de treinamento sigam o formato esperado para inferência. Para ajustar modelos de forma eficaz, garanta um conjunto de dados equilibrado e diversificado.

Isso envolve manter o equilíbrio de dados, incluindo vários cenários, e refinar periodicamente os dados de treinamento para alinhá-los com as expectativas do mundo real, levando a respostas de modelo mais precisas e equilibradas.

Diferentes tipos de modelo exigem um formato diferente de dados de treinamento.

Conclusão do bate-papo

Os dados de treinamento e validação usados devem ser formatados como um documento JSONL (JSON Lines). Para Llama-3-80B-chat o ajuste fino, o conjunto de dados deve ser formatado no formato de conversação usado pela API de conclusão de bate-papo.

Exemplo de formato de ficheiro

    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Is Xbox better than PlayStation?"}, {"role": "assistant", "content": "I apologize, but I cannot provide personal opinions. My primary job is to assist you with any issues related to your Xbox device. Do you have any Xbox-related issues that need addressing?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Can I play PC games on my Xbox?"}, {"role": "assistant", "content": "While Xbox consoles don't natively support PC games, they can play an array of Xbox games, many of which are also available on PC. Can I assist you with finding games compatible with your Xbox device?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "I'm having trouble connecting my Xbox to the Wi-Fi."}, {"role": "assistant", "content": "No worries, let's go through the network settings on your Xbox. Can you please tell me what happens when you try to connect it to the Wi-Fi?"}]}

O tipo de ficheiro suportado é JSON Lines. Os ficheiros são carregados para o arquivo de dados predefinido e disponibilizados em seu projeto.

Geração de texto

Os dados de treinamento e validação usados devem ser formatados como um documento JSON Lines (JSONL) no qual cada linha representa um único par prompt-complete.

Exemplo de formato de ficheiro

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

Aqui estão alguns conjuntos de dados de exemplo no Hugging Face para otimizar o modelo:

• dair-ai/emotion

  

• SetFit/mrpc

  

A classificação de texto único exige que os dados de treinamento incluam pelo menos dois campos, como text1 e label. A classificação de pares de texto exige que os dados de treinamento incluam pelo menos três campos, como text1, text2e label.

O tipo de ficheiro suportado é JSON Lines. Os ficheiros são carregados para o arquivo de dados predefinido e disponibilizados em seu projeto.

Ajuste um modelo Meta Llama

Meta Lama 3

O ajuste fino dos modelos Llama 3 não é suportado no momento.

Meta Lama 2

Pode ajustar um modelo Llama 2 no Azure AI Studio através do catálogo de modelos ou a partir do seu projeto existente.

Para ajustar um modelo Llama 2 em um projeto existente do Azure AI Studio, siga estas etapas:

1. Entre no Azure AI Studio.

2. Escolha o modelo que deseja ajustar no catálogo de modelos do Azure AI Studio.

3. Na página Detalhes do modelo, selecione Ajustar.

4. Se esta for a primeira vez que você ajustou o modelo no projeto, precisará inscrever seu projeto para a oferta específica do Azure Marketplace. Cada projeto tem sua própria conexão com a oferta do marketplace, o que permite controlar e monitorar os gastos por projeto. Selecione Continuar para ajustar.

   Nota

   A subscrição de um projeto numa oferta específica a partir do Azure Marketplace requer acesso de Colaborador ou Proprietário ao nível da subscrição em que o projeto é criado.

   

5. Escolha um modelo base para ajustar e selecione Confirmar. A sua escolha influencia tanto o desempenho como o custo do seu modelo.

   

6. Introduza um nome para o seu modelo ajustado e as etiquetas e descrição opcionais.

7. Selecione os dados de treinamento para ajustar seu modelo. Consulte a preparação de dados para obter mais informações.

   Certifique-se de que todos os seus exemplos de treinamento sigam o formato esperado para inferência. Para ajustar modelos de forma eficaz, garanta um conjunto de dados equilibrado e diversificado. Isso envolve manter o equilíbrio de dados, incluindo vários cenários, e refinar periodicamente os dados de treinamento para alinhá-los com as expectativas do mundo real, levando a respostas de modelo mais precisas e equilibradas.

   • O tamanho do lote a ser usado para treinamento. Quando definido como -1, batch_size é calculado como 0,2% dos exemplos no conjunto de treinamento e o máximo é 256.
   • A taxa de aprendizagem de ajuste fino é a taxa de aprendizagem original utilizada para a pré-formação multiplicada por este multiplicador. Recomendamos experimentar valores entre 0,5 e 2. Empiricamente, descobrimos que taxas de aprendizagem maiores geralmente têm melhor desempenho com lotes maiores. Deve estar entre 0,0 e 5,0.
   • Número de épocas de formação. Uma época refere-se a um ciclo completo através do conjunto de dados. Se definido como -1, o número de épocas será determinado dinamicamente com base nos dados de entrada.

8. Os parâmetros da tarefa são uma etapa opcional e uma opção avançada - O ajuste do hiperparâmetro é essencial para otimizar grandes modelos de linguagem (LLMs) em aplicações do mundo real. Permite um melhor desempenho e uma utilização eficiente dos recursos. As configurações padrão podem ser usadas ou usuários avançados podem personalizar parâmetros como épocas ou taxa de aprendizagem.

9. Reveja as suas seleções e prossiga para treinar o seu modelo.

Depois que o modelo estiver ajustado, você poderá implantá-lo e usá-lo em seu próprio aplicativo, no playground ou no fluxo de prompt. Para obter mais informações, consulte Como implantar a família Llama 2 de modelos de linguagem grande com o Azure AI Studio.

Limpeza dos seus modelos ajustados

Você pode excluir um modelo ajustado da lista de modelos de ajuste fino no Azure AI Studio ou da página de detalhes do modelo. Selecione o modelo ajustado a ser excluído da página Ajuste fino e, em seguida, selecione o botão Excluir para excluir o modelo ajustado.

Nota

Não é possível excluir um modelo personalizado se ele tiver uma implantação existente. Você deve primeiro excluir sua implantação de modelo antes de poder excluir seu modelo personalizado.

Custo e quotas

Considerações de custo e cota para modelos Meta Llama ajustados como um serviço

Os modelos Meta Llama ajustados como um serviço são oferecidos pela Meta através do Azure Marketplace e integrados com o Azure AI Studio para utilização. Você pode encontrar os preços do Azure Marketplace ao implantar ou ajustar os modelos.

Sempre que um projeto subscreve uma determinada oferta do Azure Marketplace, é criado um novo recurso para controlar os custos associados ao seu consumo. O mesmo recurso é usado para rastrear os custos associados à inferência e ao ajuste fino; no entanto, vários medidores estão disponíveis para rastrear cada cenário de forma independente.

Para obter mais informações sobre como controlar custos, consulte monitorar custos para modelos oferecidos em todo o Azure Marketplace.

Filtragem de conteúdos

Os modelos implantados como um serviço com cobrança pré-paga são protegidos pelo Azure AI Content Safety. Quando implantado em pontos de extremidade em tempo real, você pode desativar esse recurso. Com a segurança de conteúdo de IA do Azure habilitada, tanto o prompt quanto a conclusão passam por um conjunto de modelos de classificação destinados a detetar e prevenir a saída de conteúdo nocivo. O sistema de filtragem de conteúdo deteta e age em categorias específicas de conteúdo potencialmente nocivo em prompts de entrada e finalizações de saída. Saiba mais sobre a Segurança de Conteúdo do Azure AI.

Próximos passos

• O que é o Azure AI Studio?
• Saiba mais sobre a implantação de modelos Meta Llama
• Artigo de perguntas frequentes do Azure AI