Compartilhar via

Tutorial: Gerar imagens usando GPUs sem servidor nos Aplicativos de Contêiner do Azure

Neste artigo, você aprenderá a criar um aplicativo de contêiner que usa as GPUs sem servidor para alimentar um aplicativo de IA.

Com as GPUs sem servidor, você tem acesso direto aos recursos de computação de GPU sem precisar fazer a configuração manual de infraestrutura, como instalar drivers. Tudo o que você precisa fazer é implantar a imagem do modelo de IA.

Neste tutorial, você:

  • Crie um novo aplicativo de contêiner e um ambiente
  • Configurar o ambiente para usar as GPUs sem servidor
  • Implantar seu aplicativo nos Aplicativos de Contêiner do Azure
  • Usar o novo aplicativo de habilitação de GPU sem servidor
  • Habilitar o streaming de artefatos para reduzir a inicialização a frio da GPU

Pré-requisitos

Recurso Descrição
Conta do Azure Você precisa de uma conta do Azure com uma assinatura ativa. Se não tiver uma, poderá criar uma gratuitamente.
Acesso às GPUs sem servidor O acesso às GPUs só estará disponível após solicitar cotas de GPU. Envie sua solicitação de cota de GPU por meio de um caso de suporte ao cliente.
Recurso Descrição
Conta do Azure Você precisa de uma conta do Azure com uma assinatura ativa. Se não tiver uma, poderá criar uma gratuitamente.
Acesso às GPUs sem servidor O acesso às GPUs só estará disponível após solicitar cotas de GPU. Envie sua solicitação de cota de GPU por meio de um caso de suporte ao cliente.
Azure CLI Instale a CLI do Azure ou atualize para a versão mais recente.

Criar seu aplicativo de contêiner

  1. Acesse o portal do Azure e pesquise e selecione Aplicativos de Contêiner.

  2. Selecione Criar e selecione Aplicativo de Contêiner.

  3. Na janela Básico, insira os seguintes valores em cada seção.

    Em detalhes do Projeto, insira os seguintes valores:

    Configuração Valor
    Subscription Selecione sua assinatura do Azure.
    Grupo de recursos Selecione Criar e insira my-gpu-demo-group.
    Nome do aplicativo de contêiner Insira my-gpu-demo-app.
    Origem da implantação Selecione Imagem do contêiner.

    Em Ambiente de Aplicativos de Contêiner, insira os seguintes valores:

    Configuração Valor
    Região Selecione Suécia Central.

    Para regiões com mais suporte, consulte Como usar as GPUs sem servidor no Azure.
    Ambiente de Aplicativos de Contêiner Selecione Criar novo.

    Na janela Criar ambiente de Aplicativos de Contêiner, insira os seguintes valores:

    Configuração Valor
    Nome do ambiente Insira my-gpu-demo-env.

    Selecione Criar.

    Selecione Avançar: contêiner >.

  4. Na janela Contêiner, insira os seguintes valores:

    Configuração Valor
    Nome Insira my-gpu-demo-container.
    Origem da imagem Selecione Docker Hub ou outros registros.
    Tipo de Imagem Selecione pública
    Servidor de logon do registro Insira mcr.microsoft.com.
    Imagem e marca Insira k8se/gpu-quickstart:latest.
    Perfil de carga de trabalho Selecione Consumo – Até 4 vCPUs e 8 GiB de memória.
    GPU Marque a caixa de seleção.
    Tipo de GPU Selecione Consumption-GPU-NC8as-T4 - Até 8 vCPUs, 56 GiB de memória e clique no link para incluir o perfil no seu ambiente.

    Selecione Avançar: entrada >.

  5. Na janela Entrada, insira os seguintes valores:

    Configuração Valor
    Entrada Selecione a caixa de seleção Habilitado.
    Tráfego de entrada Selecione botão de opção Aceitar tráfego de qualquer lugar.
    Porta de destino Insira 80.

  6. Selecione Examinar + criar.

  7. Selecione Criar.

  8. Aguarde alguns instantes para que a implantação seja concluída e selecione Ir para o recurso.

    A conclusão desse processo pode demorar até cinco minutos.

Usar seu aplicativo de GPU

Na janela Visão geral, selecione o link do URL do Aplicativo para abrir o front-end do aplicativo Web no navegador e usar o aplicativo GPU.

Observação

Criar variáveis de ambiente

Defina as variáveis de ambiente a seguir. Antes de executar este comando, substitua <PLACEHOLDERS> pelos seus valores.

RESOURCE_GROUP="<RESOURCE_GROUP>"
ENVIRONMENT_NAME="<ENVIRONMENT_NAME>"
LOCATION="swedencentral"
CONTAINER_APP_NAME="<CONTAINER_APP_NAME>"
CONTAINER_IMAGE="mcr.microsoft.com/k8se/gpu-quickstart:latest"
WORKLOAD_PROFILE_NAME="NC8as-T4"
WORKLOAD_PROFILE_TYPE="Consumption-GPU-NC8as-T4"

Criar seu aplicativo de contêiner

  1. Crie o grupo de recursos para conter os recursos criados neste tutorial. Esse comando deve gerar Succeeded.

    az group create \
  --name $RESOURCE_GROUP \
  --location $LOCATION \
  --query "properties.provisioningState"

  2. Crie um ambiente de Aplicativos de Contêiner para hospedar seu aplicativo de contêiner. Esse comando deve gerar Succeeded.

    az containerapp env create \
  --name $ENVIRONMENT_NAME \
  --resource-group $RESOURCE_GROUP \
  --location "$LOCATION" \
  --query "properties.provisioningState"

  3. Adicione um perfil de carga de trabalho ao seu ambiente.

    az containerapp env workload-profile add \
  --name $ENVIRONMENT_NAME \
  --resource-group $RESOURCE_GROUP \
  --workload-profile-name $WORKLOAD_PROFILE_NAME \
  --workload-profile-type $WORKLOAD_PROFILE_TYPE

  4. Crie seu aplicativo de contêiner.

    az containerapp create \
  --name $CONTAINER_APP_NAME \
  --resource-group $RESOURCE_GROUP \
  --environment $ENVIRONMENT_NAME \
  --image $CONTAINER_IMAGE \
  --target-port 80 \
  --ingress external \
  --cpu 8.0 \
  --memory 56.0Gi \
  --workload-profile-name $WORKLOAD_PROFILE_NAME \
  --query properties.configuration.ingress.fqdn

    Esse comando gera a URL do aplicativo para seu aplicativo de contêiner.

Usar seu aplicativo de GPU

Abra a URL do seu aplicativo de contêiner no navegador. Observe que pode levar até cinco minutos para que o aplicativo de contêiner seja iniciado.

Os Aplicativos de Contêiner do Azure com GPUs sem servidor permitem inserir um comando para gerar uma imagem. Você também pode simplesmente selecionar Generate Image para usar o prompt padrão. Na próxima etapa, você exibirá os resultados do processamento de GPU.

Observação

Monitore sua GPU

Depois de gerar uma imagem, use as seguintes etapas para exibir os resultados do processamento da GPU:

  1. Abra o aplicativo de contêiner no portal do Azure.

  2. Na seção Monitoramento, selecione Console.

  3. Selecione sua réplica.

  4. Selecione seu contêiner.

  5. Selecione Reconectar.

  6. Na janela Escolher iniciar comando, selecione /bin/bashe selecione Conectar.

  7. Após configurar o shell for, insira o comando nvidia-smi para examinar o status e a saída da GPU.

Limpar os recursos

Os recursos criados neste tutorial têm um efeito na sua fatura do Azure.

Se você não usar esses serviços a longo prazo, siga as etapas para remover tudo o que foi criado neste tutorial.

  1. No portal do Azure pesquise e selecione Grupos de recursos.

  2. Selecione my-gpu-demo-group.

  3. Selecione Excluir grupo de recursos.

  4. Na caixa de confirmação, insira my-gpu-demo-group.

  5. Selecione Excluir.

Execute o comando a seguir.

az group delete --name $RESOURCE_GROUP

Próximas etapas

Melhorar o início frio para as GPUs sem servidor

  • Last updated on