Sdílet prostřednictvím

Kurz: Generování imagí pomocí bezserverových grafických procesorů v Azure Container Apps

V tomto článku se dozvíte, jak vytvořit aplikaci typu kontejner, která používá bezserverové GPU k napájení aplikace AI.

Bezserverové gpu máte přímý přístup k výpočetním prostředkům GPU, aniž byste museli provádět ruční konfiguraci infrastruktury, jako je instalace ovladačů. Stačí nasadit image modelu AI.

V tomto kurzu:

  • Vytvoření nové aplikace kontejneru a prostředí
  • Konfigurace prostředí pro použití bezserverových grafických procesorů
  • Nasazení aplikace do Azure Container Apps
  • Použití nové bezserverové aplikace umožňující GPU
  • Povolení streamování artefaktů za účelem snížení studeného startu GPU

Požadavky

Resource Popis
Účet Azure Potřebujete účet Azure s aktivním předplatným. Pokud jej nemáte, můžete si jej zdarma vytvořit.
Přístup k bezserverové gpu Přístup k grafickým procesorům je k dispozici až po vyžádání kvót GPU. Žádost o kvótu GPU můžete odeslat prostřednictvím případu zákaznické podpory.
Resource Popis
Účet Azure Potřebujete účet Azure s aktivním předplatným. Pokud jej nemáte, můžete si jej zdarma vytvořit.
Přístup k bezserverové gpu Přístup k grafickým procesorům je k dispozici až po vyžádání kvót GPU. Žádost o kvótu GPU můžete odeslat prostřednictvím případu zákaznické podpory.
Azure CLI Nainstalujte Azure CLI nebo upgradujte na nejnovější verzi.

Vytvoření kontejnerové aplikace

  1. Přejděte na Web Azure Portal a vyhledejte a vyberte Container Apps.

  2. Vyberte Vytvořit a pak vyberte Kontejnerová aplikace.

  3. V okně Základy zadejte do každé části následující hodnoty.

    V části Podrobnosti projektu zadejte následující hodnoty:

    Nastavení Hodnota
    Předplatné Vyberte své předplatné Azure.
    Skupina zdrojů Vyberte Vytvořit nový a zadejte my-gpu-demo-group.
    Název kontejnerové aplikace Zadejte my-gpu-demo-app.
    Zdroj nasazení Vyberte image kontejneru.

    V části Prostředí Container Apps zadejte následující hodnoty:

    Nastavení Hodnota
    Oblast Vyberte Švédsko – střed.

    Další podporované oblasti najdete v tématu Použití bezserverových gpu v Azure.
    Prostředí Container Apps Vyberte, že chcete vytvořit novou IP adresu.

    V okně vytvořit prostředí Container Apps zadejte následující hodnoty:

    Nastavení Hodnota
    Název prostředí Zadejte my-gpu-demo-env.

    Vyberte Vytvořit.

    Vyberte Další: Kontejner >.

  4. V okně Kontejner zadejte následující hodnoty:

    Nastavení Hodnota
    Name Zadejte kontejner my-gpu-demo-container.
    Zdroj obrázku Vyberte Docker Hub nebo jiné registry.
    Typ obrázku Vyberte veřejnou.
    Přihlašovací server registru Zadejte mcr.microsoft.com.
    Obrázek a značka Zadejte k8se/gpu-quickstart:latest.
    Profil úlohy Vyberte Spotřeba – až 4 vCPU, 8 Gib paměti.
    GPU Zaškrtněte políčko.
    Typ GPU Vyberte Consumption-GPU-NC8as-T4 - Až 8 virtuálních procesorů, 56 GiB paměti a vyberte odkaz pro přidání profilu do vašeho prostředí.

    Vyberte Další: Příchozí přenos dat >.

  5. V okně Příchozí přenos dat zadejte následující hodnoty:

    Nastavení Hodnota
    Příchozí přenos dat Zaškrtněte políčko Povoleno.
    Příchozí přenos dat Vyberte přepínač Přijmout provoz odkudkoli.
    Cílový port Zadejte 80.

  6. Vyberte Zkontrolovat a vytvořit.

  7. Vyberte Vytvořit.

  8. Chvíli počkejte, než se nasazení dokončí, a pak vyberte Přejít k prostředku.

    Dokončení tohoto procesu může trvat až pět minut.

Použití aplikace GPU

V okně Přehled vyberte odkaz Adresa URL aplikace a otevřete front-end webové aplikace v prohlížeči a použijte aplikaci GPU.

Poznámka:

  • Pokud chcete dosáhnout nejlepšího výkonu aplikací GPU, postupujte podle pokynů ke zlepšení studeného startu pro bezserverové GPU.
  • Pokud ve vaší aplikaci existuje více kontejnerů, získá první kontejner přístup k GPU.

Vytvořte proměnné prostředí

Definujte následující proměnné prostředí. Před spuštěním tohoto příkazu nahraďte <PLACEHOLDERS> svými hodnotami.

RESOURCE_GROUP="<RESOURCE_GROUP>"
ENVIRONMENT_NAME="<ENVIRONMENT_NAME>"
LOCATION="swedencentral"
CONTAINER_APP_NAME="<CONTAINER_APP_NAME>"
CONTAINER_IMAGE="mcr.microsoft.com/k8se/gpu-quickstart:latest"
WORKLOAD_PROFILE_NAME="NC8as-T4"
WORKLOAD_PROFILE_TYPE="Consumption-GPU-NC8as-T4"

Vytvoření kontejnerové aplikace

  1. Vytvořte skupinu prostředků, která bude obsahovat prostředky, které vytvoříte v tomto kurzu. Tento příkaz by měl být výstupem Succeeded.

    az group create \
  --name $RESOURCE_GROUP \
  --location $LOCATION \
  --query "properties.provisioningState"

  2. Vytvořte prostředí Container Apps pro hostování vaší aplikace kontejneru. Tento příkaz by měl být výstupem Succeeded.

    az containerapp env create \
  --name $ENVIRONMENT_NAME \
  --resource-group $RESOURCE_GROUP \
  --location "$LOCATION" \
  --query "properties.provisioningState"

  3. Přidejte do svého prostředí profil úlohy.

    az containerapp env workload-profile add \
  --name $ENVIRONMENT_NAME \
  --resource-group $RESOURCE_GROUP \
  --workload-profile-name $WORKLOAD_PROFILE_NAME \
  --workload-profile-type $WORKLOAD_PROFILE_TYPE

  4. Vytvořte aplikaci kontejneru.

    az containerapp create \
  --name $CONTAINER_APP_NAME \
  --resource-group $RESOURCE_GROUP \
  --environment $ENVIRONMENT_NAME \
  --image $CONTAINER_IMAGE \
  --target-port 80 \
  --ingress external \
  --cpu 8.0 \
  --memory 56.0Gi \
  --workload-profile-name $WORKLOAD_PROFILE_NAME \
  --query properties.configuration.ingress.fqdn

    Tento příkaz vypíše adresu URL aplikace pro vaši aplikaci kontejneru.

Použití aplikace GPU

Otevřete adresu URL aplikace kontejneru v prohlížeči. Mějte na paměti, že spuštění aplikace kontejneru může trvat až pět minut.

Aplikace Azure Container Apps s bezserverovou GPU umožňuje zadat výzvu k vygenerování obrázku. Můžete také jednoduše vybrat Generate Image k použití výchozí výzvy. V dalším kroku zobrazíte výsledky zpracování GPU.

Poznámka:

  • Pokud chcete dosáhnout nejlepšího výkonu aplikací GPU, postupujte podle pokynů ke zlepšení studeného startu pro bezserverové GPU.
  • Pokud ve vaší aplikaci existuje více kontejnerů, získá první kontejner přístup k GPU.

Monitorování GPU

Po vygenerování image zobrazte výsledky zpracování GPU pomocí následujících kroků:

  1. Otevřete aplikaci kontejneru na webu Azure Portal.

  2. V části Monitorování vyberte Konzola.

  3. Vyberte repliku.

  4. Vyberte kontejner.

  5. Vyberte Znovu připojit.

  6. V příkazovém okně Zvolit spuštění vyberte /bin/bash a vyberte Připojit.

  7. Po nastavení prostředí zadejte příkaz nvidia-smi a zkontrolujte stav a výstup gpu.

Vyčištění prostředků

Prostředky vytvořené v tomto kurzu mají vliv na fakturu za Azure.

Pokud tyto služby nebudete používat dlouhodobě, odeberte všechno vytvořené v tomto kurzu pomocí kroků.

  1. Na webu Azure Portal vyhledejte a vyberte Skupiny prostředků.

  2. Vyberte my-gpu-demo-group.

  3. Vyberte Odstranit skupinu prostředků.

  4. Do potvrzovací pole zadejte my-gpu-demo-group.

  5. Vyberte Odstranit.

Spusťte následující příkaz.

az group delete --name $RESOURCE_GROUP

Další kroky

Vylepšení studeného startu pro bezserverové gpu

  • Last updated on