Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
Aplica-se a:
IoT Edge 1.5
Importante
IoT Edge 1.5 LTS é a versão suportada. O IoT Edge 1.4 LTS atingiu o fim de vida útil a 12 de novembro de 2024. Se estiveres a usar uma versão anterior, vê Update IoT Edge.
As GPUs são uma escolha popular para cálculos de inteligência artificial porque oferecem recursos de processamento paralelo e muitas vezes executam inferências baseadas em visão mais rapidamente do que as CPUs. Para suportar aplicações de inteligência artificial e aprendizagem automática, o Azure IoT Edge para Linux no Windows (EFLOW) expõe uma GPU ao módulo Linux da máquina virtual.
Azure IoT Edge para Linux no Windows suporta várias tecnologias de passagem direta de GPU, incluindo:
Direct Device Assignment (DDA) - Os núcleos de GPU são alocados para a máquina virtual Linux ou para o host.
GPU-Paravirtualização (GPU-PV) - A GPU é partilhada entre a máquina virtual Linux e o host.
Você deve selecionar o método de passagem apropriado durante a implantação para corresponder aos recursos suportados do hardware da GPU do seu dispositivo.
Importante
Esses recursos podem incluir componentes desenvolvidos e de propriedade da NVIDIA Corporation ou de seus licenciantes. O uso dos componentes é regido pelo Contrato de Licença de Usuário Final da NVIDIA localizado no site da NVIDIA.
Ao usar os recursos de aceleração de GPU, você aceita e concorda com os termos do Contrato de Licença de End-User da NVIDIA.
Pré-requisitos
As funcionalidades de aceleração da GPU do Azure IoT Edge para Linux no Windows suportam atualmente um conjunto selecionado de hardware de GPU. Além disso, usar esta funcionalidade pode exigir versões específicas do Windows.
As GPUs suportadas e as versões necessárias para Windows são:
| GPUs suportadas | Tipo de passagem GPU | Versões Windows Suportadas |
|---|---|---|
| NVIDIA T4, A2 | DDA | Windows Server 2019 Windows Server 2022 Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| NVIDIA GeForce, Quadro, RTX | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| Intel iGPU [en] | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
Importante
O suporte GPU-PV pode ser limitado a determinadas gerações de processadores ou arquiteturas de GPU, de acordo com o fornecedor da GPU. Para obter mais informações, consulte a documentação do driver iGPU da Intel ou a documentação CUDA for WSL da NVIDIA.
Os utilizadores do Windows Server 2019 devem usar o mínimo da build 17763 com todas as atualizações cumulativas atuais instaladas.
Utilizadores do Windows 10 devem usar a atualização de novembro de 2021 versão 19044.1620 ou superior. Após a instalação, verifique sua versão de compilação executando winver no prompt de comando.
O passthrough de GPU não é suportado com virtualização aninhada, como executar o EFLOW numa máquina virtual Windows.
Configuração e instalação do sistema
As seções a seguir contêm informações de configuração e instalação, de acordo com sua GPU.
NVIDIA T4/A2 GPUs
Para placas gráficas T4/A2, a Microsoft recomenda a instalação de um driver de mitigação de dispositivo do fornecedor da sua placa gráfica. Embora seja opcional, a instalação de um driver de mitigação pode melhorar a segurança da sua implantação. Para obter mais informações, consulte Implementar dispositivos gráficos usando a atribuição direta de dispositivos.
Aviso
Habilitar a passagem do dispositivo de hardware pode aumentar os riscos de segurança. A Microsoft recomenda um driver de mitigação de dispositivo do fornecedor da GPU, quando aplicável. Para obter mais informações, consulte Implantar dispositivos gráficos usando atribuição de dispositivo discreto.
NVIDIA GeForce/Quadro/RTX GPUs
Para GPUs NVIDIA GeForce/Quadro/RTX, descarregue e instale o driver com suporte a CUDA da NVIDIA para o Windows Subsystem for Linux (WSL) para utilizar com os seus fluxos de trabalho CUDA ML existentes. Originalmente desenvolvidos para WSL, os drivers CUDA para WSL são também utilizados com o Azure IoT Edge para Linux no Windows.
Windows 10 utilizadores também devem instalar WSL porque algumas bibliotecas são partilhadas entre WSL e Azure IoT Edge para Linux em Windows.
Intel® iGPUs
Para Intel iGPUs, baixe e instale o driver de gráficos Intel com suporte a GPU WSL.
Windows 10 utilizadores também devem instalar WSL porque algumas bibliotecas são partilhadas entre WSL e Azure IoT Edge para Linux em Windows.
Ative a aceleração da GPU na sua implementação Azure IoT Edge Linux no Windows
Depois de terminares a configuração do sistema, começa a criar a tua implementação do Azure IoT Edge para Linux no Windows. Durante esse processo, habilite o suporte à GPU como parte da implantação do EFLOW.
Por exemplo, esses comandos criam uma máquina virtual habilitada para GPU com uma GPU NVIDIA A2 ou uma placa gráfica Intel Iris Xe.
#Deploys EFLOW with NVIDIA A2 assigned to the EFLOW VM
Deploy-Eflow -gpuPassthroughType DirectDeviceAssignment -gpuCount 1 -gpuName "NVIDIA A2"
#Deploys EFLOW with Intel(R) Iris(R) Xe Graphics assigned to the EFLOW VM
Deploy-Eflow -gpuPassthroughType ParaVirtualization -gpuCount 1 -gpuName "Intel(R) Iris(R) Xe Graphics"
Para encontrar o nome da sua GPU, execute este comando ou procure adaptadores de ecrã no Device Manager.
(Get-WmiObject win32_VideoController).caption
Depois de terminar a instalação, implemente e execute módulos Linux acelerados por GPU através do Azure IoT Edge for Linux no Windows.
Configurar aceleração GPU numa implementação existente do Azure IoT Edge Linux no Windows
Atribua a GPU no momento da implantação para obter a experiência mais simples. Para habilitar ou desabilitar a GPU após a implantação, use o set-eflowvm comando. Quando utiliza set-eflowvm, o parâmetro padrão é usado para qualquer argumento que não especifique. Por exemplo,
# Deploys EFLOW without a GPU assigned to the EFLOW VM
Deploy-Eflow -cpuCount 4 -memoryInMB 16384
# Assigns NVIDIA A2 GPU to the existing deployment (cpu and memory must still be specified, or they're set to the default values)
Set-EflowVM -cpuCount 4 -memoryInMB 16384 -gpuName "NVIDIA A2" -gpuPassthroughType DirectDeviceAssignment -gpuCount 1
# Reduces the cpuCount and memory (GPU must still be specified, or the GPU is removed)
Set-EflowVM -cpuCount 2 -memoryInMB 4096 -gpuName "NVIDIA A2" -gpuPassthroughType DirectDeviceAssignment -gpuCount 1
# Removes NVIDIA A2 GPU from the existing deployment
Set-EflowVM -cpuCount 2 -memoryInMB 4096
Próximos passos
Experimenta amostras de EFLOW nas amostras de GPU. Essas amostras mostram cenários comuns de fabricação e varejo, como deteção de defeitos, segurança do trabalhador e gerenciamento de estoque. Esses exemplos de código aberto podem ser um modelo de solução para criar seu próprio aplicativo de aprendizado de máquina baseado em visão.
Saiba mais sobre as tecnologias de passagem da GPU na documentação do DDA e na postagem do blog GPU-PV.
Vários fornecedores de GPU fornecem guias do usuário sobre como obter o máximo de seu hardware e software com EFLOW:
- Aprenda a executar aplicações Intel OpenVINO™ no EFLOW seguindo o guia da Intel sobre iGPU com Azure IoT Edge para Linux no Windows (EFLOW) e OpenVINO™ Toolkit.
- Comece a implantar aplicativos acelerados por CUDA no EFLOW seguindo o Guia do Usuário EFLOW da NVIDIA para GPUs GeForce/Quadro/RTX. Este guia não abrange GPUs baseadas em DDA, como NVIDIA T4 ou A2.