Aceleração da GPU para o Azure IoT Edge para Linux no Windows
Aplica-se a: 
IoT Edge 1.1
Importante
A data de fim do suporte do IoT Edge 1.1 foi 13 de dezembro de 2022. Consulte o Ciclo de Vida de Produtos da Microsoft para obter informações sobre como é suportado este produto, serviço, tecnologia ou API. Para obter mais informações sobre como atualizar para a versão mais recente do IoT Edge, consulte Atualizar o IoT Edge.
As GPUs são uma escolha popular para cálculos de inteligência artificial, porque oferecem recursos de processamento paralelo e muitas vezes podem executar inferências baseadas em visão mais rapidamente do que CPUs. Para oferecer melhor suporte a aplicativos de inteligência artificial e aprendizado de máquina, o Azure IoT Edge para Linux no Windows (EFLOW) pode expor uma GPU ao módulo Linux da máquina virtual.
O Azure IoT Edge para Linux no Windows suporta várias tecnologias de passagem de GPU, incluindo:
Direct Device Assignment (DDA) - Os núcleos de GPU são alocados para a máquina virtual Linux ou para o host.
GPU-Paravirtualização (GGP-PV) - A GPU é compartilhada entre a máquina virtual Linux e o host.
Você deve selecionar o método de passagem apropriado durante a implantação para corresponder aos recursos suportados do hardware da GPU do seu dispositivo.
Importante
Esses recursos podem incluir componentes desenvolvidos e de propriedade da NVIDIA Corporation ou de seus licenciantes. O uso dos componentes é regido pelo Contrato de Licença de Usuário Final da NVIDIA localizado no site da NVIDIA.
Ao usar os recursos de aceleração de GPU, você está aceitando e concordando com os termos do Contrato de Licença de Usuário Final da NVIDIA.
Pré-requisitos
Os recursos de aceleração de GPU do Azure IoT Edge para Linux no Windows atualmente dão suporte a um conjunto selecionado de hardware de GPU. Além disso, o uso desse recurso pode exigir versões específicas do Windows.
As GPUs suportadas e as versões necessárias do Windows estão listadas abaixo:
| GPUs suportadas | Tipo de passagem GPU | Versões suportadas do Windows |
|---|---|---|
| NVIDIA T4, A2 | DDA | Windows Server 2019 Windows Server 2022 Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| NVIDIA GeForce, Quadro, RTX | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| Intel iGPU [en] | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
Importante
O suporte a GPU-PV pode ser limitado a determinadas gerações de processadores ou arquiteturas de GPU, conforme determinado pelo fornecedor da GPU. Para obter mais informações, consulte a documentação do driver iGPU da Intel ou a documentação CUDA for WSL da NVIDIA.
Os usuários do Windows Server 2019 devem usar a compilação mínima 17763 com todas as atualizações cumulativas atuais instaladas.
Os usuários do Windows 10 devem usar a compilação de atualização de novembro de 2021 19044.1620 ou superior. Após a instalação, você pode verificar sua versão de compilação executando winver no prompt de comando.
A passagem de GPU não é suportada com virtualização aninhada, como a execução de EFLOW em uma máquina virtual do Windows.
Configuração e instalação do sistema
As seções a seguir contêm informações de configuração e instalação, de acordo com sua GPU.
NVIDIA T4/A2 GPUs
Para GPUs T4/A2, a Microsoft recomenda a instalação de um driver de mitigação de dispositivo do fornecedor da GPU. Embora opcional, a instalação de um driver de mitigação pode melhorar a segurança da sua implantação. Para obter mais informações, consulte Implantar dispositivos gráficos usando a atribuição direta de dispositivos.
Aviso
Habilitar a passagem de dispositivo de hardware pode aumentar os riscos de segurança. A Microsoft recomenda um driver de mitigação de dispositivo do fornecedor da GPU, quando aplicável. Para obter mais informações, consulte Implantar dispositivos gráficos usando atribuição de dispositivo discreto.
NVIDIA GeForce/Quadro/RTX GPUs
Para GPUs NVIDIA GeForce/Quadro/RTX, baixe e instale o driver habilitado para NVIDIA CUDA para Windows Subsystem for Linux (WSL) para usar com seus fluxos de trabalho CUDA ML existentes. Originalmente desenvolvido para WSL, os drivers CUDA para WSL também são usados para o Azure IoT Edge para Linux no Windows.
Os usuários do Windows 10 também devem instalar o WSL porque algumas das bibliotecas são compartilhadas entre o WSL e o Azure IoT Edge para Linux no Windows.
Intel® iGPUs
Para Intel iGPUs, baixe e instale o driver de gráficos Intel com suporte a GPU WSL.
Os usuários do Windows 10 também devem instalar o WSL porque algumas das bibliotecas são compartilhadas entre o WSL e o Azure IoT Edge para Linux no Windows.
Habilite a aceleração de GPU em sua implantação do Azure IoT Edge Linux no Windows
Quando a configuração do sistema estiver concluída, você estará pronto para criar sua implantação do Azure IoT Edge para Linux no Windows. Durante esse processo, você deve habilitar a GPU como parte da implantação do EFLOW.
Por exemplo, o comando abaixo cria uma máquina virtual com uma GPU NVIDIA A2 atribuída.
Deploy-Eflow -gpuPassthroughType "DirectDeviceAssignment" -gpuCount 1 -gpuName "NVIDIA A2"
Quando a instalação estiver concluída, você estará pronto para implantar e executar módulos Linux acelerados por GPU por meio do Azure IoT Edge para Linux no Windows.
Próximos passos
Experimente nosso exemplo habilitado para GPU com o Vision on Edge, um modelo de solução que ilustra como criar seu próprio aplicativo de aprendizado de máquina baseado em visão.
Descubra como executar aplicativos Intel OpenVINO no EFLOW seguindo o guia da Intel sobre iGPU com o Azure IoT Edge para Linux no Windows (EFLOW) & OpenVINO Toolkit e implementações de referência.
Saiba mais sobre as tecnologias de passagem de GPU visitando a documentação do DDA e a postagem do blog GPU-PV.