Compartilhar via

Série NCads H100 v5

  • Artigo

Aplica-se a: ✔️ VMs do Linux ✔️ VMs do Windows ✔️ Conjuntos de dimensionamento flexíveis ✔️ Conjuntos de dimensionamento uniformes

As máquinas virtuais (VMs) da série NCads H100 v5 são uma nova adição à família de GPU do Azure. Você pode usar esta série para as cargas de trabalho de inferência em lote e treinamento de IA aplicada do Azure do mundo real. As máquinas virtuais da série NCads H100 v5 são equipadas com GPU NVIDIA H100 NVL e processadores AMD EPYC™ Genoa de 4ª geração. As VMs apresentam até 2 GPUs NVIDIA H100 NVL com 94GB de memória cada, até 96 núcleos de processador AMD EPYC Genoa não multithread e 640 GiB de memória de sistema. Essas VMs são ideais para cargas de trabalho de IA aplicada do mundo real, como:

  • Análise e bancos de dados acelerados por GPU
  • Inferência em lote com pré e pós-processamento intenso
  • Treinamento de modelo com autonomia
  • Simulação de reservatório de petróleo e gás
  • Desenvolvimento de ML (machine learning)
  • Processamento de vídeo
  • Serviços Web de IA/ML

Recursos compatíveis

Para começar a usar as VMs do NCads H100 v5, consulte a Configuração e otimização da carga de trabalho do HPC para obter etapas, incluindo o driver e a configuração de rede.

Devido ao aumento do espaço ocupado por E/S de memória da GPU, o NCads H100 v5 requer o uso de VMs de geração 2 e imagens de mercado. Siga as instruções de configuração das imagens de HPC do Azure.

Tamanho vCPU Memória (GiB) NVMe de Disco Temporário (GiB) GPU Memória GPU (GiB) Discos de dados máximos Taxa de transferência máxima do disco não armazenado em cache (IOPS / MBps) Máximo de largura de banda de rede/NICs (MBps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = um cartão H100
2 Discos NVMe locais são efêmeros. Os dados serão perdidos nesses discos se você interromper/desalocar a VM. Os discos locais de NVMe não são submetido à criptografia do Armazenamento do Azure, mesmo ao habilitar a criptografia no host.

Definições da tabela de tamanhos

  • A capacidade de armazenamento é mostrada em unidades de GiB ou de 1024^3 bytes. Ao comparar os discos medidos em GB (1000^3 bytes) com os discos medidos em GiB (1024^3), lembre-se de que os números de capacidade fornecidos em GiB poderão parecer menores. Por exemplo, 1023 GiB = 1098,4 GB.

  • A taxa de transferência do disco é medida em IOPS (operações de entrada/saída por segundo) e em MBps, em que MBps = 10^6 bytes/s.

  • Os discos de dados podem operar nos modos em cache ou não armazenado em cache. Para a operação do disco de dados armazenados em cache, o modo de cache do host é definido como ReadOnly ou ReadWrite. Para as operação do disco de dados não armazenados em cache, o modo de cache do host é definido como Nenhum.

  • Para saber como obter o melhor desempenho de armazenamento para suas VMs, consulte Desempenho de disco e máquina virtual.

  • Largura de banda de rede esperada é a largura de banda agregada máxima alocada por tipo de VM em todas as NICs para todos os destinos. Para obter mais informações, consulte Largura de banda da rede de máquina virtual.

    Os limites superiores não são garantidos. Os limites oferecem orientação para selecionar o tipo de VM correto para o aplicativo pretendido. O desempenho real da rede dependerá de vários fatores, incluindo cargas de rede e aplicativos, bem como configurações de rede. Para saber mais sobre como otimizar a taxa de transferência de rede, consulte Otimização da taxa de transferência de rede para máquinas virtuais do Azure. Para obter o desempenho de rede esperado no Linux ou no Windows, pode ser necessário selecionar uma versão específica ou otimizar sua VM. Para obter mais informações, consulte Testes de taxa de transferência/largura de banda (NTTTCP).

Outros tamanhos e informações

Você pode usar a calculadora de preços para estimar os custos das VMs do Azure.

Para obter mais informações sobre tipos de disco, consulte Quais tipos de disco estão disponíveis no Azure?

Próxima etapa