Поделиться через

NCads H100 v5-series

  • Статья

Применимо к: ✔️ Виртуальные машины Linux ✔️ Виртуальные машины Windows ✔️ Универсальные масштабируемые наборы

Виртуальные машины серии NCads H100 версии 5 являются новым дополнением к семейству GPU Azure. Вы можете использовать эту серию для реальных рабочих нагрузок прикладного ИИ Azure для обучения и пакетных выводов. Виртуальные машины серии NCads H100 v5 используются процессорами NVIDIA H100 NVL GPU и процессорами AMD EPYC™ Genoa 4-го поколения. Виртуальные машины имеют до 2 процессоров NVIDIA H100 NVL с 94 ГБ памяти каждый, до 96 непоточных процессоров AMD EPYC Genoa и 640 ГиБ системной памяти. Эти виртуальные машины идеально подходят для реальных рабочих нагрузок прикладного ИИ, таких как:

  • Аналитика и базы данных с ускорением GPU
  • Пакетный вывод с существенной предварительной и последующей обработкой
  • Обучение модели автономности
  • Моделирование нефтяных и газовых резервуаров
  • Разработка машинного обучения (ML)
  • Обработка видео
  • Веб-службы ИИ и машинного обучения

Поддерживаемые функции

Чтобы приступить к работе с виртуальными машинами NCads H100 версии 5, ознакомьтесь с инструкциями по настройке и оптимизации рабочей нагрузки HPC, включая конфигурацию драйвера и сети.

Из-за увеличения объема операций ввода-вывода памяти GPU NCads H100 v5 требуется использование виртуальных машин поколения 2 и образов Marketplace. Следуйте инструкциям по использованию образов Azure HPC для настройки.

Размер Виртуальные ЦП Память (ГиБ) Temp Disk NVMe (GiB) GPU Память GPU (ГиБ) Макс. количество дисков данных Максимальная пропускная способность дисков без кэширования, операций ввода-вывода в секунду/МБит/с Максимальное число сетевых адаптеров / максимальная пропускная способность сети (Мбит/с)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = один карта H100
2 Локальные диски NVMe являются временными. Данные теряются на этих дисках при остановке или освобождении виртуальной машины. Локальные диски NVMe не будут шифроваться в процессе шифрования службы хранилища Azure, даже если включить шифрование на узле.

Определение размера

  • Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.

  • Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.

  • Диски данных могут работать в режиме кэширования и в режиме без кэширования. Чтобы использовать кэширование диска данных, для режима кэширования узла следует задать значение ReadOnly или ReadWrite. Чтобы не использовать кэширование диска данных, для режима кэширования узла следует задать значение None.

  • Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.

  • Ожидаемая пропускная способность сети — это максимальная агрегированная пропускная способность , выделенная для каждого типа виртуальной машины для всех сетевых адаптеров. Чтобы получить дополнительную информацию, см. Пропускная способность сети для виртуальных машин.

    Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure. Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).

Другие размеры и сведения

Для оценки затрат на виртуальные машины Azure можно использовать калькулятор цен.

Дополнительные сведения о типах дисков см. в статье Какие типы дисков доступны в Azure.

Следующий шаг