Виртуальные машины серии NCads H100 версии 5 являются новым дополнением к семейству GPU Azure. Вы можете использовать эту серию для реальных рабочих нагрузок прикладного ИИ Azure для обучения и пакетных выводов.
Виртуальные машины серии NCads H100 v5 используются процессорами NVIDIA H100 NVL GPU и процессорами AMD EPYC™ Genoa 4-го поколения. Виртуальные машины имеют до 2 процессоров NVIDIA H100 NVL с 94 ГБ памяти каждый, до 96 непоточных процессоров AMD EPYC Genoa и 640 ГиБ системной памяти.
Эти виртуальные машины идеально подходят для реальных рабочих нагрузок прикладного ИИ, таких как:
- Аналитика и базы данных с ускорением GPU
- Пакетная инференция с существенной предварительной и последующей обработкой
- Обучение модели автономии
- Моделирование нефтяных и газовых резервуаров
- Разработка машинного обучения (ML)
- Обработка видео
- Веб-службы ИИ и машинного обучения
Спецификации хоста
| Часть |
Количество
Подсчет единиц |
Характеристики
Идентификатор SKU, единицы производительности и т. д. |
| Процессор |
40 — 80 виртуальных ЦП |
AMD EPYC (Genoa) [x86-64] |
| Память |
320 - 640 ГиБ |
|
| Локальное хранилище |
1 диск |
3576 - 7 152 ГиБ
Операции ввода-вывода в секунду (IOPS)
Мбит/с |
| Удаленное хранилище |
8 – 16 дисков |
100 000 – 240 000 IOPS
3000 – 7 000 МБИТ/с |
| Сеть |
2 – 4 сетевых адаптера |
40 000 – 80 000 Мбит/с
Интерфейсы: NetVSC, ConnectX |
| Ускорители |
1 – 2 GPU |
NVIDIA PCIe H100 GPU (94 ГБ) |
Сведения о функциях, поддерживаемых этой серией, см. в разделе поддержки компонентов .
Размеры в серии
виртуальные ЦП (Qty.) и память для каждого размера
| Название размера |
виртуальные ЦП (Кол-во) |
Память (ГиБ) |
| Standard_NC40ads_H100_v5 |
40 |
320 |
| Standard_NC80adis_H100_v5 |
80 |
640 |
Основные ресурсы виртуальной машины
Сведения о локальном хранилище (temp) для каждого размера
| Название размера |
Диски временного хранилища (кол-во) |
Размер диска temp (ГиБ) |
| Standard_NC40ads_H100_v5 |
1 |
3,576 |
| Standard_NC80adis_H100_v5 |
1 |
7,152 |
Ресурсы хранилища
Определения таблиц
- Производительность временных дисков зависит от многих факторов, включая размер блока, шаблоны рабочих нагрузок чтения и записи, глубину очереди (QD) и другие. Спецификации производительности временных дисков должны рассматриваться как показатели наилучшей производительности при размере блока 4k и QD=256 для операций ввода-вывода (IOPS) и размере блока 256k с QD=64 для пропускной способности (throughput). Кроме того, производительность временных дисков часто отличается от операций чтения и записи. Во время работы в устойчивом состоянии ожидается, что производительность записи будет ниже, чем производительность чтения.
- Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
- Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
- Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.
Сведения о удаленном (некачеленом) хранилище для каждого размера
| Название размера |
Максимальное число дисков удаленного хранилища (Qty.) |
Некэшированные IOPS на диск |
Скорость некичированного диска (MBps) |
| Standard_NC40ads_H100_v5 |
8 |
100,000 |
3,000 |
| Standard_NC80adis_H100_v5 |
16 |
240,000 |
7,000 |
Ресурсы хранилища
Определения таблиц
- Некоторые размеры поддерживают всплеск производительности, чтобы временно увеличить производительность диска. Пиковая скорость может поддерживаться до 30 минут.
- Специальное хранилище относится к хранилищу SSD категории "Ультра" или "Премиум" версии 2 .
- Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
- Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
- Диски данных могут работать в режиме кэширования и в режиме без кэширования. Чтобы использовать кэширование диска данных, для режима кэширования хоста следует задать значение ReadOnly или ReadWrite. Для операций с диском данных без кэширования режим кэширования хоста установлен на None.
- Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.
Сведения о сетевом интерфейсе для каждого размера
| Название размера |
Максимальное число сетевых адаптеров (Qty.) |
Максимальная пропускная способность (Мбит/с) |
| Standard_NC40ads_H100_v5 |
2 |
40,000 |
| Standard_NC80adis_H100_v5 |
4 |
80,000 |
Сетевые ресурсы
Определения таблиц
- Ожидаемая пропускная способность сети — это максимальная совокупная пропускная способность, выделенная на каждый тип виртуальной машины по всем сетевым адаптерам для всех назначений. Дополнительные сведения см. в разделе " Пропускная способность сети виртуальной машины"
- Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure.
- Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).
Сведения об акселераторе (GPU, FPGAs и т. д.) для каждого размера
| Название размера |
Акселераторы (кол-во) |
Ускоритель-память (ГБ) |
| Standard_NC40ads_H100_v5 |
1 |
94 |
| Standard_NC80adis_H100_v5 |
2 |
188 |
Поддержка функций
Список всех доступных размеров: размеры
Калькулятор цен: Калькулятор цен
Сведения о типах дисков: типы дисков
Следующие шаги
Воспользуйтесь новейшими функциями и производительностью, доступными для рабочих нагрузок, изменив размер виртуальной машины.
Используйте встроенные процессоры ARM корпорации Майкрософт с виртуальными машинами Azure Cobalt.
Узнайте, как отслеживать виртуальные машины Azure.