Серия виртуальных машин NCCads H100 версии 5 является новым дополнением к семейству GPU Azure. В этом SKU виртуальной машины доверенная среда выполнения (TEE) распространяется на конфиденциальную виртуальную машину на процессоре и подключенном к нему GPU, что обеспечивает безопасную передачу данных, моделей и вычислений на GPU.
Серия NCCads H100 v5 работает на 4-м поколении процессоров AMD EPYC™ Genoa и NVIDIA H100 Tensor Core GPU. Эти виртуальные машины имеют 1 GPU NVIDIA H100 NVL с памятью 94 ГБ, 40 непоточных ядер процессора AMD EPYC Genoa и 320 ГиБ системной памяти. Эти виртуальные машины идеально подходят для реальных рабочих нагрузок прикладного ИИ, таких как:
- Аналитика и базы данных с ускорением GPU
- Пакетное инференсирование с существенной пред- и постобработкой
- Разработка машинного обучения (ML)
- Обработка видео
- Веб-службы ИИ и машинного обучения
Спецификации хоста
| Часть |
Количество
Подсчет единиц |
Характеристики
Идентификатор SKU, единицы производительности и т. д. |
| Процессор |
40 виртуальных ЦП |
AMD EPYC (Genoa) [x86-64] |
| Память |
320 ГиБ |
|
| Локальное хранилище |
1 диск |
800 ГиБ |
| Удаленное хранилище |
8 дисков |
100000 операций ввода-вывода в секунду
3000 МБИТ/с |
| Сеть |
8 сетевых адаптеров |
40000 Мбит/с |
| Ускорители |
1 GPU |
Nvidia H100 GPU (94 ГБ) |
Поддержка функций
хранилище класса Premium: поддерживается
Кэширование Premium Storage: поддерживается
Динамическая миграция: не поддерживается
Обновления с сохранением памяти: не поддерживаются
Виртуальные машины поколения 2: поддерживается
Виртуальные машины поколения 1. Не поддерживается
Ускорение сети: не поддерживается
Эфемерный диск ОС: поддерживается
Вложенная виртуализация: не поддерживается
Размеры в серии
Виртуальные центральные процессоры (количество) и память для каждой величины
| Название размера |
виртуальные ЦП (Qty.) |
Память (ГБ) |
| Standard_NCC40ads_H100_v5 |
40 |
320 |
Основные ресурсы виртуальной машины
Сведения о локальном (temp) хранилище для каждого размера
| Имя размера |
Максимальное количество дисков временного хранилища (Кол-во) |
Размер диска temp (ГиБ) |
| Standard_NCC40ads_H100_v5 |
1 |
800 |
Ресурсы хранилища
Определения таблиц
-
Скорость 1временных дисков часто отличается от операций RR (случайного чтения) и RW (случайной записи). Операции RR обычно быстрее, чем операции RW. Скорость RW обычно медленнее скорости RR в рядах, где указано только значение скорости RR.
- Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с ГиБ (1024^3 байтов) помните, что емкость в ГиБ может казаться меньше. Например, 1023 ГиБ = 1098,4 ГБ.
- Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
- Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.
Сведения об удалённом (некэшированном) хранилище для каждого размера
| Название размера |
Максимальное число дисков удаленного хранилища (Qty.) |
Некичированные операции ввода-вывода в секунду на диск |
Скорость некичированного диска (MBps) |
| Standard_NCC40ads_H100_v5 |
8 |
100000 |
3000 |
Ресурсы хранилища
Определения таблиц
-
1Некоторые размеры поддерживают бурстинг, чтобы временно увеличить производительность диска. Пиковая скорость может поддерживаться в течение 30 минут.
-
2Специальное хранилище относится к хранилищу SSD категории "Ультра" или "Премиум" версии 2 .
- Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байт) с емкостью дисков в ГиБ (1024^3 байт) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
- Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
- Диски данных могут работать в режиме кэширования и в режиме без кэширования. Для операции с кэшированным диском данных режим кэширования узла устанавливается в ReadOnly или ReadWrite. Для операций с дисками данных без кэширования режим кэширования узла установлен на None.
- Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.
Сведения о сетевом интерфейсе для каждого размера
| Имя размера |
Максимальное число сетевых адаптеров (Qty.) |
Максимальная пропускная способность (Мбит/с) |
| Standard_NCC40ads_H100_v5 |
8 |
40000 |
Сетевые ресурсы
Определения таблиц
- Ожидаемая пропускная способность сети — это максимальная совокупная пропускная способность, выделенная на каждый тип виртуальной машины по всем сетевым адаптерам для всех назначений. Дополнительные сведения см. в разделе " Пропускная способность сети виртуальной машины"
- Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure.
- Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).
Сведения об акселераторе (GPU, FPGAs и т. д.) для каждого размера
| Название размера |
Акселераторы (Кол-во) |
Ускоритель-память (ГБ) |
| Standard_NCC40ads_H100_v5 |
1 |
94 |
Создание виртуальной машины
Чтобы начать работу с виртуальными машинами NCCads H100 версии 5 и получить информацию о конфиденциальной конфигурации драйвера GPU и аттестации, см. раздел конфиденциальная конфигурация GPU.
Список всех доступных размеров: размеры
Калькулятор цен: Калькулятор цен
Сведения о типах дисков: типы дисков
Следующие шаги
Воспользуйтесь новейшими функциями и производительностью, доступными для рабочих нагрузок, изменив размер виртуальной машины.
Используйте встроенные процессоры ARM корпорации Майкрософт с виртуальными машинами Azure Cobalt.
Узнайте, как отслеживать виртуальные машины Azure.