受控線上端點 SKU 清單

下表顯示 Azure 機器學習受控線上端點支援的 VM SKU。

  • 資料表中所列的完整 SKU 名稱可用於 Azure CLI 或 Azure Resource Manager 範本 (ARM 範本) 要求,以建立和更新部署。

  • 如需設定詳細資料的詳細資訊,例如 CPU 和 RAM,請參閱 Azure 機器學習定價 VM 大小

相對大小 一般用途 計算最佳化 記憶體最佳化 GPU
X-Small Standard_DS1_v2
Standard_DS2_v2
Standard_D2a_v4
Standard_D2as_v4
Standard_F2s_v2 標準 E2s_v3 Standard_NC4as_T4_v3
Small Standard_DS3_v2
Standard_D4a_v4
標準 D4as_v4
Standard_F4s_v2
Standard_FX4mds
標準 E4s_v3 Standard_NC6s_v2
Standard_NC6s_v3
Standard_NC8as_T4_v3
Standard_DS4_v2
Standard_D8a_v4
Standard_D8as_v4

Standard_F8s_v2 Standard_FX12mds
標準 E8s_v3 Standard_NC12s_v2
Standard_NC12s_v3
Standard_NC16as_T4_v3
大型 Standard_DS5_v2
Standard_D16a_v4
Standard_D16as_v4
Standard_F16s_v2 標準 E16s_v3 Standard_NC24s_v2
Standard_NC24s_v3
Standard_NC64as_T4_v3
Standard_NC24ads_A100_v4
X-Large Standard_D32a_v4
Standard_D32as_v4
Standard_D48a_v4
Standard_D48as_v4
Standard_D64a_v4
Standard_D64as_v4
Standard_D96a_v4
Standard_D96as_v4
Standard_F32s_v2
Standard_F48s_v2
Standard_F64s_v2
Standard_F72s_v2
Standard_FX24mds
Standard_FX36mds
Standard_FX48mds
Standard_E32s_v3
Standard_E48s_v3
標準 E64s_v3
Standard_NC48ads_A100_v4
Standard_NC96ads_A100_v4
Standard_ND96asr_v4
Standard_ND96amsr_A100_v4
Standard_ND40rs_v2

警告

Standard_DS1_v2Standard_F2s_v2 對於較大的模型而言可能太小,而且由於記憶體不足、磁碟空間不足,或探查失敗而導致容器終止,因為起始容器所需的時間太長。 如果您遇到 OutOfQuota 錯誤 ReourceNotReady 錯誤 ,請嘗試較大的 VM SKU。 如果您想要降低使用受控線上端點部署多個模型的成本,請參閱 多模型 範例。

注意

我們建議在生產案例中部署超過 3 個實例。 此外,Azure 機器學習會保留 20% 的計算資源,以在某些 VM SKU 上執行升級,如虛擬機器配額配置中用於部署 所述 。 下列列出免除此額外配額保留的 VM SKU:

  • Standard_NC24ads_A100_v4
  • Standard_NC48ads_A100_v4
  • Standard_NC96ads_A100_v4
  • Standard_ND96asr_v4
  • Standard_ND96amsr_A100_v4
  • Standard_ND40rs_v2