SKU-lista över hanterade slutpunkter online
Den här tabellen visar de VM-SKU:er som stöds för Azure Machine Learning-hanterade onlineslutpunkter.
De fullständiga SKU-namnen som anges i tabellen kan användas för Azure CLI- eller Azure Resource Manager-mallar (ARM-mallar) för att skapa och uppdatera distributioner.
Mer information om konfigurationsinformation som CPU och RAM finns i Prissättning för Azure Machine Learning och VM-storlekar.
| Relativ storlek | Generell användning | Beräkningsoptimerad | Minnesoptimerad | GPU |
|---|---|---|---|---|
| X-Small | Standard_DS1_v2 Standard_DS2_v2 Standard_D2a_v4 Standard_D2as_v4 |
Standard_F2s_v2 | Standard_E2s_v3 | Standard_NC4as_T4_v3 |
| Litet | Standard_DS3_v2 Standard_D4a_v4 Standard_D4as_v4 |
Standard_F4s_v2 Standard_FX4mds |
Standard_E4s_v3 | Standard_NC6s_v2 Standard_NC6s_v3 Standard_NC8as_T4_v3 |
| Medium | Standard_DS4_v2 Standard_D8a_v4 Standard_D8as_v4 |
Standard_F8s_v2 Standard_FX12mds |
Standard_E8s_v3 | Standard_NC12s_v2 Standard_NC12s_v3 Standard_NC16as_T4_v3 |
| Stort | Standard_DS5_v2 Standard_D16a_v4 Standard_D16as_v4 |
Standard_F16s_v2 | Standard_E16s_v3 | Standard_NC24s_v2 Standard_NC24s_v3 Standard_NC64as_T4_v3 Standard_NC24ads_A100_v4 |
| X-Large | Standard_D32a_v4 Standard_D32as_v4 Standard_D48a_v4 Standard_D48as_v4 Standard_D64a_v4 Standard_D64as_v4 Standard_D96a_v4 Standard_D96as_v4 |
Standard_F32s_v2 Standard_F48s_v2 Standard_F64s_v2 Standard_F72s_v2 Standard_FX24mds Standard_FX36mds Standard_FX48mds |
Standard_E32s_v3 Standard_E48s_v3 Standard_E64s_v3 |
Standard_NC48ads_A100_v4 Standard_NC96ads_A100_v4 Standard_ND96asr_v4 Standard_ND96amsr_A100_v4 Standard_ND40rs_v2 |
Varning
Standard_DS1_v2 och Standard_F2s_v2 kan vara för liten för större modeller och kan leda till att containern avslutas på grund av otillräckligt minne, inte tillräckligt med utrymme på disken eller avsökningsfel eftersom det tar för lång tid att initiera containern. Om du stöter på OutOfQuota-fel eller ReourceNotReady-fel kan du prova större VM-SKU:er. Om du vill minska kostnaden för att distribuera flera modeller med hanterad onlineslutpunkt kan du läsa exemplet för flera modeller.
Kommentar
Vi rekommenderar att du har fler än 3 instanser för distributioner i produktionsscenarier. Dessutom reserverar Azure Machine Learning 20 % av dina beräkningsresurser för att utföra uppgraderingar på vissa VM-SKU:er enligt beskrivningen i kvotallokering för virtuella datorer för distribution. VM-SKU:er som är undantagna från den här extra kvotreservationen visas nedan:
- Standard_NC24ads_A100_v4
- Standard_NC48ads_A100_v4
- Standard_NC96ads_A100_v4
- Standard_ND96asr_v4
- Standard_ND96amsr_A100_v4
- Standard_ND40rs_v2