マネージド オンライン エンドポイント SKU の一覧
この表は、Azure Machine Learning のマネージド オンライン エンドポイントのためにサポートされる VM SKU を示しています。
表に記載されている完全 SKU 名は、デプロイを作成および更新する目的で Azure CLI または Azure Resource Manager テンプレート (ARM テンプレート) 要求に使用できます。
CPU や RAM などの構成の詳細については、「Azure Machine Learning の価格」と「VM サイズ」を参照してください。
| 相対サイズ | General Purpose | コンピューティング最適化 | メモリ最適化 | GPU |
|---|---|---|---|---|
| 微小 | Standard_DS1_v2 Standard_DS2_v2 Standard_D2a_v4 Standard_D2as_v4 |
Standard_F2s_v2 | Standard_E2s_v3 | Standard_NC4as_T4_v3 |
| Small | Standard_DS3_v2 Standard_D4a_v4 Standard_D4as_v4 |
Standard_F4s_v2 Standard_FX4mds |
Standard_E4s_v3 | Standard_NC6s_v2 Standard_NC6s_v3 Standard_NC8as_T4_v3 |
| 中間 | Standard_DS4_v2 Standard_D8a_v4 Standard_D8as_v4 |
Standard_F8s_v2 Standard_FX12mds |
Standard_E8s_v3 | Standard_NC12s_v2 Standard_NC12s_v3 Standard_NC16as_T4_v3 |
| Large | Standard_DS5_v2 Standard_D16a_v4 Standard_D16as_v4 |
Standard_F16s_v2 | Standard_E16s_v3 | Standard_NC24s_v2 Standard_NC24s_v3 Standard_NC64as_T4_v3 Standard_NC24ads_A100_v4 |
| X-Large | Standard_D32a_v4 Standard_D32as_v4 Standard_D48a_v4 Standard_D48as_v4 Standard_D64a_v4 Standard_D64as_v4 Standard_D96a_v4 Standard_D96as_v4 |
Standard_F32s_v2 Standard_F48s_v2 Standard_F64s_v2 Standard_F72s_v2 Standard_FX24mds Standard_FX36mds Standard_FX48mds |
Standard_E32s_v3 Standard_E48s_v3 Standard_E64s_v3 |
Standard_NC48ads_A100_v4 Standard_NC96ads_A100_v4 Standard_ND96asr_v4 Standard_ND96amsr_A100_v4 Standard_ND40rs_v2 |
注意事項
Standard_DS1_v2 と Standard_F2s_v2 は、より大きなモデルでは小さすぎる可能性があり、メモリの不足、ディスク上の十分な領域の不足、またはコンテナーの開始に時間がかかりすぎるプローブ失敗が原因でコンテナーが終了する可能性があります。 OutOfQuota エラー または ReourceNotReady エラーが発生した場合は、より大きな VM SKU を試してください。 マネージドオンラインエンドポイントで複数のモデルのデプロイにかかる費用を減らす場合、「複数のモデルの例」を参照してください。
Note
運用環境のシナリオでのデプロイには、3 つ以上のインスタンスを用意することをお勧めします。 さらに、Azure Machine Learning では、デプロイの仮想マシン クォータの割り当てに関するページで説明されているように、一部の VM SKU でアップグレードを実行するためにコンピューティング リソース 20% が予約されます。 この追加クォータ予約から除外される VM SKU を次に示します:
- Standard_NC24ads_A100_v4
- Standard_NC48ads_A100_v4
- Standard_NC96ads_A100_v4
- Standard_ND96asr_v4
- Standard_ND96amsr_A100_v4
- Standard_ND40rs_v2