GPU対応プールは、データ転送や初期化コストを相殺するのに十分な並列数値処理を行う財務モデルを加速できます。 モデルがGPUの恩恵を受けるのは、シミュレーションの試験が独立して実行されるからだけではありません。 プールを変更する前に計算のプロファイルを確認してください。
適切な計算方法を特定する
GPUは、モデルが以下の場合により役立つ可能性が高いです:
- 同じ数値演算を、多数のシナリオや経路にわたって適用します。
- 1タスクあたりGPUを忙しくさせるのに十分な作業量があります。
- 計算量に比べて、転送するデータ量は少量です。
- ターゲットGPUランタイムをすでにサポートしているフレームワークや実装を使用します。
CPUプールは、タスクが短く、分岐が多く、大規模なデータセットを転送したり、ストレージの読み込みに多くの時間を費やしたりする場合に効率的になり得ます。
構成の比較
各ベンチマークごとに同じモデルバージョン、入力、パーティション数、検証基準を用いてください。 比較:
- プール割り当てとノード初期化時間。
- モデルとドライバーの初期化時間。
- タスクの持続時間とスループット。
- 失敗率と再試率。
- 完了および検証された実行あたりの総VMコスト。
まずは小さなプールから始め、数値結果をCPUの実装と照らし合わせてみてください。 異なるハードウェアや数値ライブラリによって小さな浮動小数点差が生じることがあるため、テスト前に許容される許容差を定義してください。
GPUプールを準備する
必要な NVIDIA ドライバーを提供するイメージを使用して、サポートされている GPU 対応 VM サイズを使用してください。 事前に設定されたAzure Marketplaceイメージを選ぶか、ドライバーをカスタムイメージにインストールしてください。 現在のサポートを検証せずに、古いサンプルのイメージ名、ドライバーバージョン、CUDAバージョンを引き継がないでください。
現在のプール要件や例については、「 バッチプールでGPU対応のVMサイズを使用する」をご覧ください。
GPUのVMは地域容量に制限があり、別々のクォータ要件を持つことがあります。 生産をスケジューリングする前に バッチ容量計画 を確認しましょう。