この記事では、サーバーレス GPU コンピューティングとは何か、そのしくみ、およびその使用に関する主要なシナリオについて説明します。 Microsoft Dev Box (プレビュー) のサーバーレス GPU コンピューティングを使用すると、GPU アクセラレーションを使用して開発ボックスを起動できます。追加のセットアップは必要ありません。 Dev Box サーバーレス GPU コンピューティングを使用すると、開発者は、永続的なインフラストラクチャや複雑なセットアップなしで、必要に応じて GPU リソースを使用できます。
サーバーレス GPU コンピューティングの一般的なシナリオには、AI モデルのトレーニング、推論、データ処理などのコンピューティング集中型のワークロードがあります。 サーバーレス GPU コンピューティングを使用すると、次のことができます。
- GPU リソースが必要な場合にのみ使用する
- ワークロードの需要に基づいて GPU リソースをスケーリングする
- 使用した GPU 時間に対してのみ支払う
- 組織のセキュリティで保護されたネットワーク環境で作業する
この機能により、Microsoft Dev Box と Azure Container Apps が統合され、開発者がインフラストラクチャを管理しなくても GPU 能力が提供されます。
Dev Box のサーバーレス GPU コンピューティングでは、Azure Container Apps (ACA) が使用されます。 開発者が GPU 対応シェルまたはツールを起動すると、Dev Box は自動的に次の処理を行います。
- サーバーレス GPU セッションへの接続を作成します
- 必要な GPU リソースをプロビジョニングします
- 開発者のターミナルまたは統合開発環境を通じてこれらのリソースを使用できるようにする
- 不要になったときにセッションを自動的に終了する
[前提条件]
- Azure サブスクリプション
- Microsoft Dev Box プロジェクト
サーバーレス GPU の構成
管理者は、デベロッパー センターを介してプロジェクト レベルでサーバーレス GPU アクセスを制御します。 主な管理機能は次のとおりです。
- GPU アクセスの有効化/無効化: プロジェクトでサーバーレス GPU リソースを使用できるかどうかを制御します。
- 同時 GPU 制限の設定: プロジェクトで同時に使用できる GPU の最大数を設定します。
サーバーレス GPU リソースへのアクセスは、プロジェクト レベルのプロパティを使用して管理されます。 プロジェクトに対してサーバーレス GPU 機能が有効になっている場合、そのプロジェクト内のすべての Dev Boxes で GPU コンピューティングを使用できます。 この単純なアクセス モデルにより、カスタム ロールまたはプールベースの構成が不要になります。
サブスクリプションのサーバーレス GPU を登録する
- Azure portal にサインインします。
- サブスクリプションに移動します。
- [設定]>[プレビュー機能]を選択します。
-
Dev Box サーバーレス GPU プレビューを選択し、[登録] を選択します。
プロジェクトのサーバーレス GPU を有効にする
GPU に接続する
サーバーレス GPU を有効にすると、そのプロジェクトの Dev Box ユーザーには、ターミナル環境と VS Code 環境で GPU オプションが表示されます。
接続には、次のいずれかの方法を使用できます。
方法 1: Dev Box GPU シェルを起動する
- 開発ボックスで Windows ターミナルを開きます。
- 次のコマンドを実行します。
devbox gpu shell
- 構成済みの GPU コンテナーに接続します。
方法 2: リモート トンネルで VS Code を使用する
- 開発ボックスで Windows ターミナルを開きます。
- 次のコマンドを実行します。
devbox gpu shell
- Visual Studio Code を起動します。
- リモート トンネル拡張機能をインストールします。
- gpu セッション トンネルに接続します。