Important
この機能は パブリック プレビュー段階です。
AI Runtimeを使って、空のノートからGPU上のPyTorchまで数クリックで移行できます。 ノートブックを サーバーレスGPU に接続し、クラスターを設定せずにGPU監視、GPUノード上のターミナル、Genie Codeを組み込みましょう。
Requirements
ワークスペースはAI Runtimeを有効にし、サポートエリアに属している必要があります。 要件を参照してください。
ステップ1:ノートパソコンをGPUに接続する
- ノートブックを作成または開きます。
- ノートブック上部の計算ドロップダウンから「 Serverless GPU」を選択します。
- アクセラレーターフィールドで1xA10を選択してください。
- 「応募」をクリックしてから「確認」をクリックします。
Tip
開発や小規模なワークロードには、まずは1xA10から始めましょう。 GPUメモリやマルチGPU分散トレーニングが必要な場合は 、1台H100 や 8台H100 に切り替えましょう。 ハードウェア オプションを参照してください。
ステップ2:最初のGPUコードを実行します
DatabricksのAI環境には、PyTorch、Transformers、vLLM、pandasなど多くのパッケージがプリインストールされています。 全リストについては Databricks AI環境をご覧ください。
以下のノートパソコンを実行してGPUが接続されているか確認し、1つのトレーニングステップを実行してください:
AI Runtime クイックスタート ノートブック
今はサーバーレスGPUコンピュートでトレーニングしています。
GPUノートブックを探る
ノートブックにはGPUの作業を助けるための工具が付属しています。 基地環境を切り替えたり、GPU利用率を監視したり、GPUノードでターミナルを開いたり、Genie Codeを使ってコードを書いたりデバッグしたりできます。
環境の切り替え
右パネルの 「環境 」をクリックすると、別のベース環境やアクセラレーターを選択できます。 「 環境を設定する」を参照してください。
GPU利用率に注目してください
右パネルの GPUリソース をクリックすると、コードが実行中のGPU利用率とメモリをリアルタイムで確認できます。 ライブ GPU リソースの監視を参照してください。
GPUノードでターミナルを開いてください
右下の ターミナル をクリックすると、GPUノードのシェルが表示されます。
nvidia-smiを実行したり、ファイルを検査したり、プロセスを直接デバッグしたりできます。 「Azure Databricks Web ターミナルでシェル コマンドを実行する」を参照してください。
Genie Codeに執筆とデバッグをお任せします
右パネルの 「Genie Code 」をクリックして、欲しいものを説明してください。 エージェントはトレーニングコードを書いたり、依存関係の競合を修正したり、GPUの故障をデバッグしたりできます。 「 Use Genie Code with AI Runtime」を参照してください。
次のステップ
- AIランタイムの例からエンドツーエンドのノートブックをクローンします。
- ノートパソコンでの分散トレーニングで複数のGPUにスケールを広げましょう。