AI ランタイム上のレイ

Important

この機能は パブリック プレビュー段階です。

Note

このページではAIランタイムに関するレイについて触れています。 もしDatabricks classic ComputeでRayを使っているなら、Databricks Runtime MLの Ray on Databricksを参照してください。

RayはPythonワークロードのスケーリングを目的としたオープンソースフレームワークです。 サーバーレスGPU計算を用いて、AIランタイム上でRayクラスターを作成し、インフラのプロビジョニングを自動的に処理します。

ノートブックでRayを使う

ノートブックがAI Runtime GPU計算に接続されている場合、serverless_gpuパッケージのray_init()を使って、接続された計算でRayを起動します:

from serverless_gpu import ray_init

ray_init()

ray_init() Databricksのドライバープロキシ経由でRayダッシュボードへのアクセスを設定し、ノートブック出力にダッシュボードURLを印刷します。 ダッシュボードを使って、コードが実行されている間にRayジョブ、タスク、リソースの使用状況をチェックしてください。

Note

ray_init() 環境バージョン5以降が必要です。 Databricks AI v6にはRayが含まれています。 Standard v6を使う場合は、 ray_init()に連絡する前にRayをインストールしてください。

ノートブックの例

例	Description
レイコア ハローワールド	非同期GPUタスクを接続された計算に提出し、Rayダッシュボードでスケジューリングを確認し、結果を取得します。
Qwen2.5-32BのRay DataおよびvLLMによるバッチ推論	8台のH100 GPU上で8つの永続的vLLMレプリカを使って多言語バッチ推論を実行し、その結果をUnityカタログのParquetとして保存します。

AIランタイムCLIでRayを使いましょう

AIランタイムCLIは、Rayをシングルノードおよびマルチノード構成でサポートします。 ワークロードの commandの下にブートストラップスクリプトを含め、Rayクラスターを起動し、ワークロード起動時にヘッドノードとワーカーノードを調整します。 Ray Hello Worldの例はこのパターンを示しています。

AIランタイムは Ray Core、 Ray Data、 Ray Train、 Ray TuneなどのRayのコアライブラリをサポートしています。 標準環境では、 ray または関連する追加要素(ray[data]、 ray[train]、 ray[tune])をワークロード依存関係に追加します。 DatabricksのAI環境にはRayが含まれています。

CLI の例

例	Description
レイ・ハロー・ワールドの例	Ray Core、Ray Train、Ray Data、Ray Tuneの単一ノードおよびマルチノードの最小限の例であり、クラスターブートストラップパターンも含まれます。
Ray Train を使用した分散トレーニング	Ray TrainとPyTorchを使って、複数のノードにわたる大規模な言語モデルを微調整します。
Ray Data と vLLM を使用したバッチ推論	分散データロードのためのレイデータと効率的なモデルサービングのためのvLLMを用いた大規模なバッチ推論を実行します。
レイチューンによるハイパーパラメータ探索	Qwen2.5のLoRAファインチューニングハイパーパラメータをRay Tuneで検索し、GPUごとに1つのトライアルを実行し、ASHAスケジューラでパフォーマンス不振のトライアルを早期に停止する方法を参考にしてください。