AI ランタイム上のレイ

Important

この機能は パブリック プレビュー段階です。

Note

このページではAIランタイムに関するレイについて触れています。 もしDatabricks classic ComputeでRayを使っているなら、Databricks Runtime MLの Ray on Databricksを参照してください。

RayはPythonワークロードのスケーリングを目的としたオープンソースフレームワークです。 サーバーレスGPU計算を用いて、AIランタイム上でRayクラスターを作成し、インフラのプロビジョニングを自動的に処理します。

AIランタイムCLIは、Rayをシングルノードおよびマルチノード構成でサポートします。 ワークロードの commandの下にブートストラップスクリプトを含め、Rayクラスターを起動し、ワークロード起動時にヘッドノードとワーカーノードを調整します。 Ray Hello Worldの例はこのパターンを示しています。

AIランタイムは Ray Core、 Ray Data、 Ray Train、 Ray TuneなどのRayのコアライブラリをサポートしています。 rayライブラリや関連するRayエクストラ(ray[data]、ray[train]、ray[tune])を、標準Databricks環境のワークロードの依存関係としてインストールしてください。 Databricks AI環境を使う場合、 ray はプリインストールされていますが、追加要素は別途インストールする必要があります。

Examples

例	Description
Ray Hello World の例 (CLI)	Ray Core、Ray Train、Ray Data、Ray Tuneの単一ノードおよびマルチノードの最小限の例であり、クラスターブートストラップパターンも含まれます。
Ray Train(CLI)を用いた分散訓練	Ray TrainとPyTorchを使って、複数のノードにわたる大規模な言語モデルを微調整します。
レイデータとvLLM(CLI)を用いたバッチ推論	分散データロードのためのレイデータと効率的なモデルサービングのためのvLLMを用いた大規模なバッチ推論を実行します。
レイチューン(CLI)によるハイパーパラメータ検索	Qwen2.5のLoRAファインチューニングハイパーパラメータをRay Tuneで検索し、GPUごとに1つのトライアルを実行し、ASHAスケジューラでパフォーマンス不振のトライアルを早期に停止する方法を参考にしてください。