Important
이 기능은 공개 미리보기 단계에 있습니다.
비고
이 페이지는 AI 런타임에 관한 레이에 대해 다룹니다. Databricks classic 컴퓨트와 Databricks 런타임 머신러닝을 함께 사용하고 있다면, Ray on Databricks를 참고하세요.
Ray는 Python 워크로드 확장을 위한 오픈 소스 프레임워크입니다. AI 런타임에서 Ray 클러스터를 만들고 Ray 애플리케이션을 실행할 수 있으며, 인프라 프로비저닝을 자동으로 처리하는 서버리스 GPU 컴퓨트를 사용할 수 있습니다.
AI 런타임 CLI는 단일 노드 및 다중 노드 구성에서 Ray를 지원합니다. 워크로드 command아래에 부트스트랩 스크립트를 포함시켜, 레이 클러스터를 시작하고 워크로드가 실행될 때 헤드와 워커 노드를 조정합니다.
Ray hello World 예시는 이 패턴을 보여줍니다.
AI 런타임은 Ray Core, Ray Data, Ray Train, Ray Tune 등 Ray의 핵심 라이브러리를 지원합니다. 라이브러리나 ray 관련 Ray extra(ray[data], ray[train], ray[tune])를 표준 Databricks 환경에 의존성 기반으로 설치하세요. Databricks AI 환경을 ray 사용한다면 사전 설치되어 있지만 추가 설치는 별도로 해야 합니다.
Examples
| Example | Description |
|---|---|
| Ray hello world 예시 (CLI) | Ray Core, Ray Train, Ray Data, Ray Tune에 대한 최소한의 단일 노드 및 다중 노드 예시, 클러스터 부트스트랩 패턴 포함. |
| Ray Train(CLI)을 이용한 분산 훈련 | Ray Train과 PyTorch를 사용해 여러 노드에 걸쳐 대규모 언어 모델을 미세 조정하세요. |
| Ray Data 및 vLLM(CLI)을 이용한 배치 추론 | 분산 데이터 로딩을 위한 Ray Data와 효율적인 모델 서빙을 위한 vLLM을 사용하여 대규모 배치 추론을 실행하세요. |