중요합니다
이 기능은 공개 미리보기 단계에 있습니다.
AI 런타임은 딥러닝 워크로드를 위해 Databricks에서 제공하는 서버리스 GPU 컴퓨트 솔루션입니다. AI 런타임을 사용하여 선호하는 프레임워크를 사용하여 사용자 지정 모델을 학습 및 미세 조정하고 최첨단 효율성, 성능 및 품질을 얻을 수 있습니다.
시작하기
빠른 시작 가이드를 사용해 몇 분 만에 첫 작업 작업을 진행하세요.
| 시작하기 | Description |
|---|---|
| 🚀 Databricks CLI quickstart | Slurm이나 Kubernetes 클러스터에서 오셨나요? 터미널에서 AI 런타임을 몇 분 만에 학습할 수 있습니다. |
| 📓 노트북 퀵스타트 | 노트북을 GPU에 몇 초 만에 연결하고 인터랙티브 개발할 수 있습니다. |
| ⚡ 레이 | 레이 클러스터에서 오셨나요? 대시보드 지원이 있는 AI 런타임에서 Ray를 실행하세요. |
| 🧭 개요 | AI 런타임에 관한 핵심 사항을 2분 만에 배워보세요: 사용 가능한 GPU, 작동 원리, 그리고 한계. |
기능
AI 런타임은 다양한 방식으로 GPU에 연결할 수 있는 풀스택 GPU 플랫폼이며, 내장 관측 및 디버깅 도구, 사전 구축된 환경을 갖추고 있습니다.
서버리스 GPU에 연결하세요: 어디서든 서버리스 GPU에 접근할 수 있습니다.
| 특징 | Description |
|---|---|
| Notebooks | 노트북을 서버리스 GPU 컴퓨트에 연결하고 클러스터 설정 없이 인터랙티브 개발하세요. |
| SSH를 통한 IDE | IDE 또는 터미널을 통해 SSH 터널로 연결하여 GPU 노드에 직접 접속해 작업하세요. |
| Databricks CLI | 노트북에서 YAML 작업 설정을 사용해 분산 GPU 훈련 작업을 제출하고 관리하세요. |
| AI 에이전트 |
databricks-ai-runtime 에이전트 스킬을 사용해 AI 에이전트의 GPU 훈련 작업을 제출, 모니터링, 관리하세요. |
| 광선 | 서버 없는 GPU 컴퓨트에서 Ray Core, Ray Data, Ray Train, Ray Tune을 실행하세요. |
의존성 관리: 워크로드가 실행되는 Python과 시스템 라이브러리를 제어하세요.
| 특징 | Description |
|---|---|
| 사전 구축 환경 | 최소한의 표준 환경이나 ML 프레임워크가 미리 설치된 Databricks AI 환경에서 시작하세요. |
GPU에 데이터를 로드하기: 학습 데이터를 효율적으로 GPU에 전달하세요.
| 특징 | Description |
|---|---|
| 효율적인 데이터 로더 | Unity 카탈로그 볼륨에서 높은 GPU 활용도를 위해 설계된 내결함성 로더로 데이터를 스트리밍할 수 있습니다. |
디버깅 및 관찰 가능성: 실험 추적, 출력 점검, 고장 진단.
| 특징 | Description |
|---|---|
| 딥러닝을 위한 MLflow입니다 | 실험, 지표, 실행을 MLflow로 추적하세요. |
| 로그 뷰어 | 훈련 결과를 보고 코드 실행 중 GPU 자원 사용량을 모니터링하세요. |
| 에이전트를 이용한 디버깅 | Genie Code를 사용해 학습 코드를 생성하고, 환경 문제를 해결하며, GPU 고장을 디버깅할 수 있습니다. |
스케줄링 및 실시간 서비스: 인터랙티브 개발에서 예약된 작업 및 엔드포인트로 전환하세요.
| 특징 | Description |
|---|---|
| GPU 워크로드 스케줄링 | 선언적 자동화 번들(Declarative Automation Bundles)을 이용한 교육 코드를 배포하고, 실행을 일정 조정하며, 다중 작업 GPU 및 CPU 워크플로우를 구축하세요. |
| 모델들을 서빙하세요 | 훈련된 모델을 Model Serving을 적용해 확장 가능한 엔드포인트 뒤에 배포하세요. |
예제
AI 런타임을 위한 엔드투엔드 노트북 및 Databricks CLI 예제를 탐색해 보세요.
| 예시 | Description |
|---|---|
| 고전적인 머신러닝 | GPU 가속 XGBoost, 제로샷 정형 데이터 예측, 시계열 예측. |
| 권장 사항 시스템 | 2타워 아키텍처와 같은 딥러닝 추천자 모델을 훈련하세요. |
| 컴퓨터 비전 | GPU에서의 객체 탐지 및 이미지 분류 작업 부하. |
| 사후 학습된 OSS 모델(LLM) | LoRA, 전체 파인튜닝, TRL, Unsloth, Axolotl 같은 라이브러리를 사용해 오픈소스 LLM을 파인튜닝하고 후속 학습할 수 있습니다. |
| 일괄 처리 유추 | 여러 GPU에서 Ray Data와 vLLM을 활용한 대규모 배치 추론을 실행하세요. |
| 다중 GPU 분산 학습 | DDP, FSDP, DeepSpeed를 사용하여 여러 GPU와 노드에 걸쳐 훈련을 확장할 수 있습니다. |
Guides
작업 중심의 가이드로, 워크로드를 AI 런타임으로 마이그레이션하고 GPU를 최대한 활용하는 방법입니다.
| Guide | Description |
|---|---|
| 슬럼에서 이주 | Slurm 배치 스크립트, 분산 런처, 공유 저장소를 Databricks CLI에 매핑하세요. |
| 클래식 GPU 워크로드 마이그레이션 | 기존 딥러닝 워크로드를 클래식 Databricks 클러스터에서 AI 런타임으로 옮깁니다. |
| 성과 회복력 | 교육 처리량을 개선하고 장기 진행 작업의 실패에 대한 회복력을 강화하세요. |
추가 리소스
유용한 콘텐츠를 찾아보세요: 최신 제품 업데이트와 AI 런타임이 내부적으로 어떻게 작동하는지.
| Resource | Description |
|---|---|
| 제품 업데이트 | 최신 AI 런타임 제품 업데이트 및 발표를 확인하세요. |
| AI 런타임이 내부적으로 작동하는 방식 | Databricks가 AI 런타임 전반에 걸쳐 GPU의 신뢰성을 어떻게 유지하는지 읽어보세요. |