AI 런타임은 Databricks에서 제공하는 완전 관리형 서버리스 GPU 컴퓨트 솔루션으로, 학습, 파인튜닝, 그리고 더 넓은 딥러닝 작업을 지원합니다.
- 서버리스 GPU: Databricks CLI, 노트북, 작업(Job), Ray를 통해 접근 가능한 주문형 A10 및 H100.
- 관리형 환경: 훈련과 미세 조정을 위해 준비된 사전 구축된 환경과 데이터로더, 또는 자체 Docker 컨테이너를 가져오세요.
- 내장된 관측 가능성: MLflow를 통한 실험 추적, 로깅, 디버깅용 에이전트.
- 오케스트레이션: GPU 워크로드를 스케줄링하고 CI/CD 파이프라인에서 활용하세요.
시작하기
AI 런타임에 대해 배우고 첫 워크로드를 실행하세요.
| 시작하기 | Description |
|---|---|
| 🚀 퀵스타트 | 터미널에서 AI 런타임으로 첫 워크로드를 실행하세요. |
| 🧭 개요 | AI 런타임에 관한 핵심 사항을 배우세요: 어떤 GPU가 존재하는지, 어떻게 작동하는지, 그리고 제한 사항들. |
| 💡 예시 | 작업별로 정리된 노트북 튜토리얼과 실행 가능한 Databricks CLI 레시피를 둘러보세요. |
GPU에 연결하세요
Databricks CLI, 노트북, 작업 또는 Ray를 통해 GPU에 접근할 수 있습니다.
| 특징 | Description |
|---|---|
| Databricks CLI | 노트북에서 YAML 작업 설정을 사용해 분산 GPU 훈련 작업을 제출하고 관리하세요. |
| Notebooks | 노트북을 AI 런타임에 연결하고 클러스터 설정 없이 인터랙티브하게 개발하세요. |
| 직업 | AI 런타임에서 GPU 워크로드를 반복 작업으로 스케줄링하고, 업스트림과 다운스트림 작업과 함께 오케스트레이션하세요. |
| 광선 | AI 런타임에서 Ray Core, Ray Data, Ray Train, Ray Tune을 실행하세요. |
워크로드 개발
데이터를 효율적으로 로드하고, 환경을 구성하며, 코딩 에이전트를 활용해 워크로드를 개발하세요.
| 특징 | Description |
|---|---|
| GPU에 데이터를 로드하기 | Unity 카탈로그 볼륨에서 높은 GPU 활용도를 위해 설계된 내결함성 로더로 데이터를 스트리밍할 수 있습니다. |
| 사전 구축 환경 | 최소한의 표준 환경이나 ML 프레임워크가 미리 설치된 Databricks AI 환경에서 시작하세요. |
| 커스텀 도커 이미지 | 워크로드에 커스텀 시스템 라이브러리나 의존성이 필요할 때는 직접 Docker 이미지를 가져가세요. |
| 코딩 에이전트 | Genie Code와 databricks-ai-runtime 에이전트 스킬을 사용해 GPU 워크로드를 생성, 제출, 관리하세요. |
모니터링, 디버깅, 배포
실험 추적, 로그 점검, 실패 진단, 생산 작업 일정 조정.
| 특징 | Description |
|---|---|
| 디버깅을 위한 MLflow | 실험, 지표, 실행을 MLflow로 추적하세요. |
| 로그 보기 | 훈련 결과를 보고, 코드 실행 중 GPU 자원 사용량을 모니터링하며, Genie Code로 디버깅할 수 있습니다. |
| 업무량 예약 | 선언적 자동화 번들(Declarative Automation Bundles)을 이용한 교육 코드를 배포하고, 실행을 일정 조정하며, 다중 작업 GPU 및 CPU 워크플로우를 구축하세요. |
| 학습된 모델을 배포합니다 | AI 런타임으로 학습된 모델을 모델 서빙으로 배포하세요. |
Guides
AI 런타임을 위한 마이그레이션 가이드, 튜토리얼 및 기술 자료를 탐색해 보세요.
| Resource | Description |
|---|---|
| 왜 AI 런타임을 사용하는가 | AI 런타임과 클래식 컴퓨트 및 Databricks Runtime ML을 비용, 개발자 경험, 확장성 측면에서 비교해 보세요. |
| 클래식 GPU 워크로드 마이그레이션 | 기존 딥러닝 워크로드를 클래식 Azure Databricks 클러스터에서 AI 런타임으로 옮기세요. |
| 작업 부하 성능을 최적화하세요 | 교육 처리량을 개선하고 장기 진행 작업의 실패에 대한 회복력을 강화하세요. |