중요합니다
이 기능은 공개 미리보기 단계에 있습니다.
AI 런타임을 사용하면 빈 노트북에서 GPU의 파이토치로 몇 번의 클릭만으로 전환할 수 있습니다. 노트북을 서버리스 GPU 에 연결하고 클러스터를 설정할 필요 없이 GPU 모니터링, GPU 노드에 터미널, Genie Code를 내장하세요.
Requirements
작업 공간이 AI 런타임을 활성화하고 지원되는 지역에 있어야 합니다. 요구사항 참조.
1단계: 노트북을 GPU에 연결하기
- 전자 필기장을 만들거나 엽니다.
- 노트북 상단의 컴퓨트 드롭다운에서 서버리스 GPU를 선택하세요.
- 가속기 필드에서 1xA10을 선택하세요.
- 적용을 클릭한 다음 확인을 클릭하세요.
Tip
개발과 작은 작업량을 위해 1xA10 부터 시작하세요. GPU 메모리가 더 필요하거나 다중 GPU 분산 학습이 필요할 때는 1xH100 이나 8xH100 으로 이동하세요. 하드웨어 옵션을 참조하세요.
2단계: 첫 GPU 코드 실행
기본 Databricks AI 환경 에는 PyTorch, Transformers, vLLM, panda 등 다양한 패키지가 미리 설치되어 있습니다. 전체 목록은 Databricks AI 환경을 참조하세요.
다음 노트북을 실행해 GPU가 부착되었는지 확인하고 한 가지 학습 단계를 실행하세요:
AI 런타임 퀵스타트 노트북
이제 서버리스 GPU 컴퓨트로 훈련하고 있습니다.
GPU 노트북을 탐색해 보세요
노트북에는 GPU 작업을 돕는 툴들이 포함되어 있습니다. 기지 환경을 전환하고, GPU 사용량을 모니터링하며, GPU 노드에서 터미널을 열고, Genie Code를 사용해 코드를 작성하고 디버깅할 수 있습니다.
환경 전환
오른쪽 패널에서 '환경' 을 클릭하면 다른 기본 환경이나 가속기를 선택할 수 있습니다. 환경 설정을 참조하세요.
GPU 활용도를 관찰하세요
오른쪽 패널에서 GPU 리소스 를 클릭하면 코드 실행 중 실시간 GPU 사용률과 메모리를 확인할 수 있습니다. 실시간 GPU 리소스 모니터링을 확인하세요.
GPU 노드에서 터미널을 열어 보세요
오른쪽 하단의 터미널 을 클릭하면 GPU 노드에 셸이 표시됩니다.
nvidia-smi를 실행하고, 파일을 검사하거나 프로세스를 직접 디버그하세요.
Azure Databricks 웹 터미널에서 셸 명령 실행을 참조하세요.
Genie Code가 대신 작성하고 디버깅해 드릴게요
오른쪽 패널의 지니 코드를 클릭하고 원하는 것을 설명하세요. 에이전트는 학습 코드를 작성하고, 의존성 충돌을 수정하며, GPU 실패를 디버깅할 수 있습니다. AI Runtime과 함께 Genie Code 사용하기를 참조하세요.
다음 단계
- AI 런타임 예제에서 엔드 투 엔드 노트북을 복제하세요.
- 노트북에서 분산 학습을 통해 여러 GPU에 걸쳐 확장할 수 있습니다.