Środowisko uruchomieniowe sztucznej inteligencji

AI Runtime to w pełni zarządzana, bezserwerowa oferta obliczeniowa GPU w Databricks do treningu, dostrajania i szerszych obciążeń związanych z deep learningiem.

• Bezserwerowe GPU: Procesory A10s i H100 na żądanie, dostępne przez Databricks CLI, notebooki, zadania oraz Ray.
• Środowiska zarządzane: gotowe środowiska i dataloadery gotowe do treningu i dopracowywania lub użyj własnego kontenera Docker.
• Wbudowana obserwowalność: śledzenie eksperymentów za pomocą MLflow, rejestrowanie i debugowanie agentów.
• Orkiestracja: planuj obciążenia GPU i wykorzystuj je w pipeline'ach CI/CD.

Wprowadzenie

Dowiedz się więcej o AI Runtime i uruchom swoje pierwsze zadanie.

Wprowadzenie	Description
🚀 Szybki start	Uruchom swoje pierwsze obciążenie na AI Runtime ze swojego terminala.
🧭 Przegląd	Dowiedz się kluczowych rzeczy dotyczących AI Runtime: jakie karty graficzne są dostępne, jak działają i jakie są ograniczenia.
💡 Przykłady	Przeglądaj tutoriale do notatników i przykłady CLI Databricks, które można uruchomić, uporządkowane według zadań.

Połącz z GPU

Uzyskuj dostęp do GPU przez Databricks CLI, notatniki, zadania lub Ray.

Funkcja	Description
Databricks CLI	Zgłaszaj i zarządzaj rozproszonymi zadaniami treningowymi GPU z laptopa, korzystając z konfiguracji zadań YAML.
Laptopy	Podłącz notatnik do AI Runtime i rozwijaj interaktywnie, bez konfiguracji klastra.
Zadania	Zaplanuj obciążenie GPU na AI Runtime jako zadanie powtarzające się i orkiestruj je z zadaniami upstream i downstream.
Promień	Uruchamiaj Ray Core, Ray Data, Ray Train i Ray Tune w AI Runtime.

Twórz obciążenia robocze

Efektywnie ładuj dane, konfiguruj środowisko i twórz zadania robocze za pomocą agentów programujących.

Funkcja	Description
Ładowanie danych do GPU	Przesyłaj dane z woluminów katalogu Unity za pomocą odpornych na błędy ładowaczy zaprojektowanych do wysokiego wykorzystania GPU.
Środowiska gotowe	Zacznij od minimalnego środowiska Standard lub środowiska AI Databricks z wstępnie załadowanymi frameworkami ML.
Niestandardowe obrazy Dockera	Weź własny obraz Dockera, gdy Twoje obciążenie wymaga niestandardowych bibliotek systemowych lub zależności.
Agenci kodowania	Korzystaj z Genie Code i umiejętności agenta databricks-ai-runtime do tworzenia, przesyłania i zarządzania obciążeniami GPU.

Monitoruj, debuguj i wdrażaj

Śledź eksperymenty, kontroluj logi, diagnozuj awarie i planuj zadania produkcyjne.

Funkcja	Description
MLflow do debugowania	Śledź eksperymenty, metryki i przebiegi za pomocą MLflow.
Wyświetlanie dzienników	Przeglądaj wyniki treningowe, monitoruj zużycie zasobów GPU podczas działania kodu i debuguj za pomocą Genie Code.
Zaplanuj obciążenia	Wdrażaj kod treningowy z pakietami Deklaratywnej Automatyzacji, planuj uruchomienia i buduj wielozadaniowe workflowy GPU i CPU.
Udostępniaj wytrenowane modele	Wdróż modele wytrenowane na AI Runtime do Model Serving.

Guides

Poznaj przewodniki migracyjne, tutoriale i zasoby techniczne dotyczące AI Runtime.

Resource	Description
Dlaczego warto używać AI Runtime	Porównaj AI Runtime z klasyczną infrastrukturą obliczeniową i Databricks Runtime ML pod względem kosztów, doświadczenia dewelopera i skalowalności.
Migracja ze Slurm	Przenieś swoje skrypty wsadowe Slurm, rozproszone programy uruchamiające i współdzieloną pamięć masową do narzędzia Databricks CLI.
Migracja klasycznych obciążeń GPU	Przenieś istniejące obciążenie deep learning z klasycznego klastra Databricks do AI Runtime.
Optymalizuj wydajność obciążenia	Popraw wydajność trenowania i zwiększ odporność długotrwałych zadań na awarie.