Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
AI Runtime to w pełni zarządzana, bezserwerowa oferta obliczeniowa GPU na Azure Databricks do treningu, dopracowywania i innych zadań związanych z głębokim uczeniem. Jest przeznaczony dla inżynierów ML i data scientistów, którzy chcą mieć GPU bez tworzenia klastrów. Klasyczne obliczenia z Databricks Runtime ML można znaleźć w artykule Databricks Runtime for Machine Learning.
- Bezserwerowe GPU: Procesory A10s i H100 na żądanie, dostępne przez Databricks CLI, notebooki, zadania oraz Ray.
- Środowiska zarządzane: gotowe środowiska i dataloadery gotowe do treningu i dopracowywania lub użyj własnego kontenera Docker.
- Wbudowana obserwowalność: śledzenie eksperymentów za pomocą MLflow, rejestrowanie i debugowanie agentów.
- Orkiestracja: planuj obciążenia GPU i wykorzystuj je w pipeline'ach CI/CD.
Wprowadzenie
Dowiedz się więcej o AI Runtime i uruchom swoje pierwsze zadanie.
| Wprowadzenie | Description |
|---|---|
| 🚀 Szybki start | Uruchom swoje pierwsze obciążenie na AI Runtime ze swojego terminala. |
| 🧭 Przegląd | Dowiedz się kluczowych rzeczy dotyczących AI Runtime: jakie karty graficzne są dostępne, jak działają i jakie są ograniczenia. |
| 💡 Przykłady | Przeglądaj tutoriale do notatników i przykłady CLI Databricks, które można uruchomić, uporządkowane według zadań. |
Połącz z GPU
Uzyskuj dostęp do GPU przez Databricks CLI, notatniki, zadania lub Ray.
| Funkcja | Description |
|---|---|
| Databricks CLI | Zgłaszaj i zarządzaj rozproszonymi zadaniami treningowymi GPU z laptopa, korzystając z konfiguracji zadań YAML. |
| Laptopy | Podłącz notatnik do AI Runtime i rozwijaj interaktywnie, bez konfiguracji klastra. |
| Zadania | Zaplanuj notebook w AI Runtime jako zadanie powtarzające się. |
| Promień | Uruchamiaj Ray Core, Ray Data, Ray Train i Ray Tune w AI Runtime. |
Zarządzanie środowiskami
Uruchamiaj obciążenia w środowisku zarządzanym lub w swoim własnym obrazie Dockera.
| Funkcja | Description |
|---|---|
| Środowiska gotowe | Zacznij od minimalnego środowiska Standard lub środowiska AI Databricks z wstępnie załadowanymi frameworkami ML. |
| Niestandardowe obrazy Dockera | Weź własny obraz Dockera, gdy Twoje obciążenie wymaga niestandardowych bibliotek systemowych lub zależności. |
Twórz obciążenia robocze
Efektywnie ładuj dane i twórz obciążenia robocze za pomocą agentów kodujących.
| Funkcja | Description |
|---|---|
| Ładowanie danych do GPU | Przesyłaj dane z woluminów katalogu Unity za pomocą odpornych na błędy ładowaczy zaprojektowanych do wysokiego wykorzystania GPU. |
| Agenci kodowania | Korzystaj z Genie Code i umiejętności agenta databricks-ai-runtime do tworzenia, przesyłania i zarządzania obciążeniami GPU. |
Monitoruj, debuguj i wdrażaj
Śledź eksperymenty, kontroluj logi, diagnozuj awarie i planuj zadania produkcyjne.
| Funkcja | Description |
|---|---|
| MLflow do debugowania | Śledź eksperymenty, metryki i przebiegi za pomocą MLflow. |
| Wyświetlanie dzienników | Przeglądaj wyniki treningowe, monitoruj zużycie zasobów GPU podczas działania kodu i debuguj za pomocą Genie Code. |
| Zaplanuj obciążenia | Wdrażaj kod treningowy z pakietami Deklaratywnej Automatyzacji, planuj uruchomienia i buduj wielozadaniowe workflowy GPU i CPU. |
| Udostępniaj wytrenowane modele | Loguj, rejestruj i wdrażaj modele trenowane w AI Runtime do punktów końcowych Model Serving działających na zasobach CPU lub GPU. |
Guides
Poznaj przewodniki migracyjne, tutoriale i zasoby techniczne dotyczące AI Runtime.
| Resource | Description |
|---|---|
| Dlaczego warto używać AI Runtime | Porównaj AI Runtime z klasyczną infrastrukturą obliczeniową i Databricks Runtime ML pod względem kosztów, doświadczenia dewelopera i skalowalności. |
| Migracja klasycznych obciążeń GPU | Przenieś istniejące obciążenie deep learning z klasycznego klastra Azure Databricks do AI Runtime. |
| Optymalizuj wydajność obciążenia | Popraw wydajność trenowania i zwiększ odporność długotrwałych zadań na awarie. |