KI-Laufzeitumgebung Version 6

Diese Seite listet die Systemumgebung und installierte Bibliotheken für die AI Runtime (serverlose GPU Compute-Umgebung) Version 6 auf.

Die KI-Laufzeitumgebung 6 basiert auf der serverlosen Umgebung 6 (CPU). Sehen Sie, was es Neues in serverloser Umgebung 6 (CPU) gibt. Sie enthält die folgende Umgebung:

Standardumgebung: eine minimale Umgebung mit stabiler Client-API.
Databricks AI-Umgebung: eine Umgebung mit allgemeinen Laufzeitpaketen und Paketen speziell für maschinelles Lernen auf GPUs.

Um die Kompatibilität für die Anwendung zu gewährleisten, verwenden KI-Laufzeit-Workloads eine versionierte API, bekannt als Environment Version, die mit neueren Serverversionen kompatibel bleibt.

Sie können eine Basisumgebung auswählen, die diese Umgebungsversion enthält, indem Sie den Seitenbereich " Umgebung " in Ihren serverlosen Notizbüchern verwenden. Siehe Schritt 1: Schließen Sie ein Notebook an eine GPU an.

Neue Features und Verbesserungen

In Version 6 werden die CUDA-Bibliotheken auf NVIDIA CUDA 13 aktualisiert, und die begleitenden Abhängigkeiten entsprechend aktualisiert, einschließlich MLflow und der Serverless GPU Python API. Die gängigen maschinellen Lern- und KI-Bibliotheken in der Databricks-KI-Umgebung wurden auf Kompatibilität mit der neuen CUDA-Version aktualisiert, ebenso wie mehrere neu beliebte Bibliotheken.

CUDA 13 und PyTorch 2.11

Databricks KI-Umgebung

Version 6 aktualisiert die Databricks-KI-Umgebung auf das NVIDIA CUDA 13 Toolkit und den Runtime-Stack. PyTorch wird auf torch 2.11.0 aktualisiert (für CUDA 13.0 erstellt, +cu130) mit torchvision 0.26.0, und die mitgelieferten NVIDIA-Bibliotheken (cuBLAS, cuDNN, NCCL, cuFFT, cuSPARSE und zugehörige Laufzeitkomponenten) werden auf ihre CUDA-13-Builds aktualisiert.

Aktualisierte Deep-Learning- und LLM-Bibliotheken

Databricks KI-Umgebung

Wichtige Machine-Learning-Bibliotheken werden in der Databricks KI-Umgebung aufgerüstet, darunter:

transformers 5.8.1
vllm 0.24.0
ray 2.56.0
langchain 1.3.11
sentence-transformers 5.5.1
openai 2.37.0
scikit-learn 1.7.2
scipy 1.16.3
trl 0.24.0

Databricks AI Runtime SDK

Das Databricks AI Runtime SDK (databricks-sdk-air) 0.1.1 ist in dieser Umgebung enthalten. Sie ersetzt die veraltete Serverless GPU Python API (serverless_gpu0.5.27), die in Version 6 weiterhin enthalten ist. Für Änderungen der Serverless GPU Python API vor Umgebungsversion 6 siehe die Versionshinweise von Version 5.

13. Oktober 2026

`serverless_gpu` ist veraltet

Das Paket serverless_gpu erhält keine neuen Funktionen mehr. Ab Version 6 ersetzt das Databricks AI Runtime SDK (databricks-sdk-air) diese und stellt entsprechende APIs mit umbenannten Argumenten unter dem databricks.air Namensraum bereit. Version 6 enthält beide Pakete, aber nur das AI Runtime SDK erhält Updates. Version 6 ist die letzte Version, die serverless_gpuenthält. Versionen 5 und niedriger sind unverändert und enthalten nur serverless_gpu. Siehe Migration von serverless_gpu.

Freitag, 14. September 2026

Serverlose GPU Python API auf 0.5.25 aktualisiert

Die Serverless GPU Python API 0.5.25 enthält folgende API-Updates:

Neue Features:
- Lokale Ausführungen mit @distributed und @ray_launch protokollieren nun die effektive Wall-Clock-Zeit timeout (standardmäßig auf 3 Stunden begrenzt), wenn der Decorator angewendet wird, sodass das Limit von Anfang an sichtbar ist. Wähle timeout=<seconds>, um es zu ändern, oder timeout=None, um es zu deaktivieren.

Pakete, die zur Ki-Umgebung von Databricks hinzugefügt wurden

Die folgenden bemerkenswerten Pakete wurden in Version 6 der Databricks-KI-Umgebung hinzugefügt:

langgraph 1.2.8 (mit langgraph-checkpoint, langgraph-prebuilt, und langgraph-sdk)
langchain-classic 1.0.8
lightning 2.5.5
polars 1.42.1
ultralytics 8.4.90
flash_attn_3 3.0.0 und flash-attn-4 4.0.0b18
flashinfer-cubin 0.6.12
liger_kernel 0.8.1
fastsafetensors 0.3.2
tilelang 0.1.9
xgboost-cu13 3.2.0 (CUDA-13-Build, ersetzt xgboost)
tabfm 1.0.1

Zusätzlich werden das CUDA 13-Toolkit und die Laufzeitbibliotheken (zum Beispiel cuda-toolkit 13.0.2, nvidia-nccl-cu13, nvidia-* und zugehörige nvidia-cudnn-cu13-Pakete) als Teil des CUDA 13-Upgrades hinzugefügt.

Pakete, die aus databricks AI-Umgebung entfernt wurden

Die folgenden bemerkenswerten Pakete wurden in Version 6 aus der Databricks-KI-Umgebung entfernt:

unsloth (und unsloth_zoo)
xformers
diffusers
bitsandbytes
torchao
litellm
langchain-openai
cupy-cuda12x
mosaicml-streaming
gguf
seaborn
xgboost (ersetzt durch xgboost-cu13) und xgboost-ray

Die CUDA 12-Laufzeitbibliotheken (die nvidia-*-cu12 Pakete) werden im Rahmen des CUDA 13-Upgrades entfernt. Der JupyterLab- und Notebook-Entwicklungs-Stack (zum Beispiel jupyterlab, notebook, nbconvert, nbclient, nbformat) und die Python-LSP-Entwickler-Tools (python-lsp-server, python-lsp-jsonrpc, rope, yapf) sind ebenfalls nicht mehr in der Databricks-KI-Umgebung enthalten.

Pakete, die nicht in der Basisumgebung enthalten sind

Die folgenden Pakete sind nicht in der Basisumgebung enthalten, bleiben aber in der Databricks AI-Umgebung verfügbar:

flash_attn
torch
torchvision
scikit-learn
scipy

Basierend auf Kundenfeedback, in dem um Kontrolle über die Versionierung von PyTorch gebeten wird, ist torch nicht in der Basisumgebung für Version 6 enthalten. Auf diese Weise können Sie die Version installieren, die am besten zu Ihrer Workload passt. Wenn Sie eine von Databricks getestete Version verwenden möchten, führen Sie %pip install torch==2.11.0 sie in einer Notizbuchzelle aus, oder installieren torch==2.11.0 Sie sie mithilfe des Abschnitts "Abhängigkeiten" des Seitenbereichs "Umgebung ".

Systemumgebung

Betriebssystem: Ubuntu 24.04 LTS
Python: 3.12.3
Databricks Connect: 19.0.0
NVIDIA CUDA Toolkit: 13.0

Installierte Python-Bibliotheken

Standardumgebung

Note

Die Anforderungsdateien dokumentieren die Paketversionen dieser Version. Die Reproduktion dieser Versionen kann veraltete Zertifizierungsstellenzertifikat-Bundles installieren, einschließlich certifi. Bevor Sie entfernte HTTPS-Verbindungen herstellen, wenden Sie die im eMudhra-Sicherheitshinweis aufgeführten Bundle-Updates an. Halte die TLS-Zertifikatsverifizierung aktiviert und teste die Paketkompatibilität nach den Updates.

Um die KI-Laufzeitumgebung 6 in Ihrer lokalen Python virtuellen Umgebung zu reproduzieren, laden Sie die requirements-env-gpu-6.txt-Datei herunter und führen Sie pip install -r requirements-env-gpu-6.txt aus. Dieser Befehl installiert alle Bibliotheken aus der serverlosen Umgebung 6.

Library	Version	Library	Version	Library	Version
annotierte-Dokumentation	0.0.4	annotated-types	0.7.0	anyio	4.10.0
arro3-core	0.8.0	asttokens	3.0.0	astunparse	1.6.3
azure-core	1.41.0	Azure-Identity	1.25.3	azure-mgmt-core	1.6.0
azure-mgmt-web	10.1.0	Azure Storage Blob	12.29.0	azure-storage-file-datalake	12.24.0
black	25.9.0	blinker	1.7.0	boto3	1.40.46
botocore	1.40.46	cachetools	5.5.1	Zertifikat	2025.11.12
cffi	2.0.0	charset-normalizer	3.4.4	klicken	8.2.1
cloudpickle	3.1.1	Kommunikation	0.2.3	Contourpy	1.3.3
cryptography	46.0.3	cycler	0.11.0	databricks-agents	1.11.0
databricks-connect	19.0.0	databricks-sdk	0.122.0	databricks.serverless_gpu	0.5.27
dataclasses-json	0.6.7	dbus-python	1.3.2	debugpy	1.8.16
decorator	5.2.1	Deltalake	1.5.1	Als veraltet markiert	1.3.1
distlib	0.4.0	ausführen	2.2.1	fastapi	0.136.3
filelock	3.29.0	fonttools	4.60.1	fsspec	2025.9.0
future	1.0.0	gitdb	4.0.11	GitPython	3.1.45
google-api-core	2.30.3	Google-Authentifizierung	2.53.0	Google Cloud Core	2.6.0
google-cloud-storage	3.10.1	google-crc32c	1.8.0	google-resumable-media	2.9.0
googleapis-common-protos	1.71.0	grpcio	1.76.0	grpcio-status	1.76.0
h11	0.16.0	httplib2	0.20.4	IDNA	3.11
importlib_metadata	8.7.0	iniconfig	2.1.0	ipyflow-core	0.0.227
ipykernel	6.31.0	ipython	9.7.0	ipython_pygments_lexers	1.1.1
ipywidgets	8.1.7	isodate	0.7.2	jedi	0.19.2
Jinja2	3.1.6	jmespath	1.0.1	joblib	1.5.2
jupyter_client	8.6.3	jupyter_core	5.8.1	jupyterlab_widgets	3.0.15
kiwisolver	1.4.8	launchpadlib	1.11.0	lazr.restfulclient	0.14.6
lazr.uri	1.0.6	markdown-it-py	2.2.0	MarkupSafe	3.0.2
marshmallow	3.26.2	matplotlib	3.10.6	matplotlib-inline	0.2.1
mccabe	0.7.0	mdurl	0.1.2	mlflow-skinny	3.12.0
mmh3	5.2.1	msal	1.36.0	msal-extensions	1.3.1
msrest	0.7.1	mypy-extensions	1.0.0	nest-asyncio	1.6.0
nodeenv	1.10.0	numpy	2.3.4	nvidia-ml-py	13.590.44
oauthlib	3.2.2	opencv_python_headless	5.0.0.93	opentelemetry-api	1.42.1
opentelemetry-proto	1.42.1	opentelemetry-sdk	1.42.1	opentelemetry-semantic-conventions	0.63b1
packaging	25.0	pandas	2.3.3	parambench-train-comms	0.0.0
Parso	0.8.5	pathspec	0.12.1	pexpect	4.9.0
pillow	12.0.0	pip	25,3	platformdirs	4.5.0
pluggy	1.5.0	prompt_toolkit	3.0.52	proto-plus	1.28.0
protobuf	6.33.5	psutil	7.0.0	ptyprocess	0.7.0
pure_eval	0.2.3	py4j	0.10.9.9	Pyarrow	21.0.0
pyasn1	0.6.1	pyasn1_modules	0.4.2	pyccolo	0.0.83
pycparser	2.23	pydantic	2.13.3	pydantic_core	2.46.3
Pydot	4.0.0	Pyflakes	3.2.0	Pygments	2.19.2
PyGObject	3.48.2	Pyiceberg	0.11.1	PyJWT	2.10.1
Pyparsing	3.2.5	pyright	1.1.409	Pyroaring	1.1.0
Pyspark	4.3.0.dev0+databricks.connect.19.0.0	pytest	8.4.2	Python-dateutil	2.9.0.post0
python-dotenv	1.2.2	Pytokens	0.2.0	pytz	2025.2
PyYAML	6.0.3	pyzmq	27.1.0	regex	2025.9.1
requests	2.32.5	requests-oauthlib	2.0.0	rich	14.2.0
s3transfer	0.14.0	setuptools	80.9.0	six	1.17.0
smmap	5.0.0	sniffio	1.3.0	sqlparse	0.5.5
ssh-import-id	5.11	stack-data	0.6.3	starlette	0.52.1
strictyaml	1.7.3	tenacity	9.1.2	Threadpoolctl	3.5.0
tiktoken	0.13.0	tokenize_rt	6.2.0	tomli	2.0.1
tornado	6.5.1	tqdm	4.67.1	traitlets	5.14.3
typing-inspect	0.9.0	typing-inspection	0.4.2	typing_extensions	4.15.0
tzdata	2026.2	unattended-upgrades	0.1	urllib3	2.5.0
uvicorn	0.48.0	virtualenv	20.35.4	wadllib	1.3.6
wcwidth (Breite eines Zeichens)	0.2.13	wheel	0.45.1	Wann auch immer	0.7.3
widgetsnbextension	4.0.14	wrapt	1.17.0	zipp	3.23.0
zstandard	0.25.0

KI-Umgebung

Die KI-Umgebung enthält alle Pakete aus der Standardumgebung sowie die folgenden Pakete. Diese Umgebung umfasst PyTorch und umfassende Machine Learning-Bibliotheken:

torch 2.11.0
torchvision 0.26.0
flash_attn 2.8.3
catboost 1.2.10
langchain 1.3.11
langgraph 1.2.8
lightgbm 4.6.0
lightning 2.5.5
openai 2.37.0
optuna 4.5.0
polars 1.42.1
pytorch-lightning 2.5.4
ray 2.56.0
scikit-learn 1.7.2
scipy 1.16.3
sentence-transformers 5.5.1
transformers 5.8.1
trl 0.24.0
ultralytics 8.4.90
vllm 0.24.0
xgboost-cu13 3.2.0