无服务器GPU环境版本6（预览版）

Important

此功能目前以公共预览版提供。

本页概述了无服务器GPU环境6版的系统环境信息。 此计算产品/服务是 AI 运行时的一部分，专为新式 AI 和深度学习工作负载而设计。

无服务器GPU环境6是建立在无服务器环境6（CPU）之上。 看看 无服务器环境6（CPU）有哪些新动态。 它包括以下环境：

  • 标准环境：具有稳定客户端 API 的最小环境。
  • Databricks AI 环境：一个环境，其中包含特定于 GPU 上的机器学习的常见运行时包和包。

为了确保应用程序的兼容性，无服务器 GPU 工作负载使用版本控制 API（称为环境版本），该 API 与较新的服务器版本保持兼容。

可以使用无服务器笔记本中的 “环境 ”端面板选择包含此环境版本的基本环境。 参见 “连接笔记本”。

新功能和改进

在第6版中，CUDA库升级为NVIDIA CUDA 13，相关依赖也升级以匹配，包括MLflow和无服务器GPU Python API。 Databricks AI 环境中的常用机器学习和 AI 库进行了更新，以兼容新版 CUDA，同时新增了几个新流行的库。

CUDA 13 和 PyTorch 2.11

Databricks AI 环境

版本6将Databricks的AI环境升级为NVIDIA CUDA 13工具包和运行时栈。 PyTorch 已更新至 torch 2.11.0（为 CUDA 13.0 构建，+cu130），并带有 torchvision 0.26.0，捆绑的 NVIDIA 库（cuBLAS、cuDNN、NCCL、cuFFT、cuSPARSE 及相关运行时组件）也已升级到其 CUDA 13 构建版本。

已更新的深度学习和大语言模型库

Databricks AI 环境

Databricks AI 环境中升级了关键的机器学习库，包括：

  • transformers 5.8.1
  • vllm 0.24.0
  • ray 2.56.0
  • langchain 1.3.11
  • sentence-transformers 5.5.1
  • openai 2.37.0
  • scikit-learn 1.7.2
  • scipy 1.16.3
  • trl 0.24.0

无服务器GPU Python API

该环境包含了无服务器GPU Python API0.5.25。 关于环境版本6之前的Serverless GPU Python API变更，请参见版本5的发布说明。

2026 年 9 月 14 日

Serverless GPU Python API 升级至 0.5.25

无服务器GPU Python API 0.5.25包含以下API更新：

  • 新功能：
    • 使用 @ray_launch 和 @distributed 的本地运行现在会在应用该装饰器时记录生效的挂钟时间 timeout（默认上限为 3 小时），以便从一开始就能看到该限制。 将其设置为 timeout=<seconds> 以更改，或设置为 timeout=None 以禁用。

在 Databricks AI 环境中添加的软件包

以下几个重要包已在 Databricks AI 6 版本中被添加到：

  • langgraph 1.2.8 （其中 langgraph-checkpoint、 langgraph-prebuilt、 和 langgraph-sdk）
  • langchain-classic 1.0.8
  • lightning 2.5.5
  • polars 1.42.1
  • ultralytics 8.4.90
  • flash_attn_3 3.0.0 和 flash-attn-4 4.0.0b18
  • flashinfer-cubin 0.6.12
  • liger_kernel 0.8.1
  • fastsafetensors 0.3.2
  • tilelang 0.1.9
  • xgboost-cu13 3.2.0（CUDA 13 构建版本，替换 xgboost）
  • tabfm 1.0.1

此外，CUDA 13 工具包和运行时库（例如 cuda-toolkit 13.0.2、 nvidia-cudnn-cu13、 、 nvidia-nccl-cu13及相关 nvidia-* 包）作为 CUDA 13 升级的一部分被加入。

被从 Databricks AI 环境中删除的包

以下几个重要软件包已在 Databricks AI 6 版本中被移除：

  • unsloth （以及 unsloth_zoo）
  • xformers
  • diffusers
  • bitsandbytes
  • torchao
  • litellm
  • langchain-openai
  • cupy-cuda12x
  • mosaicml-streaming
  • gguf
  • seaborn
  • xgboost （替换为 xgboost-cu13）以及 xgboost-ray

CUDA 12 的运行时库（包 nvidia-*-cu12 ）在 CUDA 13 升级中被移除。 JupyterLab 和笔记本开发栈（例如，nbformat、python-lsp-server、python-lsp-jsonrpc、yapf、rope）以及 Python LSP 开发工具（nbclient、nbconvert、notebook、jupyterlab）也不再包含在 Databricks AI 环境中。

基本环境中未包含的包

以下包不包括在基本环境中，但在 Databricks AI 环境中仍可用：

  • flash_attn
  • torch
  • torchvision
  • scikit-learn
  • scipy

鉴于客户反馈希望能够控制 PyTorch 的版本，版本 6 的基础环境中未包含 torch。 这样，就可以安装最适合工作负荷的版本。 若要使用 Databricks 测试的版本，请在笔记本单元中运行%pip install torch==2.11.0或使用torch==2.11.0端面板的“依赖项”部分进行安装。

系统环境

  • 操作系统：Ubuntu 24.04 LTS
  • Python：3.12.3
  • Databricks Connect：19.0.0
  • NVIDIA CUDA 工具包：13.0

已安装的 Python 库

标准环境

要在本地Python虚拟环境中重现无服务器GPU环境6，下载 requirements-env-gpu-6.txt 文件并运行pip install -r requirements-env-gpu-6.txt。 该命令安装了无服务器环境6中的所有库。

Library 版本 Library 版本 Library 版本
annotated-doc 0.0.4 annotated-types 0.7.0 anyio 4.10.0
arro3-core 0.8.0 asttokens 3.0.0 astunparse 1.6.3
azure-core 1.41.0 azure-identity 1.25.3 azure-mgmt-core 1.6.0
azure-mgmt-web 10.1.0 azure-storage-blob 12.29.0 azure-storage-file-datalake (Azure 存储文件数据湖) 12.24.0
black 25.9.0 blinker 1.7.0 boto3 1.40.46
botocore 1.40.46 cachetools 5.5.1 certifi 2025.11.12
cffi 2.0.0 charset-normalizer 3.4.4 click 8.2.1
cloudpickle 3.1.1 通讯 0.2.3 contourpy 1.3.3
加密 46.0.3 cycler 0.11.0 databricks-agents 1.11.0
databricks-connect 19.0.0 databricks-sdk 0.122.0 databricks.serverless_gpu 0.5.25
dataclasses-json 0.6.7 dbus-python 1.3.2 debugpy 1.8.16
修饰器 5.2.1 deltalake 1.5.1 已弃用 1.3.1
distlib 0.4.0 执行中 2.2.1 fastapi 0.136.3
filelock 3.29.0 fonttools 4.60.1 fsspec 2025.9.0
future 1.0.0 gitdb 4.0.11 GitPython 3.1.45
google-api-core 2.30.3 google-auth 2.53.0 google-cloud-core 2.6.0
Google 云存储 (Google Cloud Storage) 3.10.1 google-crc32c 1.8.0 google-resumable-media 2.9.0
googleapis-common-protos 1.71.0 grpcio 1.76.0 grpcio-status 1.76.0
h11 0.16.0 httplib2 0.20.4 idna 3.11
importlib_metadata 8.7.0 iniconfig 2.1.0 ipyflow-core 0.0.227
ipykernel 6.31.0 ipython 9.7.0 ipython_pygments_lexers 1.1.1
ipywidgets 8.1.7 isodate (ISO标准日期) 0.7.2 jedi 0.19.2
Jinja2 3.1.6 jmespath 1.0.1 joblib 1.5.2
jupyter_client 8.6.3 jupyter_core 5.8.1 jupyterlab_widgets 3.0.15
kiwisolver 1.4.8 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 markdown-it-py 2.2.0 MarkupSafe 3.0.2
棉花糖 3.26.2 matplotlib 3.10.6 matplotlib-inline 0.2.1
mccabe 0.7.0 mdurl 0.1.2 mlflow-skinny 3.12.0
mmh3 5.2.1 msal 1.36.0 msal-extensions 1.3.1
msrest 0.7.1 mypy-extensions 1.0.0 nest-asyncio 1.6.0
nodeenv 1.10.0 numpy 2.3.4 nvidia-ml-py 13.590.44
oauthlib 3.2.2 opencv_python_headless 5.0.0.93 opentelemetry-api 1.42.1
opentelemetry-proto 1.42.1 opentelemetry-sdk 1.42.1 opentelemetry-semantic-conventions 0.63b1
封装 25.0 pandas 2.3.3 parambench-train-comms 0.0.0
parso 0.8.5 pathspec 0.12.1 pexpect 4.9.0
pillow 12.0.0 pip（Python 包管理工具） 25.3 platformdirs 4.5.0
pluggy 1.5.0 prompt_toolkit 3.0.52 proto-plus 1.28.0
protobuf 6.33.5 psutil 7.0.0 ptyprocess 0.7.0
pure_eval 0.2.3 py4j 0.10.9.9 pyarrow 21.0.0
pyasn1 0.6.1 pyasn1_modules 0.4.2 pyccolo 0.0.83
pycparser 2.23 pydantic 2.13.3 pydantic_core 2.46.3
pydot 4.0.0 pyflakes 3.2.0 Pygments 2.19.2
PyGObject 3.48.2 pyiceberg 0.11.1 PyJWT 2.10.1
pyparsing Python解析库 3.2.5 pyright 1.1.409 pyroaring 1.1.0
pyspark 4.3.0.dev0+databricks.connect.19.0.0 pytest 8.4.2 python-dateutil 2.9.0.post0
python-dotenv 1.2.2 pytokens 0.2.0 pytz 2025.2
PyYAML 6.0.3 pyzmq 27.1.0 regex 2025.9.1
请求 2.32.5 requests-oauthlib 2.0.0 rich 14.2.0
s3transfer 0.14.0 setuptools 80.9.0 six 1.17.0
smmap 5.0.0 sniffio 1.3.0 sqlparse 0.5.5
ssh-import-id（用于根据提供的标识符导入SSH密钥的命令行工具） 5.11 栈数据 (stack-data) 0.6.3 starlette 0.52.1
strictyaml 1.7.3 tenacity 9.1.2 threadpoolctl 3.5.0
tiktoken 0.13.0 tokenize_rt 6.2.0 tomli 2.0.1
tornado 6.5.1 tqdm 4.67.1 traitlets 5.14.3
typing-inspect 0.9.0 typing-inspection 0.4.2 typing_extensions 4.15.0
tzdata 2026.2 无需人工干预的升级 0.1 urllib3 2.5.0
uvicorn 0.48.0 virtualenv 20.35.4 wadllib 1.3.6
wcwidth 0.2.13 wheel 0.45.1 每当 0.7.3
widgetsnbextension 4.0.14 wrapt 1.17.0 zipp 3.23.0
zstandard 0.25.0

AI 环境

AI 环境包括标准环境中的所有包，以及以下包。 此环境包括 PyTorch 和全面的机器学习库：

  • torch 2.11.0
  • torchvision 0.26.0
  • flash_attn 2.8.3
  • catboost 1.2.10
  • langchain 1.3.11
  • langgraph 1.2.8
  • lightgbm 4.6.0
  • lightning 2.5.5
  • openai 2.37.0
  • optuna 4.5.0
  • polars 1.42.1
  • pytorch-lightning 2.5.4
  • ray 2.56.0
  • scikit-learn 1.7.2
  • scipy 1.16.3
  • sentence-transformers 5.5.1
  • transformers 5.8.1
  • trl 0.24.0
  • ultralytics 8.4.90
  • vllm 0.24.0
  • xgboost-cu13 3.2.0

要在本地Python虚拟环境中重现 AI 环境 V6，请下载 requirements-ai-gpu-6.txt 文件并运行 pip install -r requirements-ai-gpu-6.txt。 此命令从 AI 环境安装所有库。

Library 版本 Library 版本 Library 版本
absl-py 2.4.0 加速 1.13.0 aiohappyeyeballs 2.6.1
aiohttp 3.13.5 aiohttp-cors 0.8.1 aiosignal 1.4.0
alembic 1.18.5 annotated-doc 0.0.4 annotated-types 0.7.0
anthropic 0.116.0 antlr4-python3-runtime 4.9.3 anyio 4.10.0
apache-tvm-ffi 0.1.9 arro3-core 0.8.0 阿斯托尔 0.8.1
asttokens 3.0.0 astunparse 1.6.3 attrs 25.4.0
audioread（音频读取） 3.1.0 azure-core 1.41.0 azure-identity 1.25.3
azure-mgmt-core 1.6.0 azure-mgmt-web 10.1.0 azure-storage-blob 12.29.0
azure-storage-file-datalake (Azure 存储文件数据湖) 12.24.0 black 25.9.0 blake3 1.0.9
blinker 1.7.0 boto3 1.40.46 botocore 1.40.46
cachetools 5.5.1 catboost 1.2.10 cbor2 6.1.3
certifi 2025.11.12 cffi 2.0.0 charset-normalizer 3.4.4
click 8.4.2 cloudpickle 3.1.1 五彩缤纷 0.5.8
colorlog 6.10.1 通讯 0.2.3 compressed-tensors 0.17.0
contourpy 1.3.3 加密 44.0.1 cuda-bindings 13.3.1
Cuda-核心 1.0.1 cuda-pathfinder 1.5.6 cuda-python 13.3.1
cuda-tile 1.3.0 CUDA工具包 13.0.2 cycler 0.11.0
databricks-agents 1.11.0 databricks-sdk 0.122.0 dataclasses-json 0.6.7
datasets 4.8.5 dbus-python 1.3.2 debugpy 1.8.16
修饰器 5.2.1 deltalake 1.5.1 已弃用 1.3.1
depyf 0.20.0 detect-installer 0.1.0 dill 0.4.0
磁盘缓存 (diskcache) 5.6.3 distlib 0.4.0 dm-tree 0.1.10
dnspython 2.8.0 docstring_parser 0.18.0 einops 0.8.2
电子邮件验证器 2.3.0 evaluate 0.4.6 执行中 2.2.1
Farama-通知 0.0.6 fastapi 0.136.3 fastapi-cli 0.0.28
fastapi-cloud-cli 0.22.1 fastar 0.11.0 fastsafetensors 0.3.2
filelock 3.29.0 flash-attn-4 4.0.0b18 flash_attn 2.8.3
flash_attn_3 3.0.0 flashinfer-cubin 0.6.12 flashinfer-python 0.6.12
fonttools 4.60.1 frozenlist 1.8.0 fsspec 2025.9.0
future 1.0.0 gitdb 4.0.11 GitPython 3.1.45
google-api-core 2.30.3 google-auth 2.53.0 google-cloud-core 2.6.0
Google 云存储 (Google Cloud Storage) 3.10.1 google-crc32c 1.8.0 google-resumable-media 2.9.0
googleapis-common-protos 1.71.0 graphviz 0.21 greenlet 3.2.4
grpcio 1.76.0 grpcio-status 1.76.0 体育馆 1.2.2
h11 0.16.0 hf-xet 1.5.1 hf_transfer 0.1.9
httpcore 1.0.9 httplib2 0.20.4 httptools 0.8.0
httpx 0.28.1 httpx-sse 0.4.3 huggingface_hub 1.22.0
humming-kernels 0.1.6 idna 3.11 ijson 3.5.1
importlib_metadata 8.7.0 iniconfig 2.1.0 interegular 0.3.3
ipyflow-core 0.0.227 ipykernel 6.31.0 ipython 9.7.0
ipython_pygments_lexers 1.1.1 ipywidgets 8.1.7 isodate (ISO标准日期) 0.7.2
jedi 0.19.2 Jinja2 3.1.6 jiter 0.16.0
jmespath 1.0.1 joblib 1.5.2 JSON补丁 1.33
jsonpointer 3.1.1 jsonschema 4.25.0 JSON模式规范 2025.9.1
jupyter_client 8.6.3 jupyter_core 5.8.1 jupyterlab_widgets 3.0.15
kiwisolver 1.4.8 langchain 1.3.11 langchain-classic 1.0.8
Langchain社区 0.4.2 langchain-core 1.4.7 langchain-protocol 0.0.18
langchain-文本分割器 1.1.2 langgraph 1.2.8 langgraph-checkpoint 4.1.1
langgraph-prebuilt 1.1.0 langgraph-sdk 0.4.2 langsmith 0.9.3
lark 1.2.2 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 lazy_loader 0.4 librosa 0.11.0
liger_kernel 0.8.1 lightgbm 4.6.0 闪电 2.5.5
lightning-utilities 0.15.3 llguidance 1.7.6 llvmlite 0.47.0
lm-format-enforcer（格式强制工具） 0.11.3 loguru 0.7.3 lz4 4.4.5
Mako 1.3.12 markdown-it-py 2.2.0 MarkupSafe 3.0.2
棉花糖 3.26.2 matplotlib 3.10.6 matplotlib-inline 0.2.1
mccabe 0.7.0 mcp 1.28.1 mdurl 0.1.2
mistral_common 1.11.5 ml_dtypes 0.5.4 mlflow-skinny 3.13.0
mmh3 5.2.1 模型托管容器标准 0.1.16 mpmath 1.3.0
msal 1.36.0 msal-extensions 1.3.1 msgpack 1.2.1
msgspec 0.21.1 msrest 0.7.1 multidict 6.7.0
multiprocess 0.70.16 mypy-extensions 1.0.0 独角鲸 2.7.0
nest-asyncio 1.6.0 NetworkX 3.5 忍者 1.13.0
nodeenv 1.10.0 numba 0.65.0 numpy 2.3.4
nvidia-cublas 13.1.0.3 英伟达-CUDA-CCCL 13.3.3.4.1 NVIDIA-CUDA-CRT 13.3.73
nvidia-cuda-cupti 13.0.85 NVIDIA-CUDA-NVCC 13.2.78 nvidia-cuda-nvrtc 13.0.88
nvidia-cuda-runtime 13.0.96 nvidia-cuda-tileiras 13.2.78 nvidia-cudnn-cu13 9.19.0.56
nvidia-cudnn-frontend 1.25.0 nvidia-cufft 12.0.0.61 nvidia-cufile 1.15.1.6
nvidia-curand 10.4.0.35 nvidia-cusolver 12.0.4.66 nvidia-cusparse 12.6.3.3
nvidia-cusparselt-cu13 0.8.0 nvidia-cutlass-dsl 4.5.2 NVIDIA-CUTLASS-DSL-LIBS-BASE 4.5.2
nvidia-cutlass-dsl-libs-cu13 4.5.2 nvidia-ml-py 13.590.44 nvidia-nccl-cu13 2.28.9
nvidia-nvjitlink 13.0.88 nvidia-nvshmem-cu13 3.4.5 nvidia-nvtx 13.0.85
英伟达-NVVM 13.2.78 oauthlib 3.2.2 omegaconf 2.3.1
openai 2.37.0 openai-harmony 0.0.8 opencensus 0.11.4
opencensus-context 0.1.3 opencv-python 5.0.0.93 opencv_python_headless 5.0.0.93
opentelemetry-api 1.42.1 OpenTelemetry-exporter-OTLP 1.42.1 OpenTelemetry-exporter-OTLP-proto-common 1.42.1
OpenTelemetry-exporter-OTLP-Proto-grpc 1.42.1 opentelemetry-exporter-otlp-proto-http 1.42.1 opentelemetry-exporter-prometheus 0.63b1
opentelemetry-proto 1.42.1 opentelemetry-sdk 1.42.1 opentelemetry-semantic-conventions 0.63b1
OpenTelemetry-语义约定-AI 0.5.1 optuna 4.5.0 optuna-integration 4.5.0
orjson 3.11.9 ormsgpack 1.12.2 outlines_core 0.2.14
封装 25.0 pandas 2.3.3 parso 0.8.5
部分JSON解析器 0.2.1.1.post7 pathspec 0.12.1 替罪羊 1.0.1
peft 0.19.1 pexpect 4.9.0 pillow 12.0.0
pip（Python 包管理工具） 25.0.1 platformdirs 4.5.0 plotly 6.8.0
pluggy 1.5.0 极地 1.42.1 polars-runtime-32 1.42.1
狗狗 1.9.0 prometheus-fastapi-instrumentator 8.0.2 prometheus_client 0.21.1
prompt_toolkit 3.0.52 propcache 0.3.1 proto-plus 1.28.0
protobuf 6.33.5 psutil 7.0.0 ptyprocess 0.7.0
pure_eval 0.2.3 py-cpuinfo (Python CPU信息) 9.0.0 py-spy 0.4.2
pyarrow 21.0.0 pyasn1 0.6.1 pyasn1_modules 0.4.2
pybase64 1.4.3 pyccolo 0.0.83 pycountry 26.2.16
pycparser 2.23 pydantic 2.13.3 pydantic-extra-types 2.11.1
pydantic-settings 2.14.2 pydantic_core 2.46.3 pydot 4.0.0
pyelftools 0.33 pyflakes 3.2.0 Pygments 2.19.2
PyGObject 3.48.2 pyiceberg 0.11.1 PyJWT 2.10.1
pynndescent 0.6.0 pynvml 8.0.1 pyparsing Python解析库 3.2.5
pyright 1.1.409 pyroaring 1.1.0 pytesseract 0.3.13
pytest 8.4.2 python-dateutil 2.9.0.post0 python-dotenv 1.2.2
python-json-logger 3.2.1 python-multipart 0.0.32 pytokens 0.2.0
pytorch-lightning 2.5.4 pytorch-ranger 0.1.1 pytz 2025.2
PyYAML 6.0.3 pyzmq 27.1.0 quack-kernels 0.5.0
射线 2.56.0 referencing 0.37.0 regex 2025.10.22
请求 2.32.5 requests-oauthlib 2.0.0 requests-toolbelt 1.0.0
rich 14.2.0 丰富工具包 0.20.1 rignore 0.7.6
rpds-py 0.28.0 s3transfer 0.14.0 safetensors 0.8.0
scikit-learn 1.7.2 scipy（科学计算工具库） 1.16.3 sentence-transformers (句子转换器) 5.5.1
sentencepiece 0.2.1 sentry-sdk 2.64.0 setproctitle 1.3.7
setuptools 80.9.0 shap 0.51.0 谢灵汉姆 1.5.4
six 1.17.0 切片器 0.0.8 smart_open 8.0.0
smmap 5.0.0 sniffio 1.3.0 音频文件 0.13.1
soxr 1.1.0 SQLAlchemy 2.0.43 sqlparse 0.5.5
sse-starlette 3.4.5 ssh-import-id（用于根据提供的标识符导入SSH密钥的命令行工具） 5.11 栈数据 (stack-data) 0.6.3
starlette 1.3.1 statsmodels 0.14.5 strictyaml 1.7.3
主管 4.3.0 sympy 1.14.0 制表 0.9.0
tenacity 9.1.2 tensorboardX 2.6.5 threadpoolctl 3.5.0
tiktoken 0.13.0 蒂莱朗 0.1.9 tokenize_rt 6.2.0
tokenizers 0.22.1 tokenspeed-mla 0.1.2 tokenspeed-triton 3.7.10.post20260531
tomli 2.0.1 火炬 2.11.0+cu130 torch-optimizer 0.3.0
torch_c_dlpack_ext 0.1.5 torchaudio 2.11.0+cu130 torchmetrics 1.9.0
torchvision 0.26.0+cu130 tornado 6.5.1 tqdm 4.67.1
traitlets 5.14.3 转换器 5.8.1 triton 3.6.0
trl 0.24.0 typer 0.26.8 typing-inspect 0.9.0
typing-inspection 0.4.2 typing_extensions 4.15.0 tzdata 2026.2
超溶菌 8.4.90 ultralytics-thop 2.0.20 umap-learn 0.5.12
无需人工干预的升级 0.1 urllib3 2.5.0 uuid_utils 0.16.2
uvicorn 0.48.0 uvloop 0.22.1 virtualenv 20.35.4
vllm 0.24.0 wadllib 1.3.6 watchfiles 1.2.0
wcwidth 0.2.13 websockets 15.0.1 wheel 0.45.1
每当 0.7.3 widgetsnbextension 4.0.14 wrapt 1.17.0
XGBOOST-CU13 3.2.0 xgrammar 0.2.3 xxhash 3.5.0
yarl 1.22.0 Z3-求解器 4.15.4.0 zipp 3.23.0
zstandard 0.25.0
  • 上次更新时间为