Бессерверная среда GPU версии 6 (предварительная версия)

Important

Эта функция доступна в общедоступной предварительной версии.

На этой странице представлена информация о системной среде для среды GPU Serverless версии 6. Это предложение вычислений является частью среды выполнения ИИ, которая предназначена для современных рабочих нагрузок искусственного интеллекта и глубокого обучения.

Среда GPU без серверов 6 построена поверх бессерверной среды 6 (CPU). Посмотрите, что нового в бессерверной среде 6 (CPU). Она включает в себя следующую среду:

Чтобы обеспечить совместимость приложения, безсерверные рабочие нагрузки GPU используют версионированный API, известный как версия среды, который остается совместимым с более новыми версиями сервера.

Вы можете выбрать базовую среду, включающую эту версию, с помощью боковой панели Среда в ваших бессерверных записных книжках. См. интерактивные (тетради).

Новые функции и улучшения

В версии 6 библиотеки CUDA обновляются до NVIDIA CUDA 13, а сопутствующие зависимости обновляются в соответствии с ними, включая MLflow и Serverless GPU Python API. Общие библиотеки машинного обучения и искусственного интеллекта в среде Databricks обновлены для совместимости с новой версией CUDA, а также добавлены несколько новых популярных библиотек.

CUDA 13 и PyTorch 2.11

Среда Databricks для искусственного интеллекта

Версия 6 обновляет среду ИИ Databricks до инструментария NVIDIA CUDA 13 и стека среды выполнения. PyTorch обновлен до torch 2.11.0 (разработан для CUDA 13.0, +cu130) с torchvision 0.26.0, а включённые в комплект библиотеки NVIDIA (cuBLAS, cuDNN, NCCL, cuFFT, cuSPARSE и связанные компоненты выполнения) обновлены до сборок CUDA 13.

Обновлённые библиотеки глубокого обучения и LLM

Среда искусственного интеллекта Databricks

Ключевые библиотеки машинного обучения обновляются в AI-среде Databricks, включая:

  • transformers 5.8.1
  • vllm 0.24.0
  • ray 2.56.0
  • langchain 1.3.11
  • sentence-transformers 5.5.1
  • openai 2.37.0
  • scikit-learn 1.7.2
  • scipy 1.16.3
  • trl 0.24.0

Бессерверный GPU Python API

В эту среду включен Serverless GPU Python API0.5.24. Полную историю изменений в Python API Serverless GPU см. в примечаниях к выпуску версии 5.

Пакеты, добавленные в среду ИИ Databricks

В версии 6 в среду AI Databricks были добавлены следующие заметные пакеты:

  • langgraph 1.2.8 (с langgraph-checkpoint, langgraph-prebuilt, и langgraph-sdk)
  • langchain-classic 1.0.8
  • lightning 2.5.5
  • polars 1.42.1
  • ultralytics 8.4.90
  • flash_attn_3 3.0.0 и flash-attn-4 4.0.0b18.
  • flashinfer-cubin 0.6.12
  • liger_kernel 0.8.1
  • fastsafetensors 0.3.2
  • tilelang 0.1.9
  • xgboost-cu13 3.2.0 (Сборка CUDA 13, замена xgboost)
  • tabfm 1.0.1

Кроме того, в рамках обновления CUDA 13 добавлены набор инструментов и библиотеки выполнения (например cuda-toolkit 13.0.2, , nvidia-cudnn-cu13, nvidia-nccl-cu13, и связанные с ними nvidia-* пакеты).

Пакеты, удаленные из среды ИИ Databricks

Следующие заметные пакеты были удалены из среды AI Databricks в версии 6:

  • unsloth (и unsloth_zoo)
  • xformers
  • diffusers
  • bitsandbytes
  • torchao
  • litellm
  • langchain-openai
  • cupy-cuda12x
  • mosaicml-streaming
  • gguf
  • seaborn
  • xgboost (заменён на xgboost-cu13) и xgboost-ray

Библиотеки CUDA 12 (пакеты nvidia-*-cu12 ) удалены в рамках обновления CUDA 13. Стек разработки для JupyterLab и ноутбуков (например, jupyterlab, notebook, nbconvert, nbclient, nbformat), а также инструменты разработки Python LSP (python-lsp-server, python-lsp-jsonrpc, rope, yapf) больше не входят в состав среды Databricks AI.

Пакеты, не включенные в базовую среду

Следующие пакеты не включены в базовую среду, но остаются доступными в среде ИИ Databricks:

  • flash_attn
  • torch
  • torchvision
  • scikit-learn
  • scipy

С учетом отзывов клиентов, которые просили предоставить возможность управлять версиями PyTorch, torch не включен в базовую среду для версии 6. Это позволяет установить версию, которая лучше всего подходит для рабочей нагрузки. Чтобы использовать проверенную версию Databricks, запустите %pip install torch==2.11.0 в ячейке ноутбука или установите torch==2.11.0 с помощью раздела «Зависимости» на боковой панели Среды.

Системная среда

  • Операционная система: Ubuntu 24.04 LTS
  • Python: 3.12.3
  • Databricks Connect: 19.0.0
  • NVIDIA CUDA Toolkit: 13.0

Установленные библиотеки Python

Стандартная среда

Чтобы воспроизвести бессерверную GPU-среду 6 в локальной виртуальной среде Python, скачайте файл requirements-env-gpu-6.txt и выполните команду pip install -r requirements-env-gpu-6.txt. Эта команда устанавливает все библиотеки из бессерверной среды 6.

Library Version Library Version Library Version
аннотированный документ 0.0.4 annotated-types 0.7.0 anyio 4.10.0
arro3-core 0.8.0 asttokens 3.0.0 astunparse 1.6.3
azure-core 1.41.0 azure-identity 1.25.3 azure-mgmt-core 1.6.0
azure-mgmt-web 10.1.0 azure-storage-blob 12.29.0 azure-storage-file-datalake 12.24.0
black 25.9.0 blinker 1.7.0 boto3 1.40.46
botocore 1.40.46 cachetools 5.5.1 certifi 2025.11.12
cffi 2.0.0 charset-normalizer 3.4.4 click 8.2.1
cloudpickle 3.1.1 comm 0.2.3 contourpy 1.3.3
cryptography 46.0.3 cycler 0.11.0 databricks-агенты 1.11.0
databricks-connect 19.0.0 databricks-sdk 0.122.0 databricks.бессерверный_гпу 0.5.24
dataclasses-json 0.6.7 dbus-python 1.3.2 debugpy 1.8.16
decorator 5.2.1 deltalake 1.5.1 Устаревший (не рекомендуется к использованию) 1.3.1
distlib 0.4.0 executing 2.2.1 fastapi 0.136.3
filelock 3.29.0 fonttools 4.60.1 fsspec 2025.9.0
future 1.0.0 gitdb 4.0.11 GitPython 3.1.45
google-api-core 2.30.3 google-auth 2.53.0 google-cloud-core 2.6.0
google-cloud-storage 3.10.1 google-crc32c 1.8.0 google-resumable-media 2.9.0
googleapis-common-protos 1.71.0 grpcio 1.76.0 grpcio-status 1.76.0
h11 0.16.0 httplib2 0.20.4 idna 3.11
importlib_metadata 8.7.0 iniconfig 2.1.0 ipyflow-core 0.0.227
ipykernel 6.31.0 ipython 9.7.0 ipython_pygments_lexers 1.1.1
ipywidgets 8.1.7 isodate 0.7.2 jedi 0.19.2
Jinja2 3.1.6 jmespath 1.0.1 joblib 1.5.2
jupyter_client 8.6.3 jupyter_core 5.8.1 jupyterlab_widgets 3.0.15
kiwisolver 1.4.8 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 markdown-it-py 2.2.0 MarkupSafe 3.0.2
зефир 3.26.2 matplotlib 3.10.6 matplotlib-inline 0.2.1
mccabe 0.7.0 mdurl 0.1.2 mlflow-skinny 3.12.0
mmh3 5.2.1 msal 1.36.0 msal-extensions 1.3.1
msrest 0.7.1 mypy-extensions 1.0.0 nest-asyncio 1.6.0
nodeenv 1.10.0 numpy 2.3.4 nvidia-ml-py 13.590.44
oauthlib 3.2.2 opencv_python_headless 5.0.0.93 opentelemetry-api 1.42.1
opentelemetry-proto 1.42.1 opentelemetry-sdk 1.42.1 opentelemetry-semantic-conventions 0.63b1
packaging 25.0 pandas 2.3.3 parambench-train-comms 0.0.0
parso 0.8.5 pathspec 0.12.1 pexpect 4.9.0
pillow 12.0.0 pip 25,3 platformdirs 4.5.0
pluggy 1.5.0 prompt_toolkit 3.0.52 proto-plus 1.28.0
protobuf 6.33.5 psutil 7.0.0 ptyprocess 0.7.0
pure_eval 0.2.3 py4j 0.10.9.9 pyarrow 21.0.0
pyasn1 0.6.1 pyasn1_modules 0.4.2 pyccolo 0.0.83
pycparser 2.23 pydantic 2.13.3 pydantic_core 2.46.3
pydot 4.0.0 pyflakes 3.2.0 Pygments 2.19.2
PyGObject 3.48.2 pyiceberg 0.11.1 PyJWT 2.10.1
pyparsing 3.2.5 pyright 1.1.409 пироаринг 1.1.0
pyspark 4.3.0.dev0+databricks.connect.19.0.0 pytest 8.4.2 python-dateutil 2.9.0.post0
python-dotenv 1.2.2 pytokens 0.2.0 pytz 2025.2
PyYAML 6.0.3 pyzmq 27.1.0 regex 2025.9.1
requests 2.32.5 requests-oauthlib 2.0.0 rich 14.2.0
s3transfer 0.14.0 setuptools 80.9.0 six 1.17.0
smmap 5.0.0 sniffio 1.3.0 sqlparse 0.5.5
ssh-import-id 5.11 stack-data 0.6.3 starlette 0.52.1
strictyaml 1.7.3 tenacity 9.1.2 threadpoolctl 3.5.0
тиктокен 0.13.0 tokenize_rt 6.2.0 tomli 2.0.1
tornado 6.5.1 tqdm 4.67.1 traitlets 5.14.3
ввод текста и проверка 0.9.0 контроль ввода текста 0.4.2 typing_extensions 4.15.0
tzdata 2026.2 unattended-upgrades 0.1 urllib3 2.5.0
uvicorn 0.48.0 virtualenv 20.35.4 wadllib 1.3.6
wcwidth 0.2.13 wheel 0.45.1 когда бы ни 0.7.3
widgetsnbextension 4.0.14 wrapt 1.17.0 zipp 3.23.0
zstandard 0.25.0

Среда ИИ

Среда ИИ включает все пакеты из стандартной среды, а также следующие пакеты. Эта среда включает PyTorch и комплексные библиотеки машинного обучения:

  • torch 2.11.0
  • torchvision 0.26.0
  • flash_attn 2.8.3
  • catboost 1.2.10
  • langchain 1.3.11
  • langgraph 1.2.8
  • lightgbm 4.6.0
  • lightning 2.5.5
  • openai 2.37.0
  • optuna 4.5.0
  • polars 1.42.1
  • pytorch-lightning 2.5.4
  • ray 2.56.0
  • scikit-learn 1.7.2
  • scipy 1.16.3
  • sentence-transformers 5.5.1
  • transformers 5.8.1
  • trl 0.24.0
  • ultralytics 8.4.90
  • vllm 0.24.0
  • xgboost-cu13 3.2.0

Чтобы воспроизвести AI-среду V6 в вашей локальной Python виртуальной среде, скачайте файлrequirements-ai-gpu-6.txt и запустите pip install -r requirements-ai-gpu-6.txt. Эта команда устанавливает все библиотеки из среды ИИ.

Library Version Library Version Library Version
absl-py 2.4.0 ускорить 1.13.0 aiohappyeyeballs 2.6.1
aiohttp 3.13.5 aiohttp-cors 0.8.1 aiosignal 1.4.0
алембик 1.18.5 аннотированный документ 0.0.4 annotated-types 0.7.0
антропный 0.116.0 antlr4-python3-runtime 4.9.3 anyio 4.10.0
apache-tvm-ffi 0.1.9 arro3-core 0.8.0 Астор 0.8.1
asttokens 3.0.0 astunparse 1.6.3 attrs 25.4.0
аудиочтение 3.1.0 azure-core 1.41.0 azure-identity 1.25.3
azure-mgmt-core 1.6.0 azure-mgmt-web 10.1.0 azure-storage-blob 12.29.0
azure-storage-file-datalake 12.24.0 black 25.9.0 blake3 1.0.9
blinker 1.7.0 boto3 1.40.46 botocore 1.40.46
cachetools 5.5.1 catboost 1.2.10 cbor2 6.1.3
certifi 2025.11.12 cffi 2.0.0 charset-normalizer 3.4.4
click 8.4.2 cloudpickle 3.1.1 колоритный 0.5.8
colorlog 6.10.1 comm 0.2.3 сжатые тензоры 0.17.0
contourpy 1.3.3 cryptography 44.0.1 привязки CUDA 13.3.1
ядро CUDA 1.0.1 cuda-pathfinder 1.5.6 cuda-python 13.3.1
cuda-tile 1.3.0 CUDA Toolkit 13.0.2 cycler 0.11.0
databricks-агенты 1.11.0 databricks-sdk 0.122.0 dataclasses-json 0.6.7
datasets 4.8.5 dbus-python 1.3.2 debugpy 1.8.16
decorator 5.2.1 deltalake 1.5.1 Устаревший (не рекомендуется к использованию) 1.3.1
depyf 0.20.0 detect-installer 0.1.0 dill 0.4.0
дисковый кеш 5.6.3 distlib 0.4.0 dm-tree 0.1.10
dnspython 2.8.0 docstring_parser 0.18.0 einops 0.8.2
валидатор электронных адресов 2.3.0 evaluate 0.4.6 executing 2.2.1
Farama-Уведомления 0.0.6 fastapi 0.136.3 fastapi-cli 0.0.28
fastapi-cloud-cli 0.22.1 fastar 0.11.0 fastsafetensors 0.3.2
filelock 3.29.0 flash-attn-4 4.0.0b18 flash_attn 2.8.3
flash_attn_3 3.0.0 Флэшинфер-Кубин 0.6.12 flashinfer-python 0.6.12
fonttools 4.60.1 Замороженный список 1.8.0 fsspec 2025.9.0
future 1.0.0 gitdb 4.0.11 GitPython 3.1.45
google-api-core 2.30.3 google-auth 2.53.0 google-cloud-core 2.6.0
google-cloud-storage 3.10.1 google-crc32c 1.8.0 google-resumable-media 2.9.0
googleapis-common-protos 1.71.0 Graphviz 0.21 гринлет 3.2.4
grpcio 1.76.0 grpcio-status 1.76.0 спортзал 1.2.2
h11 0.16.0 hf-xet 1.5.1 hf_transfer 0.1.9
httpcore 1.0.9 httplib2 0.20.4 инструменты для HTTP 0.8.0
httpx 0.28.1 httpx-sse 0.4.3 huggingface_hub 1.22.0
гудящие-ядра 0.1.6 idna 3.11 ijson 3.5.1
importlib_metadata 8.7.0 iniconfig 2.1.0 межрегулярное 0.3.3
ipyflow-core 0.0.227 ipykernel 6.31.0 ipython 9.7.0
ipython_pygments_lexers 1.1.1 ipywidgets 8.1.7 isodate 0.7.2
jedi 0.19.2 Jinja2 3.1.6 джиттер 0.16.0
jmespath 1.0.1 joblib 1.5.2 jsonpatch 1.33
jsonpointer 3.1.1 jsonschema 4.25.0 jsonschema-specifications 2025.9.1
jupyter_client 8.6.3 jupyter_core 5.8.1 jupyterlab_widgets 3.0.15
kiwisolver 1.4.8 Лангчейн 1.3.11 langchain-classic 1.0.8
langchain-community 0.4.2 langchain-core 1.4.7 langchain-protocol 0.0.18
Делители текста langchain 1.1.2 langgraph 1.2.8 langgraph-контрольная точка 4.1.1
langgraph-prebuilt 1.1.0 langgraph-sdk 0.4.2 langsmith 0.9.3
Жаворонок 1.2.2 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 ленивый загрузчик 0.4 librosa 0.11.0
liger_kernel 0.8.1 LightGBM (фреймворк для машинного обучения) 4.6.0 молния 2.5.5
Lightning-утилиты 0.15.3 llguidance 1.7.6 llvmlite 0.47.0
Программа контроля соблюдения формата lm 0.11.3 loguru 0.7.3 lz4 4.4.5
Мако 1.3.12 markdown-it-py 2.2.0 MarkupSafe 3.0.2
зефир 3.26.2 matplotlib 3.10.6 matplotlib-inline 0.2.1
mccabe 0.7.0 mcp 1.28.1 mdurl 0.1.2
mistral_common 1.11.5 ml_dtypes 0.5.4 mlflow-skinny 3.13.0
mmh3 5.2.1 стандарты контейнеров для размещения моделей 0.1.16 mpmath 1.3.0
msal 1.36.0 msal-extensions 1.3.1 msgpack 1.2.1
msgspec 0.21.1 msrest 0.7.1 мультидикт 6.7.0
многопроцессорный 0.70.16 mypy-extensions 1.0.0 нарвалы 2.7.0
nest-asyncio 1.6.0 networkx 3.5 ниндзя 1.13.0
nodeenv 1.10.0 намба 0.65.0 numpy 2.3.4
nvidia-cublas 13.1.0.3 nvidia-cuda-cccl 13.3.3.4.1 nvidia-cuda-crt 13.3.73
nvidia-cuda-cupti 13.0.85 nvidia-cuda-nvcc 13.2.78 nvidia-cuda-nvrtc 13.0.88
nvidia-cuda-runtime 13.0.96 nvidia-cuda-tileiras 13.2.78 nvidia-cudnn-cu13 9.19.0.56
nvidia-cudnn-frontend 1.25.0 nvidia-cufft 12.0.0.61 nvidia-cufile 1.15.1.6
nvidia-curand 10.4.0.35 nvidia-cusolver 12.0.4.66 nvidia-cusparse 12.6.3.3
nvidia-cusparselt-cu13 0.8.0 nvidia-cutlass-dsl 4.5.2 nvidia-cutlass-dsl-libs-base 4.5.2
nvidia-cutlass-dsl-libs-cu13 4.5.2 nvidia-ml-py 13.590.44 nvidia-nccl-cu13 2.28.9
nvidia-nvjitlink 13.0.88 nvidia-nvshmem-cu13 3.4.5 nvidia-nvtx 13.0.85
nvidia-nvvm 13.2.78 oauthlib 3.2.2 омегаконф 2.3.1
openai 2.37.0 openai-harmony 0.0.8 opencensus 0.11.4
opencensus-context 0.1.3 opencv-python 5.0.0.93 opencv_python_headless 5.0.0.93
opentelemetry-api 1.42.1 OpenTelemetry-exporter-otlp 1.42.1 opentelemetry-exporter-otlp-proto-common 1.42.1
opentelemetry-exporter-otlp-proto-grpc 1.42.1 OpenTelemetry-exporter-otlp-proto-HTTP 1.42.1 opentelemetry-exporter-prometheus 0.63b1
opentelemetry-proto 1.42.1 opentelemetry-sdk 1.42.1 opentelemetry-semantic-conventions 0.63b1
opentelemetry-semantic-conventions-ai 0.5.1 optuna 4.5.0 интеграция optuna 4.5.0
orjson 3.11.9 ormsgpack 1.12.2 outlines_core 0.2.14
packaging 25.0 pandas 2.3.3 parso 0.8.5
частичный парсер JSON 0.2.1.1.post7 pathspec 0.12.1 patsy 1.0.1
peft 0.19.1 pexpect 4.9.0 pillow 12.0.0
pip 25.0.1 platformdirs 4.5.0 plotly 6.8.0
pluggy 1.5.0 Поляры 1.42.1 polars-runtime-32 1.42.1
пёс 1.9.0 prometheus-fastapi-инструментатор 8.0.2 prometheus_client 0.21.1
prompt_toolkit 3.0.52 кэш свойств 0.3.1 proto-plus 1.28.0
protobuf 6.33.5 psutil 7.0.0 ptyprocess 0.7.0
pure_eval 0.2.3 py-cpuinfo 9.0.0 py-spy 0.4.2
pyarrow 21.0.0 pyasn1 0.6.1 pyasn1_modules 0.4.2
pybase64 1.4.3 pyccolo 0.0.83 pycountry 26.2.16
pycparser 2.23 pydantic 2.13.3 pydantic-extra-types 2.11.1
pydantic-settings 2.14.2 pydantic_core 2.46.3 pydot 4.0.0
pyelftools 0,33 pyflakes 3.2.0 Pygments 2.19.2
PyGObject 3.48.2 pyiceberg 0.11.1 PyJWT 2.10.1
pynndescent 0.6.0 pynvml 8.0.1 pyparsing 3.2.5
pyright 1.1.409 пироаринг 1.1.0 pytesseract 0.3.13
pytest 8.4.2 python-dateutil 2.9.0.post0 python-dotenv 1.2.2
python-json-logger 3.2.1 Python-multipart 0.0.32 pytokens 0.2.0
pytorch-молния 2.5.4 pytorch-ranger 0.1.1 pytz 2025.2
PyYAML 6.0.3 pyzmq 27.1.0 квак-кернелы 0.5.0
луч 2.56.0 referencing 0.37.0 regex 2025.10.22
requests 2.32.5 requests-oauthlib 2.0.0 requests-toolbelt 1.0.0
rich 14.2.0 богатый набор инструментов 0.20.1 rignore (риднор) 0.7.6
rpds-py 0.28.0 s3transfer 0.14.0 сейфтенсоры 0.8.0
scikit-learn 1.7.2 scipy 1.16.3 преобразователи предложений (sentence-transformers) 5.5.1
предложение 0.2.1 sentry-sdk 2.64.0 setproctitle 1.3.7
setuptools 80.9.0 шап 0.51.0 шеллингем 1.5.4
six 1.17.0 Нарезчик 0.0.8 smart_open 8.0.0
smmap 5.0.0 sniffio 1.3.0 аудиофайл 0.13.1
soxr 1.1.0 SQLAlchemy 2.0.43 sqlparse 0.5.5
sse-starlette 3.4.5 ssh-import-id 5.11 stack-data 0.6.3
starlette 1.3.1 statsmodels 0.14.5 strictyaml 1.7.3
Супервизор 4.3.0 SymPy 1.14.0 составлять таблицу 0.9.0
tenacity 9.1.2 tensorboardX 2.6.5 threadpoolctl 3.5.0
тиктокен 0.13.0 tilelang 0.1.9 tokenize_rt 6.2.0
токенизаторы 0.22.1 TokenSpeed-MLA 0.1.2 Tokenspeed-Triton 3.7.10.post20260531
tomli 2.0.1 факел 2.11.0+cu130 факел-оптимизатор 0.3.0
torch_c_dlpack_ext 0.1.5 torchaudio 2.11.0+cu130 TorchMetrics 1.9.0
torchvision (библиотека PyTorch для компьютерного зрения) 0.26.0+cu130 tornado 6.5.1 tqdm 4.67.1
traitlets 5.14.3 Трансформаторы 5.8.1 тритон 3.6.0
Trl 0.24.0 машинистка / печатник / типировщик 0.26.8 ввод текста и проверка 0.9.0
контроль ввода текста 0.4.2 typing_extensions 4.15.0 tzdata 2026.2
ultralytics 8.4.90 ultralytics-thop 2.0.20 umap-learn 0.5.12
unattended-upgrades 0.1 urllib3 2.5.0 uuid_utils 0.16.2
uvicorn 0.48.0 uvloop 0.22.1 virtualenv 20.35.4
vllm 0.24.0 wadllib 1.3.6 watchfiles 1.2.0
wcwidth 0.2.13 websockets 15.0.1 wheel 0.45.1
когда бы ни 0.7.3 widgetsnbextension 4.0.14 wrapt 1.17.0
xgboost-cu13 3.2.0 xgrammar 0.2.3 xxhash 3.5.0
ярл 1.22.0 z3-solver 4.15.4.0 zipp 3.23.0
zstandard 0.25.0
  • Last updated on