Поделиться через


Databricks Runtime 17.2 для машинного обучения

Databricks Runtime 17.2 для машинного обучения предоставляет готовую к использованию среду для машинного обучения и науки о данных на основе Databricks Runtime 17.2. Databricks Runtime ML содержит множество популярных библиотек машинного обучения, включая TensorFlow, PyTorch и XGBoost. Databricks Runtime ML включает AutoML – средство для автоматического обучения конвейеров машинного обучения. Databricks Runtime ML также поддерживает распределенное обучение глубокого обучения с помощью TorchDistributor, DeepSpeed и Ray.

Новые функции и улучшения

Databricks Runtime 17.2 ML построен на основе Databricks Runtime 17.2. Дополнительные сведения о новых возможностях Databricks Runtime 17.2, включая Apache Spark MLlib и SparkR, см. в заметках о выпуске Databricks Runtime 17.2 .

Системная среда

Системная среда в Databricks Runtime 17.2 ML отличается от Databricks Runtime 17.2, как показано ниже.

  • Для кластеров GPU в Databricks Runtime ML входят следующие библиотеки GPU NVIDIA:
    • CUDA 12.6
    • cublas 12.6.4.1-1
    • cusolver 11.7.1.2-1
    • cupti 12.6.80-1
    • cusparse 12.5.4.2-1
    • cuDNN 9.5.1.17-1
    • NCCL 2.26.2
    • TensorRT 10.2.0.19-1

Libraries

В следующих разделах перечислены библиотеки, включенные в Databricks Runtime 17.2 ML, которые отличаются от библиотек, включенных в Databricks Runtime 17.2.

В этом разделе:

Библиотеки верхнего уровня

Databricks Runtime 17.2 ML включает следующие библиотеки верхнего уровня:

Библиотеки Python

Databricks Runtime 17.2 ML используется virtualenv для управления пакетами Python и включает множество популярных пакетов машинного обучения.

Чтобы воспроизвести среду Python среды выполнения Databricks в локальной виртуальной среде Python, скачайте requirements-cpu-17.2.txt для кластеров ЦП или requirements-gpu-17.2.txt для кластеров GPU. Затем выполните pip install -r requirements-<cpu|gpu>-17.2.txt. Эта команда устанавливает все библиотеки с открытым исходным кодом, которые использует Databricks Runtime ML, но не устанавливает библиотеки, разработанные Databricks, например databricks-automl.

Библиотеки Python в кластерах ЦП

Библиотека Версия Библиотека Версия Библиотека Версия
absl-py 1.0.0 ускорить 1.5.2 aiohappyeyeballs 2.4.4
aiohttp 3.11.10 aiohttp-cors 0.8.1 aiosignal 1.2.0
алембик 1.16.2 аннотированные типы 0.7.0 anyio 4.6.2
argcomplete 3.6.2 argon2-cffi 21.3.0 argon2-cffi-связки 21.2.0
стрела 1.3.0 Астор 0.8.1 асттокенс 2.0.5
астунпарс 1.6.3 async-lru 2.0.4 атрибуты 24.3.0
аудиочтение 3.0.1 автоматическая команда 2.2.2 azure-common 1.1.28
azure-core 1.35.0 azure-cosmos 4.3.1 azure-identity 1.20.0
Платформа управления Azure (azure-mgmt-core) 1.6.0 azure-mgmt-web 8.0.0 azure-storage-blob (облако сохранения Azure) 12.23.0
хранилище файлов данных Azure Data Lake 12.17.0 Вавилон 2.16.0 отступление 2.2.1
backports.tarfile 1.2.0 bcrypt (алгоритм хеширования паролей) 3.2.0 beautifulsoup4 4.12.3
черный 24.10.0 отбеливатель 6.2.0 указатель поворота 1.7.0
блаженство 0.7.11 boto3 1.36.2 botocore 1.36.3
Бротли 1.1.0 инструменты для кэша 5.5.1 каталог 2.0.10
кодировщики категорий 2.6.3 сертификат 2025.1.31 cffi 1.17.1
chardet 4.0.0 нормализатор кодировки 3.3.2 автоматический выключатель 2.1.3
щелчок 8.1.7 cloudpathlib 0.21.1 Клаудпикл 3.0.0
cmdstanpy 1.2.5 колоритный 0.5.7 colorlog 6.9.0
коммуникация 0.2.1 конфеты 0.1.5 конфигпарсер 5.2.0
Contourpy 1.3.1 крутое имя 2.2.0 cramjam 2.10.0
криптография 43.0.3 велосипедист 0.11.0 цимем 2.0.11
Cython 3.0.12 дацит 1.9.2 Databricks-AutoML-Runtime 0.2.21
фичерная инженерия Databricks 0.12.1 databricks-sdk 0.49.0 Наборы данных 3.5.0
dbl-tempo 0.1.26 dbus-python 1.3.2 debugpy 1.8.11
декоратор 5.1.1 DeepSpeed 0.16.5 defusedxml 0.7.1
укроп 0.3.8 Дистлиб 0.3.9 dm-tree 0.1.9
Конвертация docstring в markdown 0.11 einops 0.8.1 точки входа 0,4
оценивать 0.4.3 исполнение 0.8.3 Обзор аспектов 1.1.1
Farama-Уведомления 0.0.4 fastapi 0.116.1 fastjsonschema 2.21.1
fasttext-wheel 0.9.2 файловая блокировка 3.13.1 Фляжка 2.2.5
FlatBuffers 25.2.10 шрифтовые инструменты 4.55.3 Полное доменное имя (FQDN) 1.5.1
замороженный список 1.5.0 fsspec 2023.5.0 будущее 0.18.3
гаст 0.4.0 gitdb 4.0.11 GitPython 3.1.43
google-api-core 2.20.0 google-auth (аутентификация от Google) 2.40.3 google-cloud-core (основной модуль Google Cloud) 2.4.3
облачное хранилище Google 2.10.0 google-crc32c 1.7.1 гугл-паста 0.2.0
гугл-возобновляемые-медиа 2.7.2 googleapis-common-protos (общие протоколы googleapis) 1.65.0 gql 3.5.3
graphql-core 3.2.4 гринлет 3.1.1 grpcio 1.67.0
grpcio-status 1.67.0 гуникорн 20.1.0 спортзал 0.28.1
h11 0.14.0 h5py 3.12.1 hjson 3.1.0
каникулы 0.54 htmlmin 0.1.12 httpcore 1.0.2
httplib2 0.20.4 httpx 0.27.0 платформа huggingface-hub 0.30.2
IDNA 3,7 ImageHash (Хэш изображений) 4.3.1 imageio 2.37.0
imbalanced-learn (библиотека Python для работы с несбалансированными данными) 0.13.0 importlib-metadata 6.6.0 importlib_resources 6.5.2
склонять 7.3.1 iniconfig 1.1.1 ipyflow-core 0.0.209
ipykernel 6.29.5 ipython 8.30.0 ipython-genutils (утилиты для iPython) 0.2.0
ipywidgets 7.8.1 isodate (стандартная дата ISO) 0.6.1 изодурация 20.11.0
это опасно 2.2.0 jaraco.context 5.3.0 jaraco.functools 4.0.1
jaraco.text 3.12.1 Джакс-Джампи 1.0.0 джедаи 0.19.2
Джинджа2 3.1.5 джиттер 0.10.0 jmespath 1.0.1
joblib 1.4.2 joblibspark 0.6.0 json5 0.9.25
jsonpatch 1.33 Джсонпоинтер (jsonpointer) 3.0.0 jsonschema (JSON-схема) 4.23.0
jsonschema-спецификации 2023.7.1 Jupyter-события 0.10.0 jupyter-lsp 2.2.0
клиент Jupyter 8.6.3 jupyter_core (ядро Jupyter) 5.7.2 Джупитер_сервер 2.14.1
терминалы_сервера_jupyter 0.4.4 jupyterlab 4.3.4 jupyterlab-pygments 0.1.2
jupyterlab-мини-приложения 1.0.0 jupyterlab_server (сервер для JupyterLab) 2.27.3 Керас 3.5.0
Кивисолвер 1.4.8 Лангчейн 0.3.21 langchain-core 0.3.63
Делители текста langchain 0.3.8 языковые коды 3.5.0 langsmith 0.1.133
языковые данные 1.3.0 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 ленивый загрузчик 0,4 libclang 15.0.6.1
librosa 0.11.0 LightGBM (фреймворк для машинного обучения) 4.6.0 Lightning-утилиты 0.14.3
linkify-it-py 2.0.0 llvmlite 0.44.0 lz4 4.3.2
Мако 1.2.0 мариса-три 1.2.0 Markdown (язык разметки) 3.4.1
markdown-it-py 2.2.0 MarkupSafe 3.0.2 matplotlib 3.10.0
матплотлиб-инлайн 0.1.7 МакКейб 0.7.0 mdit-py-plugins 0.3.0
mdurl 0.1.0 Мемрей 1.17.2 Мистун 2.0.4
ml_dtypes 0.5.1 mlflow-skinny (упрощённая версия пакета mlflow) 3.0.1 mmh3 5.1.0
more-itertools 10.3.0 mosaicml-cli 0.6.41 mosaicml-streaming 0.12.0
mpmath 1.3.0 msal 1.32.3 msal-extensions 1.3.1
msgpack 1.1.1 мультидикт 6.1.0 мультиметод 1.12
многопроцессорный 0.70.16 murmurhash (алгоритм хеширования MurmurHash) 1.0.13 mypy-extensions (расширения для mypy) 1.0.0
namex 0.1.0 nbclient 0.8.0 Перекодировщик nbconvert 7.16.4
nbformat 5.10.4 nest-asyncio 1.6.0 networkx 3.4.2
ниндзя 1.11.1.4 nltk (Natural Language Toolkit) 3.9.1 nodeenv 1.9.1
notebook 7.3.2 ноутбук_шим 0.2.3 намба 0.61.0
numpy (библиотека для работы с массивами и матрицами в Python) 2.1.3 nvidia-nccl-cu12 2.27.5 OAuthlib 3.2.0
oci 2.155.2 openai 1.69.0 opencensus 0.11.4
opencensus-context 0.1.3 opentelemetry-api 1.35.0 opentelemetry-sdk 1.35.0
cемантические соглашения opentelemetry 0.56b0 opt_einsum 3.4.0 optree 0.16.0
optuna 3.6.1 интеграция optuna 3.6.0 orjson 3.11.0
Переопределения 7.4.0 упаковка 24,2 Панды 2.2.3
пандокфильтры 1.5.0 paramiko 3.4.0 Парсо 0.8.4
спецификация пути 0.10.3 простак 1.0.1 pexpect (библиотека Python для автоматизации взаимодействия с приложениями) 4.8.0
фик 0.12.5 подушка 11.1.0 пит 25.0.1
Platformdirs 3.10.0 библиотека Plotly для визуализации данных 5.24.1 менеджер плагинов Pluggy 1.5.0
pmdarima 2.0.4 пёс 1.8.2 придавленный 3.0.10
prometheus_client 0.21.0 prompt-toolkit (инструментарий подсказок) 3.0.43 кэш свойств 0.2.0
пророк 1.1.6 proto-plus 1.26.1 protobuf (протобуф) 5.29.4
psutil (пакет Python для работы с процессами и системами) 5.9.0 psycopg2 2.9.3 ptyprocess 0.7.0
пьюр-эвэл 0.2.2 puremagic 1.30 py-cpuinfo 9.0.0
py-spy 0.4.0 pyarrow 19.0.1 pyasn1 0.4.8
pyasn1-modules 0.2.8 pybind11 3.0.0 Пикколо 0.0.71
pycparser 2.21 pydantic (библиотека Python для валидации данных) 2.10.6 pydantic_core 2.27.2
pyflakes (аналитический инструмент для Python) 3.2.0 Пигменты 2.15.1 PyGObject 3.48.2
pyiceberg 0.9.0 PyJWT 2.10.1 PyNaCl 1.5.0
pyodbc 5.2.0 pyOpenSSL 24.2.1 pyparsing (библиотека для синтаксического анализа в Python) 3.2.0
pyright 1.1.394 pytesseract 0.3.10 pytest 8.3.5
python-dateutil (библиотека для работы с датами и временем в Python) Версия 2.9.0.post0 редактор Python 1.0.4 python-json-logger (пакет для логирования JSON в Python) 3.2.1
python-lsp-jsonrpc 1.1.2 python-lsp-server (сервер Python LSP) 1.12.0 Python-Snappy 0.7.3
Pytoolconfig 1.2.6 pytorch-ranger 0.1.1 pytz (библиотека Python для работы с часовыми поясами) 2024.1
PyWavelets 1.8.0 PyYAML 6.0.2 pyzmq 26.2.0
опросник 2.1.0 луч 2.37.0 Ссылки 0.30.2
regex 2024.11.6 Запросы 2.32.3 requests-oauthlib 1.3.1
requests-toolbelt 1.0.0 rfc3339-валидатор 0.1.4 rfc3986-validator 0.1.1
богатый 13.9.4 верёвка 1.12.0 rpds-py 0.22.3
rsa 4.9.1 ruamel.yaml 0.18.14 ruamel.yaml.clib 0.2.12
s3transfer 0.11.3 safetensors 0.5.3 scikit-image 0.25.0
scikit-learn (библиотека машинного обучения) 1.6.1 scipy (библиотека Python) 1.15.1 мореборн 0.13.2
Send2Trash 1.8.2 преобразователи предложений (sentence-transformers) 4.0.1 предложение 0.2.0
setuptools (пакет для установки и управления Python-пакетами) 74.0.0 шап 0.47.1 шеллингем 1.5.4
simplejson 3.17.6 шесть 1.16.0 sklearn-compat 0.1.3
Нарезчик 0.0.8 smart_open 7.3.0.post1 сммап 5.0.0
сниффио 1.3.0 отсортированные контейнеры 2.4.0 аудиофайл 0.13.1
ситечко для супа 2.5 soxr 0.5.0.post1 просторный 3.7.5
spacy-legacy 3.0.12 спейси-логгеры 1.0.5 SQLAlchemy 2.0.37
sqlparse 0.4.2 серьёзно? 2.5.1 ssh-import-id (импортировать идентификатор SSH) 5.11
стековые данные 0.2.0 стэнио 0.5.1 старлетка 0.47.2
statsmodels (библиотека Python для статистического моделирования) 0.14.4 strictyaml 1.7.3 SymPy 1.13.3
составлять таблицу 0.9.0 упорство 9.0.0 ТензорБорд 2.19.0
tensorboard-data-server (сервер данных TensorBoard) 0.7.2 tensorboardX 2.6.4 Tensorflow 2.19.0
TensorFlow Estimator 2.15.0 термколор 3.1.0 закончено 0.17.1
текстуальный 4.0.0 tf_keras 2.19.0 тонкий 8.2.4
Threadpoolctl 3.5.0 tifffile (файл формата TIFF) 2024.12.12 тиктокен 0.9.0
tinycss2 1.4.0 tokenize_rt 6.1.0 токенизаторы 0.21.0
томли 2.0.1 факел 2.7.0+CPU факел-оптимизатор 0.3.0
факел 0.0.7 TorchMetrics 1.6.0 torchvision (библиотека PyTorch для компьютерного зрения) 0.22.0+цп
торнадо 6.4.2 tqdm 4.67.1 Трейтлеты 5.14.3
Трансформаторы 4.51.3 типгард 4.4.2 машинистка / печатник / типировщик 0.16.0
types-python-dateutil 2.9.0.20250708 typing_extensions (расширения для ввода текста) 4.12.2 tzdata 2024.1
uc-micro-py 1.0.1 ujson 5.10.0 автоматические обновления без участия пользователя 0,1
URI-шаблон 1.3.0 urllib3 2.3.0 uvicorn 0.35.0
валидаторы 0.35.0 virtualenv 20.29.3 Видения 0.8.1
wadllib 1.3.6 васаби 1.1.3 wcwidth (ширина символа в Unicode) 0.2.5
ласка 0.4.1 webcolors 24.11.1 веб-энкодинги 0.5.1
websocket-клиент 1.8.0 websockets 11.0.3 Инструмент 3.1.3
чтоэто за патч 1.0.2 колесо 0.45.1 widgetsnbextension 3.6.6
облако слов 1.9.4 завёрнут 1.17.0 xgboost 3.0.0
xgboost-ray 0.1.19 xxhash 3.5.0 yapf (форматировщик Python кода) 0.40.2
ярл 1.18.0 ydata-profiling 4.16.1 ZIPP 3.21.0
zstd 1.5.5.1

Библиотеки Python в кластерах GPU

Замечание

PyTorch использует зависимости CUDA PyPI для предоставления поддержки CUDA вместо версий библиотеки CUDA, встроенных в Databricks Runtime 17.2 ML.

Библиотека Версия Библиотека Версия Библиотека Версия
absl-py 1.0.0 ускорить 1.5.2 aiohappyeyeballs 2.4.4
aiohttp 3.11.10 aiohttp-cors 0.8.1 aiosignal 1.2.0
аннотированные типы 0.7.0 anyio 4.6.2 argcomplete 3.6.2
argon2-cffi 21.3.0 argon2-cffi-связки 21.2.0 стрела 1.3.0
Астор 0.8.1 асттокенс 2.0.5 астунпарс 1.6.3
async-lru 2.0.4 атрибуты 24.3.0 аудиочтение 3.0.1
автоматическая команда 2.2.2 azure-common 1.1.28 azure-core 1.35.0
azure-cosmos 4.3.1 azure-identity 1.20.0 Платформа управления Azure (azure-mgmt-core) 1.6.0
azure-mgmt-web 8.0.0 azure-storage-blob (облако сохранения Azure) 12.23.0 хранилище файлов данных Azure Data Lake 12.17.0
Вавилон 2.16.0 отступление 2.2.1 backports.tarfile 1.2.0
bcrypt (алгоритм хеширования паролей) 3.2.0 beautifulsoup4 4.12.3 черный 24.10.0
отбеливатель 6.2.0 указатель поворота 1.7.0 блаженство 0.7.11
boto3 1.36.2 botocore 1.36.3 Бротли 1.1.0
инструменты для кэша 5.5.1 каталог 2.0.10 кодировщики категорий 2.6.3
сертификат 2025.1.31 cffi 1.17.1 chardet 4.0.0
нормализатор кодировки 3.3.2 автоматический выключатель 2.1.3 щелчок 8.1.7
cloudpathlib 0.21.1 Клаудпикл 3.0.0 cmdstanpy 1.2.5
колоритный 0.5.7 colorlog 6.9.0 коммуникация 0.2.1
конфеты 0.1.5 конфигпарсер 5.2.0 Contourpy 1.3.1
крутое имя 2.2.0 cramjam 2.10.0 криптография 43.0.3
велосипедист 0.11.0 цимем 2.0.11 Cython 3.0.12
дацит 1.9.2 Databricks-AutoML-Runtime 0.2.21 фичерная инженерия Databricks 0.12.1
databricks-sdk 0.49.0 Наборы данных 3.5.0 dbl-tempo 0.1.26
dbus-python 1.3.2 debugpy 1.8.11 декоратор 5.1.1
DeepSpeed 0.16.5 defusedxml 0.7.1 укроп 0.3.8
Дистлиб 0.3.9 dm-tree 0.1.9 Конвертация docstring в markdown 0.11
einops 0.8.1 точки входа 0,4 оценивать 0.4.3
исполнение 0.8.3 Обзор аспектов 1.1.1 Farama-Уведомления 0.0.4
fastapi 0.116.1 fastjsonschema 2.21.1 fasttext-wheel 0.9.2
файловая блокировка 3.13.1 flash_attn 2.7.4.post1 Фляжка 2.2.5
FlatBuffers 25.2.10 шрифтовые инструменты 4.55.3 Полное доменное имя (FQDN) 1.5.1
замороженный список 1.5.0 fsspec 2023.5.0 будущее 0.18.3
гаст 0.4.0 gitdb 4.0.11 GitPython 3.1.43
google-api-core 2.20.0 google-auth (аутентификация от Google) 2.40.3 google-cloud-core (основной модуль Google Cloud) 2.4.3
облачное хранилище Google 2.10.0 google-crc32c 1.7.1 гугл-паста 0.2.0
гугл-возобновляемые-медиа 2.7.2 googleapis-common-protos (общие протоколы googleapis) 1.65.0 gql 3.5.3
graphql-core 3.2.4 гринлет 3.1.1 grpcio 1.67.0
grpcio-status 1.67.0 гуникорн 20.1.0 спортзал 0.28.1
h11 0.14.0 h5py 3.12.1 hjson 3.1.0
каникулы 0.54 htmlmin 0.1.12 httpcore 1.0.2
httplib2 0.20.4 httpx 0.27.0 платформа huggingface-hub 0.30.2
IDNA 3,7 ImageHash (Хэш изображений) 4.3.1 imageio 2.37.0
imbalanced-learn (библиотека Python для работы с несбалансированными данными) 0.13.0 importlib-metadata 6.6.0 importlib_resources 6.5.2
склонять 7.3.1 iniconfig 1.1.1 ipyflow-core 0.0.209
ipykernel 6.29.5 ipython 8.30.0 ipython-genutils (утилиты для iPython) 0.2.0
ipywidgets 7.8.1 isodate (стандартная дата ISO) 0.6.1 изодурация 20.11.0
это опасно 2.2.0 jaraco.context 5.3.0 jaraco.functools 4.0.1
jaraco.text 3.12.1 Джакс-Джампи 1.0.0 джедаи 0.19.2
Джинджа2 3.1.5 джиттер 0.10.0 jmespath 1.0.1
joblib 1.4.2 joblibspark 0.6.0 json5 0.9.25
jsonpatch 1.33 Джсонпоинтер (jsonpointer) 3.0.0 jsonschema (JSON-схема) 4.23.0
jsonschema-спецификации 2023.7.1 Jupyter-события 0.10.0 jupyter-lsp 2.2.0
клиент Jupyter 8.6.3 jupyter_core (ядро Jupyter) 5.7.2 Джупитер_сервер 2.14.1
терминалы_сервера_jupyter 0.4.4 jupyterlab 4.3.4 jupyterlab-pygments 0.1.2
jupyterlab-мини-приложения 1.0.0 jupyterlab_server (сервер для JupyterLab) 2.27.3 Керас 3.5.0
Кивисолвер 1.4.8 Лангчейн 0.3.21 langchain-core 0.3.63
Делители текста langchain 0.3.8 языковые коды 3.5.0 langsmith 0.1.133
языковые данные 1.3.0 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 ленивый загрузчик 0,4 libclang 15.0.6.1
librosa 0.11.0 LightGBM (фреймворк для машинного обучения) 4.6.0 Lightning-утилиты 0.14.3
linkify-it-py 2.0.0 llvmlite 0.44.0 lz4 4.3.2
Мако 1.2.0 мариса-три 1.2.0 Markdown (язык разметки) 3.4.1
markdown-it-py 2.2.0 MarkupSafe 3.0.2 matplotlib 3.10.0
матплотлиб-инлайн 0.1.7 МакКейб 0.7.0 mdit-py-plugins 0.3.0
mdurl 0.1.0 Мемрей 1.17.2 Мистун 2.0.4
ml_dtypes 0.5.1 mlflow-skinny (упрощённая версия пакета mlflow) 3.0.1 mmh3 5.1.0
more-itertools 10.3.0 mosaicml-cli 0.6.41 mosaicml-streaming 0.12.0
mpmath 1.3.0 msal 1.32.3 msal-extensions 1.3.1
msgpack 1.1.1 мультидикт 6.1.0 мультиметод 1.12
многопроцессорный 0.70.16 murmurhash (алгоритм хеширования MurmurHash) 1.0.13 mypy-extensions (расширения для mypy) 1.0.0
namex 0.1.0 nbclient 0.8.0 Перекодировщик nbconvert 7.16.4
nbformat 5.10.4 nest-asyncio 1.6.0 networkx 3.4.2
ниндзя 1.11.1.4 nltk (Natural Language Toolkit) 3.9.1 nodeenv 1.9.1
notebook 7.3.2 ноутбук_шим 0.2.3 намба 0.61.0
numpy (библиотека для работы с массивами и матрицами в Python) 2.1.3 nvidia-cublas-cu12 12.6.4.1 nvidia-cuda-cupti-cu12 12.6.80
nvidia-cuda-nvrtc-cu12 12.6.77 nvidia-cuda-runtime-cu12 12.6.77 nvidia-cudnn-cu12 9.5.1.17
nvidia-cufft-cu12 11.3.0.4 nvidia-cufile-cu12 1.11.1.6 nvidia-curand-cu12 10.3.7.77
nvidia-cusolver-cu12 11.7.1.2 nvidia-cusparse-cu12 12.5.4.2 nvidia-cusparselt-cu12 0.6.3
nvidia-nccl-cu12 2.26.2 nvidia-nvjitlink-cu12 12.6.85 nvidia-nvtx-cu12 12.6.77
OAuthlib 3.2.0 oci 2.155.2 openai 1.69.0
opencensus 0.11.4 opencensus-context 0.1.3 opentelemetry-api 1.35.0
opentelemetry-sdk 1.35.0 cемантические соглашения opentelemetry 0.56b0 opt_einsum 3.4.0
optree 0.16.0 optuna 3.6.1 интеграция optuna 3.6.0
orjson 3.11.0 Переопределения 7.4.0 упаковка 24,2
Панды 2.2.3 пандокфильтры 1.5.0 paramiko 3.4.0
Парсо 0.8.4 спецификация пути 0.10.3 простак 1.0.1
pexpect (библиотека Python для автоматизации взаимодействия с приложениями) 4.8.0 фик 0.12.5 подушка 11.1.0
пит 25.0.1 Platformdirs 3.10.0 библиотека Plotly для визуализации данных 5.24.1
менеджер плагинов Pluggy 1.5.0 pmdarima 2.0.4 пёс 1.8.2
придавленный 3.0.10 prometheus_client 0.21.0 prompt-toolkit (инструментарий подсказок) 3.0.43
кэш свойств 0.2.0 пророк 1.1.6 proto-plus 1.26.1
protobuf (протобуф) 5.29.4 psutil (пакет Python для работы с процессами и системами) 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 пьюр-эвэл 0.2.2 puremagic 1.30
py-cpuinfo 9.0.0 py-spy 0.4.0 pyarrow 19.0.1
pyasn1 0.4.8 pyasn1-modules 0.2.8 pybind11 3.0.0
Пикколо 0.0.71 pycparser 2.21 pydantic (библиотека Python для валидации данных) 2.10.6
pydantic_core 2.27.2 pyflakes (аналитический инструмент для Python) 3.2.0 Пигменты 2.15.1
PyGObject 3.48.2 pyiceberg 0.9.0 PyJWT 2.10.1
PyNaCl 1.5.0 pyodbc 5.2.0 pyOpenSSL 24.2.1
pyparsing (библиотека для синтаксического анализа в Python) 3.2.0 pyright 1.1.394 pytesseract 0.3.10
pytest 8.3.5 python-dateutil (библиотека для работы с датами и временем в Python) Версия 2.9.0.post0 редактор Python 1.0.4
python-json-logger (пакет для логирования JSON в Python) 3.2.1 python-lsp-jsonrpc 1.1.2 python-lsp-server (сервер Python LSP) 1.12.0
Python-Snappy 0.7.3 Pytoolconfig 1.2.6 pytorch-ranger 0.1.1
pytz (библиотека Python для работы с часовыми поясами) 2024.1 PyWavelets 1.8.0 PyYAML 6.0.2
pyzmq 26.2.0 опросник 2.1.0 луч 2.37.0
Ссылки 0.30.2 regex 2024.11.6 Запросы 2.32.3
requests-oauthlib 1.3.1 requests-toolbelt 1.0.0 rfc3339-валидатор 0.1.4
rfc3986-validator 0.1.1 богатый 13.9.4 верёвка 1.12.0
rpds-py 0.22.3 rsa 4.9.1 ruamel.yaml 0.18.14
ruamel.yaml.clib 0.2.12 s3transfer 0.11.3 safetensors 0.5.3
scikit-image 0.25.0 scikit-learn (библиотека машинного обучения) 1.6.1 scipy (библиотека Python) 1.15.1
мореборн 0.13.2 Send2Trash 1.8.2 преобразователи предложений (sentence-transformers) 4.0.1
предложение 0.2.0 setuptools (пакет для установки и управления Python-пакетами) 74.0.0 шап 0.47.1
шеллингем 1.5.4 simplejson 3.17.6 шесть 1.16.0
sklearn-compat 0.1.3 Нарезчик 0.0.8 smart_open 7.3.0.post1
сммап 5.0.0 сниффио 1.3.0 отсортированные контейнеры 2.4.0
аудиофайл 0.13.1 ситечко для супа 2.5 soxr 0.5.0.post1
просторный 3.7.5 spacy-legacy 3.0.12 спейси-логгеры 1.0.5
SQLAlchemy 2.0.37 sqlparse 0.4.2 серьёзно? 2.5.1
ssh-import-id (импортировать идентификатор SSH) 5.11 стековые данные 0.2.0 стэнио 0.5.1
старлетка 0.47.2 statsmodels (библиотека Python для статистического моделирования) 0.14.4 strictyaml 1.7.3
SymPy 1.13.3 составлять таблицу 0.9.0 упорство 9.0.0
ТензорБорд 2.19.0 tensorboard-data-server (сервер данных TensorBoard) 0.7.2 tensorboardX 2.6.4
Tensorflow 2.19.0 TensorFlow Estimator 2.15.0 термколор 3.1.0
закончено 0.17.1 текстуальный 4.0.0 tf_keras 2.19.0
тонкий 8.2.4 Threadpoolctl 3.5.0 tifffile (файл формата TIFF) 2024.12.12
тиктокен 0.9.0 tinycss2 1.4.0 tokenize_rt 6.1.0
токенизаторы 0.21.0 томли 2.0.1 факел 2.7.0
факел-оптимизатор 0.3.0 факел 0.0.7 TorchMetrics 1.6.0
torchvision (библиотека PyTorch для компьютерного зрения) 0.22.0 торнадо 6.4.2 tqdm 4.67.1
Трейтлеты 5.14.3 Трансформаторы 4.51.3 тритон 3.3.0
типгард 4.4.2 машинистка / печатник / типировщик 0.16.0 types-python-dateutil 2.9.0.20250708
typing_extensions (расширения для ввода текста) 4.12.2 tzdata 2024.1 uc-micro-py 1.0.1
ujson 5.10.0 автоматические обновления без участия пользователя 0,1 URI-шаблон 1.3.0
urllib3 2.3.0 uvicorn 0.35.0 валидаторы 0.35.0
virtualenv 20.29.3 Видения 0.8.1 wadllib 1.3.6
васаби 1.1.3 wcwidth (ширина символа в Unicode) 0.2.5 ласка 0.4.1
webcolors 24.11.1 веб-энкодинги 0.5.1 websocket-клиент 1.8.0
websockets 11.0.3 Инструмент 3.1.3 чтоэто за патч 1.0.2
колесо 0.45.1 widgetsnbextension 3.6.6 облако слов 1.9.4
завёрнут 1.17.0 xgboost 3.0.0 xgboost-ray 0.1.19
xxhash 3.5.0 yapf (форматировщик Python кода) 0.40.2 ярл 1.18.0
ydata-profiling 4.16.1 ZIPP 3.21.0 zstd 1.5.5.1

Библиотеки R

Библиотеки R идентичны библиотекам R в Databricks Runtime 17.2.

Библиотеки Java и Scala (кластер Scala 2.12)

Помимо библиотек Java и Scala в Databricks Runtime 17.2, Databricks Runtime 17.2 ML содержит следующие JAR:

Кластеры ЦП

Идентификатор группы Идентификатор артефакта Версия
ml.dmlc xgboost4j-spark_2.13 2.1.3
ml.dmlc xgboost4j_2.13 2.1.3
org.graphframes graphframes_2.13 0.8.4-db1-spark3.5
org.mlflow mlflow-client 2.15.1
org.scala-lang.modules scala-collection-compat_2.13 2.12.0
org.tensorflow spark-tensorflow-connector_2.13 1.15.0

Кластеры GPU

Идентификатор группы Идентификатор артефакта Версия
ml.dmlc xgboost4j-spark_2.13 2.1.3
ml.dmlc xgboost4j_2.13 2.1.3
org.graphframes graphframes_2.13 0.8.4-db1-spark3.5
org.mlflow mlflow-client 2.15.1
org.scala-lang.modules scala-collection-compat_2.13 2.12.0
org.tensorflow spark-tensorflow-connector_2.13 1.15.0

Неподдерживаемые выпуски

Подсказка

Чтобы ознакомиться с примечаниями к версиям Databricks Runtime, которые достигли окончания поддержки (EoS), см. Примечания к версиям Databricks Runtime с окончанием поддержки. Версии среды выполнения EoS Databricks устарели и могут не обновляться.