Udostępnij przez

Databricks Runtime 16.3 for Machine Learning (EoS)

Uwaga / Notatka

Obsługa tej wersji środowiska Databricks Runtime została zakończona. Aby uzyskać datę zakończenia pomocy technicznej, zobacz Historia zakończenia pomocy technicznej. Wszystkie obsługiwane wersje środowiska Databricks Runtime można znaleźć w sekcji Notatki o wersjach i zgodności środowiska Databricks Runtime.

Środowisko Databricks Runtime 16.3 for Machine Learning zapewnia gotowe środowisko do uczenia maszynowego i nauki o danych, oparte na środowisku Databricks Runtime 16.3 (EoS). Środowisko Databricks Runtime ML zawiera wiele popularnych bibliotek uczenia maszynowego, w tym TensorFlow, PyTorch i XGBoost. Środowisko Databricks Runtime ML obejmuje rozwiązanie AutoML— narzędzie do automatycznego trenowania potoków uczenia maszynowego. Środowisko Databricks Runtime ML obsługuje również rozproszone trenowanie uczenia głębokiego przy użyciu narzędzi TorchDistributor, DeepSpeed i Ray.

Nowe funkcje i ulepszenia

Środowisko Databricks Runtime 16.3 ML jest oparte na środowisku Databricks Runtime 16.3. Aby uzyskać informacje o nowościach w środowisku Databricks Runtime 16.3, w tym Apache Spark MLlib i SparkR, zobacz notatki wydania dla środowiska Databricks Runtime 16.3 (EoS).

Inne zmiany

Biblioteka TensorFlow 2.17.x nie może załadować biblioteki cuDNN

Jest to znany problem w środowisku Databricks Runtime 16.3 ML, w której TensorFlow 2.17.x (wersja domyślna) nie może uzyskać dostępu do urządzeń GPU z powodu błędu ładowania biblioteki cuDNN. Aby rozwiązać ten problem, uaktualnij bibliotekę TensorFlow do wersji 2.18.x lub nowszej.

Środowisko systemu

Środowisko systemowe w środowisku Databricks Runtime 16.3 ML różni się od środowiska Databricks Runtime 16.3 w następujący sposób.

  • W przypadku klastrów gpu środowisko Databricks Runtime ML obejmuje następujące biblioteki procesora GPU FIRMY NVIDIA:
    • CUDA 12.6
    • cublas 12.6.0.22-1
    • cusolver 11.6.4.38-1
    • cupti 12.6.37-1
    • cusparse 12.5.2.23-1
    • cuDNN 9.3.0.75-1
    • NCCL 2.22.3
    • TensorRT 10.2.0.19-1

Libraries

W poniższych sekcjach wymieniono biblioteki zawarte w środowisku Databricks Runtime 16.3 ML, które różnią się od bibliotek zawartych w środowisku Databricks Runtime 16.3.

W tej sekcji:

Biblioteki najwyższego poziomu

Środowisko Databricks Runtime 16.3 ML obejmuje następujące biblioteki najwyższego poziomu:

Biblioteki języka Python

Środowisko Databricks Runtime 16.3 ML używa virtualenv do zarządzania pakietami języka Python i zawiera wiele popularnych pakietów uczenia maszynowego.

Oprócz pakietów określonych w poniższych sekcjach środowisko Databricks Runtime 16.3 ML zawiera również następujące pakiety:

  • hyperopt 0.2.8+db1
  • automl 1.30.0

Aby odtworzyć środowisko Python Databricks Runtime ML w lokalnym wirtualnym środowisku Python, pobierz plik requirements-16.3.txt i uruchom polecenie pip install -r requirements-16.3.txt. To polecenie instaluje wszystkie biblioteki typu open source używane przez usługę Databricks Runtime ML, ale nie instaluje bibliotek opracowanych przez Databricks, takich jak databricks-automl lub wersja Databricks hyperopt.

Biblioteki języka Python w klastrach procesora CPU

Biblioteka wersja Biblioteka wersja Biblioteka wersja
absl-py 1.0.0 przyspieszać 1.4.0 aiohttp 3.9.5
aiohttp-cors 0.7.0 aiosignal 1.2.0 alembic 1.14.0
typy z adnotacjami 0.7.0 anyio 4.2.0 argcomplete 3.5.3
argon2-cffi 21.3.0 argon2-cffi-bindings 21.2.0 strzałka 1.2.3
Astor 0.8.1 asttokens 2.0.5 astunparse 1.6.3
async-lru 2.0.4 attrs 23.1.0 odczyt dźwięku 3.0.1
autokomenda 2.2.2 azure-core 1.32.0 azure-cosmos 4.3.1
azure-identity 1.19.0 Azure Storage Blob 12.23.0 Usługa przechowywania w chmurze Azure (azure-storage-file-datalake) 12.17.0
Babel 2.11.0 wycofywanie 2.2.1 backports.tarfile 1.2.0
bcrypt 3.2.0 beautifulsoup4 4.12.3 czarny 24.4.2
wybielacz 4.1.0 kierunkowskaz 1.7.0 błogość 0.7.11
boto3 1.34.69 botocore 1.34.69 Brotli 1.0.9
cachetools (narzędzia do zarządzania pamięcią podręczną) 5.3.3 katalog 2.0.10 kodery kategorii 2.6.3
certyfikat 2024.6.2 cffi 1.16.0 chardet 4.0.0
normalizator zestawu znaków 2.0.4 wyłącznik obwodowy 2.0.0 kliknij 8.1.7
cloudpathlib 0.20.0 cloudpickle (biblioteka Python do serializacji obiektów) 2.2.1 cmdstanpy 1.2.5
kolorowy 0.5.6 log kolorów 6.9.0 komunikacja 0.2.1
kompozytor 0.29.0 wyrób cukierniczy 0.1.5 configparser 5.2.0
ContourPy 1.2.0 coolname 2.2.0 kryptografia 42.0.5
rowerzysta 0.11.0 cymem 2.0.11 Cython 3.0.11
dacyt 1.8.1 databricks-automl-runtime 0.2.21 proces inżynierii cech w Databricks 0.8.0
databricks-sdk 0.30.0 zbiory danych 3.3.2 dbl-tempo 0.1.26
dbus-python 1.3.2 debugpy 1.6.7 dekorator 5.1.1
Deepspeed 0.16.4 defusedxml (biblioteka zabezpieczająca przetwarzanie XML) 0.7.1 Deprecated 1.2.15
koper 0.3.8 distlib 0.3.8 dm-tree 0.1.8
Konwertowanie docstringów na markdown 0,11 einops 0.8.0 punkty wejścia 0,4
ocenić 0.4.3 wykonywanie 0.8.3 aspekty — omówienie 1.1.1
Powiadomienia Farama 0.0.4 fastjsonschema 2.21.1 koło szybkiego tekstu 0.9.2
blokada plików 3.13.1 Flask 2.2.5 flatbuffers 24.12.23
fonttools 4.51.0 Fqdn 1.5.1 zablokowana lista 1.4.0
fsspec 2023.5.0 przyszłość 0.18.3 Гаст 0.4.0
gitdb (baza danych Git) 4.0.11 GitPython 3.1.37 google-api-core 2.20.0
google-auth (autoryzacja Google) 2.21.0 google-auth-oauthlib (biblioteka uwierzytelniania OAuth dla Google) 1.2.1 google-cloud-core 2.4.1
Google Cloud Storage (usługa przechowywania danych w chmurze od Google) 2.10.0 google-crc32c (biblioteka do obsługi algorytmu crc32c od Google) 1.6.0 Google-pasta 0.2.0
Google Media z Możliwością Wznowienia 2.7.2 googleapis-common-protos 1.66.0 gql 3.5.0
graphql-core 3.2.4 zielona nitka 3.0.1 grpcio 1.60.0
grpcio-status 1.60.0 gunicorn 20.1.0 Gviz-API 1.10.0
sala gimnastyczna 0.28.1 h11 0.14.0 h5py 3.11.0
hjson 3.1.0 wakacje 0,54 htmlmin 0.1.12
httpcore 1.0.7 httplib2 0.20.4 httpx 0.28.1
Hugging Face Hub 0.29.1 IDNA 3.7 ImageHash 4.3.1
imageio 2.33.1 niezrównoważona nauka 0.12.3 importlib-metadata 6.0.0
importlib_resources 6.5.2 odchylić 7.3.1 ipyflow-core 0.0.201
ipykernel 6.28.0 ipython 8.25.0 ipython-genutils 0.2.0
ipywidgets 7.7.2 isodate 0.6.1 izoduracja 20.11.0
to jest niebezpieczne 2.2.0 jaraco.context 5.3.0 jaraco.functools 4.0.1
jaraco.text 3.12.1 jax-jumpy 1.0.0 Jedi 0.19.1
Jinja2 3.1.4 drżenie 0.8.2 jmespath 1.0.1
joblib 1.4.2 joblibspark 0.5.1 json5 0.9.6
jsonpatch 1.33 JsonPointer 3.0.0 jsonschema 4.19.2
Specyfikacje schematu JSON 2023.7.1 If the term needs to stay in English, it should remain "jupyter-events". If a translation is needed, it could potentially be "wydarzenia jupyter", depending on the context and recognition among the target audience. 0.10.0 jupyter-lsp 2.2.0
jupyter_client 8.6.0 jupyter_core 5.7.2 jupyter_server 2.14.1
jupyter_server_terminals (terminale serwera Jupyter) 0.4.4 jupyterlab 4.0.11 jupyterlab-pygments 0.1.2
jupyterlab_server 2.25.1 Keras 3.8.0 kiwisolver 1.4.4
langchain 0.3.19 langchain-core 0.3.30 langchain-text-splitters (narzędzie do dzielenia tekstu) 0.3.5
kody językowe 3.5.0 langsmith 0.1.133 dane_językowe 1.3.0
launchpadlib 1.11.0 lazr.restfulclient 0.14.6 lazr.uri 1.0.6
leniwy ładowacz 0,4 libclang 15.0.6.1 librosa 0.10.2
lightgbm 4.5.0 narzędzia błyskawiczne 0.11.9 linkify-it-py 2.0.0
llvmlite 0.42.0 lz4 4.3.2 Mako 1.2.0
marisa-trie 1.2.0 Markdown 3.4.1 markdown —it-py 2.2.0
MarkupSafe 2.1.3 matplotlib 3.8.4 matplotlib-inline 0.1.6
Mccabe 0.7.0 mdit-py-plugins 0.3.0 mdurl 0.1.0
memray 1.15.0 Mistune 2.0.4 ml-dtypes 0.4.1
mlflow-skinny 2.15.1 more-itertools 10.3.0 mosaicml-cli 0.6.41
mosaicml-streaming 0.11.0 mpmath 1.3.0 msal 1.31.1
msal-extensions 1.2.0 msgpack 1.1.0 multidict 6.0.4
wielometoda 1.12 wieloprocesowy 0.70.16 MurmurHash 1.0.12
mypy 1.10.0 mypy-extensions 1.0.0 namex 0.0.8
NBClient 0.8.0 nbconvert - narzędzie do konwersji plików Jupyter Notebook 7.10.0 nbformat 5.9.2
nest-asyncio 1.6.0 networkx 3.2.1 Ninja 1.11.1.1
Natural Language Toolkit (nltk) 3.8.1 nodeenv 1.9.1 notes 7.0.8
notebook_shim 0.2.3 numba 0.59.1 numpy 1.26.4
oauthlib 3.2.0 Oci 2.142.0 openai 1.64.0
opencensus 0.11.4 opencensus-context 0.1.3 opentelemetry-api 1.29.0
opentelemetry-sdk 1.29.0 opentelemetry-semantic-conventions (standardowe konwencje semantyczne w OpenTelemetry) 0.50b0 opt_einsum 3.4.0
optree 0.14.0 optuna 3.6.1 integracja Optuna 3.6.0
orjson 3.10.14 Zastępuje 7.4.0 opakowanie 24.1
Pandas 1.5.3 pandocfilters 1.5.0 paramiko - biblioteka do protokołu SSH2 dla języka Python 3.4.0
parso 0.8.3 specyfikacja ścieżki 0.10.3 ofiara 0.5.6
pexpect 4.8.0 phik 0.12.4 poduszka 10.3.0
pip (menedżer pakietów Pythona) 24,2 platformdirs 3.10.0 kreślenie 5.22.0
wtyczkowy 1.0.0 pmdarima 2.0.4 kundel 1.8.2
portalocker 2.10.1 przeszhetowany 3.0.9 prometheus-client 0.14.1
zestaw narzędzi prompt 3.0.43 prorok 1.1.5 proto-plus 1.25.0
Protobuf (w skrócie od Protocol Buffers) 4.24.1 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 py-cpuinfo 9.0.0
py-spy 0.4.0 pyarrow 15.0.2 pyasn1 0.4.8
pyasn1-modules 0.2.8 pybind11 2.13.6 pyccolo 0.0.65
pycparser 2.21 pydantic (biblioteka Python do walidacji danych i zarządzania ustawieniami) 2.8.2 pydantic_core 2.20.1
pyflakes (narzędzie do analizy statycznej kodu Python) 3.2.0 Pygments 2.15.1 PyGObject 3.48.2
PyJWT 2.7.0 PyNaCl 1.5.0 pyodbc 5.0.1
pyOpenSSL 24.0.0 pyparsing – biblioteka do przetwarzania tekstu w Pythonie 3.0.9 pyright 1.1.294
pytesseract 0.3.10 python-dateutil (biblioteka Pythona do zarządzania datami) 2.9.0.post0 Pythonowy edytor 1.0.4
python-json-logger 2.0.7 python-lsp-jsonrpc 1.1.2 python-lsp-server 1.10.0
python-snappy 0.6.1 pytoolconfig 1.2.6 pytorch-ranger 0.1.1
pytz (biblioteka Pythona do obliczeń stref czasowych) 2024.1 PyWavelets 1.5.0 PyYAML 6.0.1
pyzmq 25.1.2 kwestionariusz 2.1.0 promień 2.37.0
odwoływanie się 0.30.2 wyrażenie regularne 2023.10.3 żądania 2.32.2
requests-oauthlib 1.3.1 requests-toolbelt (narzędzie wspomagające dla biblioteki requests w Pythonie) 1.0.0 rfc3339-validator 0.1.4
rfc3986-validator 0.1.1 bogaty 13.3.5 lina 1.12.0
rpds-py 0.10.6 rsa 4.9 ruamel.yaml 0.18.10
ruamel.yaml.clib 0.2.12 s3transfer 0.10.2 safetensors 0.4.4
scikit-image 0.23.2 scikit-learn 1.4.2 scipy (biblioteka naukowa dla Pythona) 1.13.1
urodzony na morzu 0.13.2 Send2Trash 1.8.2 transformatory zdań 3.4.1
element zdania 0.2.0 setuptools 74.0.0 kształt 0.46.0
shellingham 1.5.4 simplejson 3.17.6 sześć 1.16.0
fragmentator 0.0.8 inteligentne-otwarcie 5.2.1 smmap 5.0.0
Sniffio 1.3.0 Plik dźwiękowy 0.12.1 sitko do zupy 2.5
soxr 0.5.0.post1 przestronny 3.7.5 spacy-legacy 3.0.12
spacy-loggers 1.0.5 SQLAlchemy 2.0.30 sqlparse 0.4.2
serio 2.5.1 ssh-import-id (narzędzie do importowania kluczy SSH) 5.11 stos danych 0.2.0
cyna 0.5.1 statsmodels - biblioteka do modelowania statystycznego 0.14.2 sympy 1.13.1
sporządzać tabelę 0.9.0 splątane w Unicode 0.2.0 Wytrzymałość 8.2.2
TensorBoard 2.18.0 serwer danych TensorBoard 0.7.2 wtyczka TensorBoard do profilowania 2.18.0
tensorboardX 2.6.2.2 TensorFlow 2.18.0 tensorflow-estimator (moduł TensorFlow do estymacji) 2.15.0
termcolor (narzędzie do zarządzania kolorami w terminalu) 2.5.0 zakończony 0.17.1 Tekstowy 1.0.0
tf_keras 2.18.0 cienki 8.2.5 threadpoolctl 2.2.0
tifffile 2023.4.12 tiktoken 0.7.0 tinycss2 1.2.1
tokenize-rt 4.2.1 narzędzia tokenizacji 0.21.0 tomli 2.0.1
pochodnia 2.6.0+ procesor optymalizator latarki 0.3.0 torcheval 0.0.7
torchmetrics 1.6.0 torchvision 0.21.0 +cpu tornado 6.4.1
tqdm 4.66.4 traitlets 5.14.3 Transformersi 4.49.0
typeguard 4.4.1 pisarz 0.15.1 types-protobuf 3.20.3
types-psutil 5.9.0 types-pytz 2023.3.1.1 types-PyYAML 6.0.0
typy-żądań 2.31.0.0 types-setuptools 68.0.0.0 typy-sześć 1.16.0
types-urllib3 1.26.25.14 moduł typing_extensions 4.11.0 uc-micro-py 1.0.1
ujson (szybka biblioteka do obsługi formatu JSON) 5.10.0 nienadzorowane uaktualnienia 0.1 Szablon adresu URI 1.3.0
urllib3 1.26.16 moduły sprawdzania poprawności 0.34.0 virtualenv 20.26.2
Wizje 0.7.5 wadllib 1.3.6 wasabi 1.1.3
szerokość(wcwidth) 0.2.5 łasica 0.4.1 kolory sieci Web 24.11.1
kodowania webowe 0.5.1 websocket-klient 1.8.0 websockets 11.0.3
Narzędzie 3.0.3 czymjestłatka 1.0.2 wheel 0.43.0
wordcloud 1.9.4 zawinięty 1.14.1 xgboost 2.0.3
xgboost-ray 0.1.19 xxhash 3.4.1 yapf (Yet Another Python Formatter - Kolejny Formatator Pythona) 0.33.0
Yarl 1.9.3 ydata-profiling (profilowanie danych) 4.9.0 zamek błyskawiczny 3.17.0
zstd 1.5.5.1

Biblioteki języka Python w klastrach gpu

Uwaga / Notatka

PyTorch używa zależności CUDA PyPI do zapewnienia obsługi CUDA zamiast wersji bibliotek CUDA wbudowanych w środowisko Databricks Runtime 16.3 ML.

Biblioteka wersja Biblioteka wersja Biblioteka wersja
absl-py 1.0.0 przyspieszać 1.4.0 aiohttp 3.9.5
aiohttp-cors 0.7.0 aiosignal 1.2.0 typy z adnotacjami 0.7.0
anyio 4.2.0 argcomplete 3.5.3 argon2-cffi 21.3.0
argon2-cffi-bindings 21.2.0 strzałka 1.2.3 Astor 0.8.1
asttokens 2.0.5 astunparse 1.6.3 async-lru 2.0.4
attrs 23.1.0 odczyt dźwięku 3.0.1 autokomenda 2.2.2
azure-core 1.32.0 azure-cosmos 4.3.1 azure-identity 1.19.0
Azure Storage Blob 12.23.0 Usługa przechowywania w chmurze Azure (azure-storage-file-datalake) 12.17.0 Babel 2.11.0
wycofywanie 2.2.1 backports.tarfile 1.2.0 bcrypt 3.2.0
beautifulsoup4 4.12.3 czarny 24.4.2 wybielacz 4.1.0
kierunkowskaz 1.7.0 błogość 0.7.11 boto3 1.34.69
botocore 1.34.69 Brotli 1.0.9 cachetools (narzędzia do zarządzania pamięcią podręczną) 5.3.3
katalog 2.0.10 kodery kategorii 2.6.3 certyfikat 2024.6.2
cffi 1.16.0 chardet 4.0.0 normalizator zestawu znaków 2.0.4
wyłącznik obwodowy 2.0.0 kliknij 8.1.7 cloudpathlib 0.20.0
cloudpickle (biblioteka Python do serializacji obiektów) 2.2.1 cmdstanpy 1.2.5 kolorowy 0.5.6
log kolorów 6.9.0 komunikacja 0.2.1 kompozytor 0.29.0
wyrób cukierniczy 0.1.5 configparser 5.2.0 ContourPy 1.2.0
coolname 2.2.0 kryptografia 42.0.5 rowerzysta 0.11.0
cymem 2.0.11 Cython 3.0.11 dacyt 1.8.1
databricks-automl-runtime 0.2.21 proces inżynierii cech w Databricks 0.8.0 databricks-sdk 0.30.0
zbiory danych 3.3.2 dbl-tempo 0.1.26 dbus-python 1.3.2
debugpy 1.6.7 dekorator 5.1.1 Deepspeed 0.16.4
defusedxml (biblioteka zabezpieczająca przetwarzanie XML) 0.7.1 Deprecated 1.2.15 koper 0.3.8
distlib 0.3.8 dm-tree 0.1.8 Konwertowanie docstringów na markdown 0,11
einops 0.8.0 punkty wejścia 0,4 ocenić 0.4.3
wykonywanie 0.8.3 aspekty — omówienie 1.1.1 Powiadomienia Farama 0.0.4
fastjsonschema 2.21.1 koło szybkiego tekstu 0.9.2 blokada plików 3.13.1
flash-attn 2.7.4.post1 Flask 2.2.5 flatbuffers 24.12.23
fonttools 4.51.0 Fqdn 1.5.1 zablokowana lista 1.4.0
fsspec 2023.5.0 przyszłość 0.18.3 Гаст 0.4.0
gitdb (baza danych Git) 4.0.11 GitPython 3.1.37 google-api-core 2.20.0
google-auth (autoryzacja Google) 2.21.0 google-auth-oauthlib (biblioteka uwierzytelniania OAuth dla Google) 1.2.1 google-cloud-core 2.4.1
Google Cloud Storage (usługa przechowywania danych w chmurze od Google) 2.10.0 google-crc32c (biblioteka do obsługi algorytmu crc32c od Google) 1.6.0 Google-pasta 0.2.0
Google Media z Możliwością Wznowienia 2.7.2 googleapis-common-protos 1.66.0 gql 3.5.0
graphql-core 3.2.4 zielona nitka 3.0.1 grpcio 1.60.0
grpcio-status 1.60.0 gunicorn 20.1.0 Gviz-API 1.10.0
sala gimnastyczna 0.28.1 h11 0.14.0 h5py 3.11.0
hjson 3.1.0 wakacje 0,54 htmlmin 0.1.12
httpcore 1.0.7 httplib2 0.20.4 httpx 0.28.1
Hugging Face Hub 0.29.0 IDNA 3.7 ImageHash 4.3.1
imageio 2.33.1 niezrównoważona nauka 0.12.3 importlib-metadata 6.0.0
importlib_resources 6.5.2 odchylić 7.3.1 ipyflow-core 0.0.201
ipykernel 6.28.0 ipython 8.25.0 ipython-genutils 0.2.0
ipywidgets 7.7.2 isodate 0.6.1 izoduracja 20.11.0
to jest niebezpieczne 2.2.0 jaraco.context 5.3.0 jaraco.functools 4.0.1
jaraco.text 3.12.1 jax-jumpy 1.0.0 Jedi 0.19.1
Jinja2 3.1.4 drżenie 0.8.2 jmespath 1.0.1
joblib 1.4.2 joblibspark 0.5.1 json5 0.9.6
jsonpatch 1.33 JsonPointer 3.0.0 jsonschema 4.19.2
Specyfikacje schematu JSON 2023.7.1 If the term needs to stay in English, it should remain "jupyter-events". If a translation is needed, it could potentially be "wydarzenia jupyter", depending on the context and recognition among the target audience. 0.10.0 jupyter-lsp 2.2.0
jupyter_client 8.6.0 jupyter_core 5.7.2 jupyter_server 2.14.1
jupyter_server_terminals (terminale serwera Jupyter) 0.4.4 jupyterlab 4.0.11 jupyterlab-pygments 0.1.2
jupyterlab_server 2.25.1 Keras 3.8.0 kiwisolver 1.4.4
langchain 0.3.19 langchain-core 0.3.30 langchain-text-splitters (narzędzie do dzielenia tekstu) 0.3.5
kody językowe 3.5.0 langsmith 0.1.133 dane_językowe 1.3.0
launchpadlib 1.11.0 lazr.restfulclient 0.14.6 lazr.uri 1.0.6
leniwy ładowacz 0,4 libclang 15.0.6.1 librosa 0.10.2
lightgbm 4.5.0 narzędzia błyskawiczne 0.11.9 linkify-it-py 2.0.0
llvmlite 0.42.0 lz4 4.3.2 Mako 1.2.0
marisa-trie 1.2.0 Markdown 3.4.1 markdown —it-py 2.2.0
MarkupSafe 2.1.3 matplotlib 3.8.4 matplotlib-inline 0.1.6
Mccabe 0.7.0 mdit-py-plugins 0.3.0 mdurl 0.1.0
memray 1.15.0 Mistune 2.0.4 ml-dtypes 0.4.1
mlflow-skinny 2.15.1 more-itertools 10.3.0 mosaicml-cli 0.6.41
mosaicml-streaming 0.11.0 mpmath 1.3.0 msal 1.31.1
msal-extensions 1.2.0 msgpack 1.1.0 multidict 6.0.4
wielometoda 1.12 wieloprocesowy 0.70.16 MurmurHash 1.0.12
mypy 1.10.0 mypy-extensions 1.0.0 namex 0.0.8
NBClient 0.8.0 nbconvert - narzędzie do konwersji plików Jupyter Notebook 7.10.0 nbformat 5.9.2
nest-asyncio 1.6.0 networkx 3.2.1 Ninja 1.11.1.1
Natural Language Toolkit (nltk) 3.8.1 nodeenv 1.9.1 notes 7.0.8
notebook_shim 0.2.3 numba 0.59.1 numpy 1.26.4
nvidia-cublas-cu12 12.4.5.8 nvidia-cuda-cupti-cu12 12.4.127 nvidia-cuda-nvrtc-cu12 12.4.127
środowisko uruchomieniowe NVIDIA CUDA cu12 12.4.127 nvidia-cudnn-cu12 9.1.0.70 nvidia-cufft-cu12 11.2.1.3
nvidia-curand-cu12 10.3.5.147 nvidia-cusolver-cu12 11.6.1.9 nvidia-cusparse-cu12 12.3.1.170
nvidia-nccl-cu12 2.21.5 nvidia-nvjitlink-cu12 12.4.127 nvidia-nvtx-cu12 12.4.127
oauthlib 3.2.0 Oci 2.142.0 openai 1.64.0
opencensus 0.11.4 opencensus-context 0.1.3 opentelemetry-api 1.29.0
opentelemetry-sdk 1.29.0 opentelemetry-semantic-conventions (standardowe konwencje semantyczne w OpenTelemetry) 0.50b0 opt_einsum 3.4.0
optree 0.14.0 optuna 3.6.1 integracja Optuna 3.6.0
orjson 3.10.14 Zastępuje 7.4.0 opakowanie 24.1
Pandas 1.5.3 pandocfilters 1.5.0 paramiko - biblioteka do protokołu SSH2 dla języka Python 3.4.0
parso 0.8.3 specyfikacja ścieżki 0.10.3 ofiara 0.5.6
pexpect 4.8.0 phik 0.12.4 poduszka 10.3.0
pip (menedżer pakietów Pythona) 24,2 platformdirs 3.10.0 kreślenie 5.22.0
wtyczkowy 1.0.0 pmdarima 2.0.4 kundel 1.8.2
portalocker 2.10.1 przeszhetowany 3.0.9 prometheus-client 0.14.1
zestaw narzędzi prompt 3.0.43 prorok 1.1.5 proto-plus 1.25.0
Protobuf (w skrócie od Protocol Buffers) 4.24.1 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 py-cpuinfo 9.0.0
py-spy 0.4.0 pyarrow 15.0.2 pyasn1 0.4.8
pyasn1-modules 0.2.8 pybind11 2.13.6 pyccolo 0.0.65
pycparser 2.21 pydantic (biblioteka Python do walidacji danych i zarządzania ustawieniami) 2.8.2 pydantic_core 2.20.1
pyflakes (narzędzie do analizy statycznej kodu Python) 3.2.0 Pygments 2.15.1 PyGObject 3.48.2
PyJWT 2.7.0 PyNaCl 1.5.0 pyodbc 5.0.1
pyOpenSSL 24.0.0 pyparsing – biblioteka do przetwarzania tekstu w Pythonie 3.0.9 pyright 1.1.294
pytesseract 0.3.10 python-dateutil (biblioteka Pythona do zarządzania datami) 2.9.0.post0 Pythonowy edytor 1.0.4
python-json-logger 2.0.7 python-lsp-jsonrpc 1.1.2 python-lsp-server 1.10.0
python-snappy 0.6.1 pytoolconfig 1.2.6 pytorch-ranger 0.1.1
pytz (biblioteka Pythona do obliczeń stref czasowych) 2024.1 PyWavelets 1.5.0 PyYAML 6.0.1
pyzmq 25.1.2 kwestionariusz 2.1.0 promień 2.37.0
odwoływanie się 0.30.2 wyrażenie regularne 2023.10.3 żądania 2.32.2
requests-oauthlib 1.3.1 requests-toolbelt (narzędzie wspomagające dla biblioteki requests w Pythonie) 1.0.0 rfc3339-validator 0.1.4
rfc3986-validator 0.1.1 bogaty 13.3.5 lina 1.12.0
rpds-py 0.10.6 rsa 4.9 ruamel.yaml 0.18.10
ruamel.yaml.clib 0.2.12 s3transfer 0.10.2 safetensors 0.4.4
scikit-image 0.23.2 scikit-learn 1.4.2 scipy (biblioteka naukowa dla Pythona) 1.13.1
urodzony na morzu 0.13.2 Send2Trash 1.8.2 transformatory zdań 3.4.1
element zdania 0.2.0 setuptools 74.0.0 kształt 0.46.0
shellingham 1.5.4 simplejson 3.17.6 sześć 1.16.0
fragmentator 0.0.8 inteligentne-otwarcie 5.2.1 smmap 5.0.0
Sniffio 1.3.0 Plik dźwiękowy 0.12.1 sitko do zupy 2.5
soxr 0.5.0.post1 przestronny 3.7.5 spacy-legacy 3.0.12
spacy-loggers 1.0.5 SQLAlchemy 2.0.30 sqlparse 0.4.2
serio 2.5.1 ssh-import-id (narzędzie do importowania kluczy SSH) 5.11 stos danych 0.2.0
cyna 0.5.1 statsmodels - biblioteka do modelowania statystycznego 0.14.2 sympy 1.13.1
sporządzać tabelę 0.9.0 splątane w Unicode 0.2.0 Wytrzymałość 8.2.2
TensorBoard 2.18.0 serwer danych TensorBoard 0.7.2 wtyczka TensorBoard do profilowania 2.18.0
tensorboardX 2.6.2.2 TensorFlow 2.18.0 tensorflow-estimator (moduł TensorFlow do estymacji) 2.15.0
termcolor (narzędzie do zarządzania kolorami w terminalu) 2.5.0 zakończony 0.17.1 Tekstowy 1.0.0
tf_keras 2.18.0 cienki 8.2.5 threadpoolctl 2.2.0
tifffile 2023.4.12 tiktoken 0.7.0 tinycss2 1.2.1
tokenize-rt 4.2.1 narzędzia tokenizacji 0.21.0 tomli 2.0.1
pochodnia 2.6.0+cu124 optymalizator latarki 0.3.0 torcheval 0.0.7
torchmetrics 1.6.0 torchvision 0.21.0+cu124 tornado 6.4.1
tqdm 4.66.4 traitlets 5.14.3 Transformersi 4.49.0
Triton 3.1.0 typeguard 4.4.1 pisarz 0.15.1
types-protobuf 3.20.3 types-psutil 5.9.0 types-pytz 2023.3.1.1
types-PyYAML 6.0.0 typy-żądań 2.31.0.0 types-setuptools 68.0.0.0
typy-sześć 1.16.0 types-urllib3 1.26.25.14 moduł typing_extensions 4.11.0
uc-micro-py 1.0.1 ujson (szybka biblioteka do obsługi formatu JSON) 5.10.0 nienadzorowane uaktualnienia 0.1
Szablon adresu URI 1.3.0 urllib3 1.26.16 moduły sprawdzania poprawności 0.34.0
virtualenv 20.26.2 Wizje 0.7.5 wadllib 1.3.6
wasabi 1.1.3 szerokość(wcwidth) 0.2.5 łasica 0.4.1
kolory sieci Web 24.11.1 kodowania webowe 0.5.1 websocket-klient 1.8.0
websockets 11.0.3 Narzędzie 3.0.3 czymjestłatka 1.0.2
wheel 0.43.0 wordcloud 1.9.4 zawinięty 1.14.1
xgboost 2.0.3 xgboost-ray 0.1.19 xxhash 3.4.1
yapf (Yet Another Python Formatter - Kolejny Formatator Pythona) 0.33.0 Yarl 1.9.3 ydata-profiling (profilowanie danych) 4.9.0
zamek błyskawiczny 3.17.0 zstd 1.5.5.1

Biblioteki języka R

Biblioteki języka R są identyczne z bibliotekami języka R w środowisku Databricks Runtime 16.3.

Biblioteki Java i Scala (klaster Scala 2.12)

Oprócz bibliotek Java i Scala w środowisku Databricks Runtime 16.3 środowisko Databricks Runtime 16.3 ML zawiera następujące jednostki JAR:

Klastry procesora CPU

Identyfikator grupy Identyfikator artefaktu wersja
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-spark_2.12 1.7.3
ml.dmlc xgboost4j_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.4-db1-spark3.5
org.mlflow mlflow-client 2.15.1
org.tensorflow spark-tensorflow-connector_2.12 1.15.0

Klastry procesora GPU

Identyfikator grupy Identyfikator artefaktu wersja
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-gpu_2.12 1.7.3
ml.dmlc xgboost4j-spark-gpu_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.4-db1-spark3.5
org.mlflow mlflow-client 2.15.1
org.tensorflow spark-tensorflow-connector_2.12 1.15.0
  • Last updated on