Databricks Runtime 13.3 LTS för Machine Learning

Databricks Runtime 13.3 LTS for Machine Learning tillhandahåller en färdig miljö för maskininlärning och datavetenskap baserat på Databricks Runtime 13.3 LTS. Databricks Runtime ML innehåller många populära maskininlärningsbibliotek, inklusive TensorFlow, PyTorch och XGBoost. Databricks Runtime ML innehåller AutoML, ett verktyg för att automatiskt träna maskininlärningspipelines. Databricks Runtime ML stöder även distribuerad djupinlärningsträning med Horovod.

Mer information, inklusive instruktioner för att skapa ett Databricks Runtime ML-kluster, finns i AI och Machine Learning på Databricks.

Nya funktioner och förbättringar

Databricks Runtime 13.3 LTS ML bygger på Databricks Runtime 13.3 LTS. Information om nyheter i Databricks Runtime 13.3 LTS, inklusive Apache Spark MLlib och SparkR, finns i viktig information om Databricks Runtime 13.3 LTS .

Ändringar i Databricks-funktionsarkivet

  • Databricks Runtime 13.3 LTS ML innehåller Feature Store-klienten v0.14.0. Med klientversion 0.14.0 och senare måste du ange tidsstämpelnyckelkolumner i primary_keys argumentet. Tidsstämpelnycklar är en del av de "primära nycklar" som unikt identifierar varje rad i funktionstabellen.
  • Nu kan du exkludera funktionsvärden med tidsstämplar före en angiven tid från träningsuppsättningen. Mer information finns i Ange en tidsgräns för historiska funktionsvärden.
  • Maskininlärningsfunktioner kan nu beräknas på begäran vid inferens. Funktionsberäkningslogik, modeller och data styrs alla av Unity Catalog. Detta gör det möjligt för modeller att beräkna funktioner med indata som endast är tillgängliga vid slutsatsdragning, till exempel en användares aktuella plats. Mer information finns i Beräkningsfunktioner på begäran med hjälp av användardefinierade Python-funktioner.

Systemmiljö

Systemmiljön i Databricks Runtime 13.3 LTS ML skiljer sig från Databricks Runtime 13.3 LTS enligt följande:

Databricks Runtime 13.3 LTS ML innehåller XGBoost 1.7.3, som inte stöder GPU-kluster med beräkningskapacitet 5.2 och lägre.

Miniconda-paketet har tagits bort från Databricks Runtime 13.0 ML och senare.

Bibliotek

I följande avsnitt visas de bibliotek som ingår i Databricks Runtime 13.3 LTS ML som skiljer sig från de som ingår i Databricks Runtime 13.3 LTS.

I detta avsnitt:

Bibliotek på den översta nivån

Databricks Runtime 13.3 LTS ML innehåller följande bibliotek på den översta nivån:

Python-bibliotek

Databricks Runtime 13.3 LTS ML använder Virtualenv för Python-pakethantering och innehåller många populära ML-paket.

Förutom de paket som anges i följande avsnitt innehåller Även Databricks Runtime 13.3 LTS ML följande paket:

  • hyperopt 0.2.7+db3
  • sparkdl 3.0.0_db1
  • automl 1.20.0

Om du vill återskapa Databricks Runtime ML Python-miljön i din lokala virtuella Python-miljö laddar du ned filen requirements-13.3.txt och kör pip install -r requirements-13.3.txt. Det här kommandot installerar alla öppen källkod bibliotek som Databricks Runtime ML använder, men installerar inte bibliotek som utvecklats av Databricks, till exempel databricks-automl, databricks-feature-storeeller Databricks-förgreningen för hyperopt.

Python-bibliotek i CPU-kluster

Bibliotek Version Bibliotek Version Bibliotek Version
absl-py 1.0.0 Påskynda 0.20.3 aiohttp 3.8.5
aiosignal 1.3.1 anyio 3.5.0 appdirs 1.4.4
argon2-cffi 21.3.0 argon2-cffi-bindningar 21.2.0 Astor 0.8.1
asttokens 2.2.1 astunparse 1.6.3 async-timeout 4.0.2
attrs 21.4.0 audioread 3.0.0 azure-core 1.28.0
azure-cosmos 4.3.1 azure-storage-blob 12.17.0 azure-storage-file-datalake 12.12.0
backcall 0.2.0 Bcrypt 3.2.0 beautifulsoup4 4.11.1
svart 22.6.0 Blekmedel 4.1.0 blinker 1.4
blis 0.7.10 boto3 1.24.28 botocore 1.27.28
cachetools 4.2.4 Katalog 2.0.9 kategorikodare 2.6.1
Certifi 2022.9.14 Cffi 1.15.1 Chardet 4.0.0
charset-normalizer 2.0.4 klicka 8.0.4 cloudpickle 2.0.0
cmdstanpy 1.1.0 Konfekt 0.1.0 configparser 5.2.0
konvertera 2.4.0 Kryptografi 37.0.1 Apparat 0.11.0
cymem 2.0.7 Cython 0.29.32 dacite 1.8.1
databricks-automl-runtime 0.2.17 databricks-cli 0.17.7 databricks-feature-store 0.14.0
databricks-sdk 0.1.6 dataclasses-json 0.5.13 datauppsättningar 2.13.1
dbl-tempo 0.1.23 dbus-python 1.2.18 felsökning 1.6.0
Dekoratör 5.1.1 defusedxml 0.7.1 Dill 0.3.4
diskcache 5.6.1 distlib 0.3.7 docstring-to-markdown 0,12
entrypoints 0,4 efem 4.1.4 evaluate (utvärdera) 0.4.0
Verkställande 1.2.0 facets-overview 1.0.3 fastapi 0.98.0
fastjsonschema 2.18.0 snabbtext 0.9.2 filelock 3.6.0
Flask 1.1.2+db1 flatbuffers 23.5.26 Fonttools 4.25.0
frozenlist 1.4.0 fsspec 2022.7.1 Framtiden 0.18.2
Gast 0.4.0 gitdb 4.0.10 GitPython 3.1.27
google-api-core 2.8.2 google-auth 1.33.0 google-auth-oauthlib 0.4.6
google-cloud-core 2.3.3 google-cloud-storage 2.10.0 google-crc32c 1.5.0
google-pasta 0.2.0 google-resumable-media 2.5.0 googleapis-common-protos 1.56.4
greenlet 1.1.1 grpcio 1.48.1 grpcio-status 1.48.1
gunicorn 20.1.0 gviz-api 1.10.0 h11 0.14.0
h5py 3.7.0 Semester 0.27.1 horovod 0.28.1
htmlmin 0.1.12 httplib2 0.20.2 httptools 0.6.0
huggingface-hub 0.16.4 idna 3.3 ImageHash 4.3.1
obalanserad inlärning 0.10.1 importlib-metadata 4.11.3 importlib-resources 6.0.0
ipykernel 6.17.1 Ipython 8.10.0 ipython-genutils 0.2.0
ipywidgets 7.7.2 isodate 0.6.1 itsdangerous 2.0.1
Jedi 0.18.1 Jeepney 0.7.1 Jinja2 2.11.3
jmespath 0.10.0 joblib 1.2.0 joblibspark 0.5.1
jsonschema 4.16.0 jupyter-client 7.3.4 jupyter_core 4.11.2
jupyterlab-pygments 0.1.2 jupyterlab-widgets 1.0.0 keras 2.11.0
Keyring 23.5.0 kiwisolver 1.4.2 langchain 0.0.217
langchainplus-sdk 0.0.20 langcodes 3.3.0 Launchpadlib 1.10.16
Lazr.restfulclient 0.14.4 Lazr.uri 1.0.6 lazy_loader 0,3
libclang 15.0.6.1 librosa 0.10.0 lightgbm 3.3.5
llvmlite 0.38.0 LunarCalendar 0.0.9 Mako 1.2.0
Markdown 3.3.4 Markering Valv 2.0.1 Marshmallow 3.20.1
matplotlib 3.5.2 matplotlib-inline 0.1.6 Mccabe 0.7.0
mistune 0.8.4 mleap 0.20.0 mlflow-skinny 2.5.0
more-itertools 8.10.0 msgpack 1.0.5 multidict 6.0.4
multimethod 1.9.1 multiprocess 0.70.12.2 murmurhash 1.0.9
mypy-extensions 0.4.3 nbclient 0.5.13 nbconvert 6.4.4
nbformat 5.5.0 nest-asyncio 1.5.5 Networkx 2.8.4
Ninja 1.11.1 nltk 3.7 nodeenv 1.8.0
notebook-fil 6.4.12 numba 0.55.1 numexpr 2.8.4
Numpy 1.21.5 oauthlib 3.2.0 openai 0.27.8
openapi-schema-pydantic 1.2.4 opt-einsum 3.3.0 Förpackning 21,3
Pandas 1.4.4 pandocfilter 1.5.0 Paramiko 2.9.2
parso 0.8.3 pathspec 0.9.0 Pati 0.10.2
Patsy 0.5.2 petastorm 0.12.1 Pexpect 4.8.0
phik 0.12.3 pickleshare 0.7.5 Kudde 9.2.0
Pip 22.2.2 platformdirs 2.5.2 plotly 5.9.0
pluggy 1.0.0 pmdarima 2.0.3 Pooch 1.7.0
fördefinierad 3.0.8 prometheus-client 0.14.1 prompt-toolkit 3.0.36
Profeten 1.1.4 protobuf 3.19.4 Psutil 5.9.0
psycopg2 2.9.3 ptyprocess 0.7.0 pure-eval 0.2.2
pyarrow 8.0.0 pyasn1 0.4.8 pyasn1-modules 0.2.8
pybind11 2.11.1 pycparser 2.21 pydantisk 1.10.6
Pyflakes 3.0.1 Pygments 2.11.2 Pygobject 3.42.1
PyJWT 2.3.0 PyMeeus 0.5.12 PyNaCl 1.5.0
pyodbc 4.0.32 Pyparsing 3.0.9 pyright 1.1.294
pyrsistent 0.18.0 pytesseract 0.3.10 python-dateutil 2.8.2
python-dotenv 1.0.0 python-editor 1.0.4 python-lsp-jsonrpc 1.0.0
python-lsp-server 1.7.1 pytoolconfig 1.2.2 pytz 2022.1
PyWavelets 1.3.0 PyYAML 6,0 pyzmq 23.2.0
Regex 2022.7.9 begäranden 2.28.1 requests-oauthlib 1.3.1
Svaren 0.18.0 Rep 1.7.0 Rsa 4,9
s3transfer 0.6.0 safetensors 0.3.1 scikit-learn 1.1.1
Scipy 1.9.1 seaborn 0.11.2 SecretStorage 3.3.1
Send2Trash 1.8.0 meningstransformatorer 2.2.2 meningsstycke 0.1.99
Setuptools 63.4.1 Shap 0.41.0 Simplejson 3.17.6
Sex 1.16.0 Slicer 0.0.7 smart-open 5.2.1
smmap 5.0.0 sniffio 1.2.0 soundfile 0.12.1
soupsieve 2.3.1 soxr 0.3.5 spacy 3.5.3
spacy-legacy 3.0.12 spacy-loggers 1.0.4 spark-tensorflow-distributor 1.0.0
Sqlalchemy 1.4.39 sqlparse 0.4.2 srsly 2.4.7
ssh-import-id 5,11 stack-data 0.6.2 starlette 0.27.0
statsmodels 0.13.2 Tabellform 0.8.10 trasslig upp-i-unicode 0.2.0
Uthållighet 8.1.0 tensorboard 2.11.0 tensorboard-data-server 0.6.1
tensorboard-plugin-profile 2.11.2 tensorboard-plugin-wit 1.8.1 tensorflow-cpu 2.11.1
tensorflow-estimator 2.11.0 tensorflow-io-gcs-filesystem 0.32.0 termcolor 2.3.0
terminado 0.13.1 testpath 0.6.0 thinc 8.1.10
threadpoolctl 2.2.0 tiktoken 0.4.0 tokenize-rt 4.2.1
tokenizers 0.13.3 tomli 2.0.1 Fackla 1.13.1+cpu
torchvision 0.14.1+cpu Tornado 6.1 tqdm 4.64.1
traitlets 5.1.1 Transformatorer 4.30.2 typeguard 2.13.3
typer 0.7.0 skriva-inspektera 0.9.0 typing_extensions 4.3.0
ujson 5.4.0 obevakade uppgraderingar 0,1 urllib3 1.26.11
uvicorn 0.23.1 uvloop 0.17.0 Virtualenv 20.16.3
Visioner 0.7.5 Wadllib 1.3.6 Wasabi 1.1.2
watchfiles 0.19.0 wcwidth 0.2.5 webencodings 0.5.1
websocket-client 0.58.0 websockets 11.0.3 Werkzeug 2.0.3
whatthepatch 1.0.2 Hjul 0.37.1 widgetsnbextension 3.6.1
wordcloud 1.9.2 wrapt 1.14.1 xgboost 1.7.6
xxhash 3.2.0 yapf 0.31.0 Yarl 1.9.2
ydata-profilering 4.2.0 Zipp 3.8.0

Python-bibliotek i GPU-kluster

Bibliotek Version Bibliotek Version Bibliotek Version
absl-py 1.0.0 Påskynda 0.20.3 aiohttp 3.8.5
aiosignal 1.3.1 anyio 3.5.0 appdirs 1.4.4
argon2-cffi 21.3.0 argon2-cffi-bindningar 21.2.0 Astor 0.8.1
asttokens 2.2.1 astunparse 1.6.3 async-timeout 4.0.2
attrs 21.4.0 audioread 3.0.0 azure-core 1.28.0
azure-cosmos 4.3.1 azure-storage-blob 12.17.0 azure-storage-file-datalake 12.12.0
backcall 0.2.0 Bcrypt 3.2.0 beautifulsoup4 4.11.1
svart 22.6.0 Blekmedel 4.1.0 blinker 1.4
blis 0.7.10 boto3 1.24.28 botocore 1.27.28
cachetools 4.2.4 Katalog 2.0.9 kategorikodare 2.6.1
Certifi 2022.9.14 Cffi 1.15.1 Chardet 4.0.0
charset-normalizer 2.0.4 klicka 8.0.4 cloudpickle 2.0.0
cmdstanpy 1.1.0 Konfekt 0.1.0 configparser 5.2.0
konvertera 2.4.0 Kryptografi 37.0.1 Apparat 0.11.0
cymem 2.0.7 Cython 0.29.32 dacite 1.8.1
databricks-automl-runtime 0.2.17 databricks-cli 0.17.7 databricks-feature-store 0.14.0
databricks-sdk 0.1.6 dataclasses-json 0.5.13 datauppsättningar 2.13.1
dbl-tempo 0.1.23 dbus-python 1.2.18 felsökning 1.6.0
Dekoratör 5.1.1 defusedxml 0.7.1 Dill 0.3.4
diskcache 5.6.1 distlib 0.3.7 docstring-to-markdown 0,12
einops 0.6.1 entrypoints 0,4 efem 4.1.4
evaluate (utvärdera) 0.4.0 Verkställande 1.2.0 facets-overview 1.0.3
fastapi 0.98.0 fastjsonschema 2.18.0 snabbtext 0.9.2
filelock 3.6.0 flash-attn 1.0.7 Flask 1.1.2+db1
flatbuffers 23.5.26 Fonttools 4.25.0 frozenlist 1.4.0
fsspec 2022.7.1 Framtiden 0.18.2 Gast 0.4.0
gitdb 4.0.10 GitPython 3.1.27 google-api-core 2.8.2
google-auth 1.33.0 google-auth-oauthlib 0.4.6 google-cloud-core 2.3.3
google-cloud-storage 2.10.0 google-crc32c 1.5.0 google-pasta 0.2.0
google-resumable-media 2.5.0 googleapis-common-protos 1.56.4 greenlet 1.1.1
grpcio 1.48.1 grpcio-status 1.48.1 gunicorn 20.1.0
gviz-api 1.10.0 h11 0.14.0 h5py 3.7.0
Semester 0.27.1 horovod 0.28.1 htmlmin 0.1.12
httplib2 0.20.2 httptools 0.6.0 huggingface-hub 0.16.4
idna 3.3 ImageHash 4.3.1 obalanserad inlärning 0.10.1
importlib-metadata 4.11.3 importlib-resources 6.0.0 ipykernel 6.17.1
Ipython 8.10.0 ipython-genutils 0.2.0 ipywidgets 7.7.2
isodate 0.6.1 itsdangerous 2.0.1 Jedi 0.18.1
Jeepney 0.7.1 Jinja2 2.11.3 jmespath 0.10.0
joblib 1.2.0 joblibspark 0.5.1 jsonschema 4.16.0
jupyter-client 7.3.4 jupyter_core 4.11.2 jupyterlab-pygments 0.1.2
jupyterlab-widgets 1.0.0 keras 2.11.0 Keyring 23.5.0
kiwisolver 1.4.2 langchain 0.0.217 langchainplus-sdk 0.0.20
langcodes 3.3.0 Launchpadlib 1.10.16 Lazr.restfulclient 0.14.4
Lazr.uri 1.0.6 lazy_loader 0,3 libclang 15.0.6.1
librosa 0.10.0 lightgbm 3.3.5 llvmlite 0.38.0
LunarCalendar 0.0.9 Mako 1.2.0 Markdown 3.3.4
Markering Valv 2.0.1 Marshmallow 3.20.1 matplotlib 3.5.2
matplotlib-inline 0.1.6 Mccabe 0.7.0 mistune 0.8.4
mleap 0.20.0 mlflow-skinny 2.5.0 more-itertools 8.10.0
msgpack 1.0.5 multidict 6.0.4 multimethod 1.9.1
multiprocess 0.70.12.2 murmurhash 1.0.9 mypy-extensions 0.4.3
nbclient 0.5.13 nbconvert 6.4.4 nbformat 5.5.0
nest-asyncio 1.5.5 Networkx 2.8.4 Ninja 1.11.1
nltk 3.7 nodeenv 1.8.0 notebook-fil 6.4.12
numba 0.55.1 numexpr 2.8.4 Numpy 1.21.5
oauthlib 3.2.0 openai 0.27.8 openapi-schema-pydantic 1.2.4
opt-einsum 3.3.0 Förpackning 21,3 Pandas 1.4.4
pandocfilter 1.5.0 Paramiko 2.9.2 parso 0.8.3
pathspec 0.9.0 Pati 0.10.2 Patsy 0.5.2
petastorm 0.12.1 Pexpect 4.8.0 phik 0.12.3
pickleshare 0.7.5 Kudde 9.2.0 Pip 22.2.2
platformdirs 2.5.2 plotly 5.9.0 pluggy 1.0.0
pmdarima 2.0.3 Pooch 1.7.0 fördefinierad 3.0.8
prompt-toolkit 3.0.36 Profeten 1.1.4 protobuf 3.19.4
Psutil 5.9.0 psycopg2 2.9.3 ptyprocess 0.7.0
pure-eval 0.2.2 pyarrow 8.0.0 pyasn1 0.4.8
pyasn1-modules 0.2.8 pybind11 2.11.1 pycparser 2.21
pydantisk 1.10.6 Pyflakes 3.0.1 Pygments 2.11.2
Pygobject 3.42.1 PyJWT 2.3.0 PyMeeus 0.5.12
PyNaCl 1.5.0 pyodbc 4.0.32 Pyparsing 3.0.9
pyright 1.1.294 pyrsistent 0.18.0 pytesseract 0.3.10
python-dateutil 2.8.2 python-dotenv 1.0.0 python-editor 1.0.4
python-lsp-jsonrpc 1.0.0 python-lsp-server 1.7.1 pytoolconfig 1.2.2
pytz 2022.1 PyWavelets 1.3.0 PyYAML 6,0
pyzmq 23.2.0 Regex 2022.7.9 begäranden 2.28.1
requests-oauthlib 1.3.1 Svaren 0.18.0 Rep 1.7.0
Rsa 4,9 s3transfer 0.6.0 safetensors 0.3.1
scikit-learn 1.1.1 Scipy 1.9.1 seaborn 0.11.2
SecretStorage 3.3.1 Send2Trash 1.8.0 meningstransformatorer 2.2.2
meningsstycke 0.1.99 Setuptools 63.4.1 Shap 0.41.0
Simplejson 3.17.6 Sex 1.16.0 Slicer 0.0.7
smart-open 5.2.1 smmap 5.0.0 sniffio 1.2.0
soundfile 0.12.1 soupsieve 2.3.1 soxr 0.3.5
spacy 3.5.3 spacy-legacy 3.0.12 spacy-loggers 1.0.4
spark-tensorflow-distributor 1.0.0 Sqlalchemy 1.4.39 sqlparse 0.4.2
srsly 2.4.7 ssh-import-id 5,11 stack-data 0.6.2
starlette 0.27.0 statsmodels 0.13.2 Tabellform 0.8.10
trasslig upp-i-unicode 0.2.0 Uthållighet 8.1.0 tensorboard 2.11.0
tensorboard-data-server 0.6.1 tensorboard-plugin-profile 2.11.2 tensorboard-plugin-wit 1.8.1
tensorflow 2.11.1 tensorflow-estimator 2.11.0 tensorflow-io-gcs-filesystem 0.32.0
termcolor 2.3.0 terminado 0.13.1 testpath 0.6.0
thinc 8.1.10 threadpoolctl 2.2.0 tiktoken 0.4.0
tokenize-rt 4.2.1 tokenizers 0.13.3 tomli 2.0.1
Fackla 1.13.1+cu117 torchvision 0.14.1+cu117 Tornado 6.1
tqdm 4.64.1 traitlets 5.1.1 Transformatorer 4.30.2
typeguard 2.13.3 typer 0.7.0 skriva-inspektera 0.9.0
typing_extensions 4.3.0 ujson 5.4.0 obevakade uppgraderingar 0,1
urllib3 1.26.11 uvicorn 0.23.1 uvloop 0.17.0
Virtualenv 20.16.3 Visioner 0.7.5 Wadllib 1.3.6
Wasabi 1.1.2 watchfiles 0.19.0 wcwidth 0.2.5
webencodings 0.5.1 websocket-client 0.58.0 websockets 11.0.3
Werkzeug 2.0.3 whatthepatch 1.0.2 Hjul 0.37.1
widgetsnbextension 3.6.1 wordcloud 1.9.2 wrapt 1.14.1
xgboost 1.7.6 xxhash 3.2.0 yapf 0.31.0
Yarl 1.9.2 ydata-profilering 4.2.0 Zipp 3.8.0

R-bibliotek

R-biblioteken är identiska med R-biblioteken i Databricks Runtime 13.3 LTS.

Java- och Scala-bibliotek (Scala 2.12-kluster)

Förutom Java- och Scala-bibliotek i Databricks Runtime 13.3 LTS innehåller Databricks Runtime 13.3 LTS ML följande JAR:er:

CPU-kluster

Grupp-ID Artefakt-ID Version
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-spark_2.12 1.7.3
ml.dmlc xgboost4j_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.2-db2-spark3.4
org.mlflow mlflow-client 2.5.0
org.scala-lang.modules scala-java8-compat_2.12 0.8.0
org.tensorflow spark-tensorflow-connector_2.12 1.15.0

GPU-kluster

Grupp-ID Artefakt-ID Version
com.typesafe.akka akka-actor_2.12 2.5.23
ml.dmlc xgboost4j-gpu_2.12 1.7.3
ml.dmlc xgboost4j-spark-gpu_2.12 1.7.3
org.graphframes graphframes_2.12 0.8.2-db2-spark3.4
org.mlflow mlflow-client 2.5.0
org.scala-lang.modules scala-java8-compat_2.12 0.8.0
org.tensorflow spark-tensorflow-connector_2.12 1.15.0