Sdílet prostřednictvím


Bezserverové prostředí GPU verze 3 (beta verze)

Důležité

Výpočetní prostředí GPU bez serveru v Databricks je v beta verzi. Během beta verze se může změnit obsah podporovaných prostředí, včetně seznamu balíčků nebo verzí nainstalovaných balíčků.

Tento článek popisuje informace o systémovém prostředí pro bezserverové prostředí GPU verze 3.

Aby se zajistila kompatibilita pro aplikaci, používají bezserverové úlohy GPU verzi rozhraní API označované jako verze prostředí, které zůstává kompatibilní s novějšími verzemi serveru.

V bočním panelu Prostředí můžete ve vašich bezserverových noteboocích vybrat verzi prostředí. Viz Nastavení výpočetních prostředků GPU bez serveru.

Nové funkce a vylepšení

Bezserverové prostředí GPU 3 je postavené na bezserverovém prostředí 3 (CPU). Podívejte se, co je nového v bezserverovém prostředí 3 (cpu).

Známé problémy

Upozornění knihovny zařazování vláken při importu transformátorů

Při importu transformers knihovny se může zobrazit následující chybová zpráva. Jedná se o známý problém s threadpoolctl knihovnou v bezserverovém prostředí GPU 3.

Exception ignored on calling ctypes callback function: <function _ThreadpoolInfo._find_modules_with_dl_iterate_phdr.<locals>.match_module_callback at 0x7fe29c7da8e0>
Traceback (most recent call last):
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 400, in match_module_callback
    self._make_module_from_path(filepath)
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 515, in _make_module_from_path
    module = module_class(filepath, prefix, user_api, internal_api)
             ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 606, in __init__
    self.version = self.get_version()
                   ^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 646, in get_version
    config = get_config().split()
             ^^^^^^^^^^^^^^^^^^
AttributeError: 'NoneType' object has no attribute 'split'

Pokud chcete tento problém vyřešit, upgradujte na bezserverové prostředí GPU 4 nebo upgradujte knihovnu threadpoolctl :

pip install threadpoolctl==3.1.0

Systémové prostředí

  • Operační systém: Ubuntu 24.04.2 LTS
  • Python: 3.12.3
  • Databricks Connect: 16.4.2
  • NVIDIA CUDA Toolkit: 12.4

Nainstalované knihovny Pythonu

Kromě toho, co je součástí bezserverového prostředí 3 (CPU) zahrnuje bezserverové prostředí GPU 3 následující:

  • torch 2.6.0
  • torchvision 0.21.0

Pokud chcete reprodukovat bezserverové prostředí GPU 3 v místním virtuálním prostředí Pythonu, stáhněte requirements-env-gpu-3.txt soubor a spusťte pip install -r requirements-env-gpu-3.txt. Tento příkaz nainstaluje všechny opensourcové knihovny z bezserverového prostředí GPU 3.

Knihovna Version Knihovna Version Knihovna Version
anotované typy 0.7.0 anyio 4.2.0 asttokens 2.0.5
astunparse 1.6.3 Azure Core 1.33.0 azure-storage-blob (služba pro ukládání dat na platformě Azure) 12.23.0
Služba "Azure Storage File Data Lake" 12.17.0 černý 24.4.2 blikač 1.7.0
boto3 1.34.69 botocore 1.34.69 nástroje pro ukládání do mezipaměti 5.3.3
certifikát 2024.6.2 cffi 1.16.0 chardet 4.0.0
nástroj pro normalizaci znakové sady 2.0.4 klikni 8.1.7 cloudpickle 3.0.0
Komunikace 0.2.1 ContourPy 1.2.0 kryptografie 42.0.5
cyklista 0.11.0 Cython 3.0.11 databricks-connect 16.4.4
Databricks SDK 0.49.0 databricks.serverless_gpu 0.5.3 dbus-python 1.3.2
debugpy 1.6.7 dekoratér 5.1.1 Deprecated 1.2.18
kopr 0.3.8 distlib 0.3.8 provedení 0.8.3
přehled aspektů 1.1.1 fastapi 0.115.12 zamykání souborů 3.13.1
nástroje pro písma 4.51.0 fsspec 2024.3.1 budoucnost 1.0.0
gitdb 4.0.11 GitPython 3.1.37 google-api-core 2.20.0
google-auth (autentizace) 2.38.0 google-cloud-core 2.4.3 Úložiště Google Cloud 3.1.0
google-crc32c 1.7.1 google-resumable-media (pro snadné stahování/ukládání mediálních dat) 2.7.2 googleapis-common-protos 1.69.2
grpcio 1.71.0 grpcio-status 1.71.0 h11 0.14.0
httplib2 0.20.4 IDNA 3.7 importlib-metadata 7.0.1
iniconfig 1.1.1 ipyflow-core je jádrová komponenta systému ipyflow 0.0.206 ipykernel 6.29.5
ipython 8.32.0 ipython-genutils 0.2.0 ipywidgets 7.7.2
isodate 0.7.2 Jedi 0.19.1 Jinja2 3.1.4
jmespath 1.0.1 joblib 1.4.2 klient Jupyter 8.6.0
jupyter_core 5.7.2 kiwisolver 1.4.4 launchpadlib 1.11.0
lazr.restfulclient 0.14.6 lazr.uri 1.0.6 MarkupSafe 2.1.3
matplotlib 3.8.4 matplotlib-inline 0.1.6 mlflow-skinny 2.21.3
mpmath 1.3.0 mypy-extensions 1.0.0 nest-asyncio 1.6.0
NetworkX 3.2.1 numpy (knihovna pro numerické výpočty v Pythonu) 1.26.4 nvidia-cublas-cu12 12.4.5.8
nvidia-cuda-cupti-cu12 12.4.127 nvidia-cuda-nvrtc-cu12 12.4.127 nvidia-cuda-runtime-cu12 12.4.127
nvidia-cudnn-cu12 9.1.0.70 nvidia-cufft-cu12 11.2.1.3 nvidia-curand-cu12 10.3.5.147
nvidia-cusolver-cu12 11.6.1.9 nvidia-cusparse-cu12 12.3.1.170 nvidia-cusparselt-cu12 0.6.2
nvidia-nccl-cu12 2.21.5 nvidia-nvjitlink-cu12 12.4.127 nvidia-nvtx-cu12 12.4.127
oauthlib 3.2.2 opentelemetry-api 1.31.1 opentelemetry-sdk 1.31.1
opentelemetry-sémantické-konvence 0.52b1 balení 24.1 pandas 1.5.3
parambench-train-comms 0.0.0 Parso 0.8.3 specifikace cesty 0.10.3
bábovka 0.5.6 pexpect 4.8.0 polštář 10.3.0
pip 25.0.1 platformdirs 3.10.0 plotly 5.22.0
Pluggy (nástroj pro správu pluginů v Pythonu) 1.5.0 nástroj "prompt-toolkit" 3.0.43 proto-plus 1.26.1
protobuf 5.29.4 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 py4j 0.10.9.9
pyarrow 15.0.2 pyarrow-hotfix 0.6 pyasn1 0.4.8
pyasn1-modules 0.2.8 pyccolo 0.0.68 pycparser 2.21
Pydantic (Python knihovna pro validaci a nastavení dat) 2.8.2 pydantic_core 2.20.1 pydot 3.0.4
Pygments 2.15.1 PyGObject 3.48.2 PyJWT 2.7.0
pyodbc 5.0.1 pyparsing 3.0.9 pyspark 3.5.2+databricks.connect.16.4.2
pytest 8.3.0 python-dateutil 2.9.0.post0 python-lsp-jsonrpc 1.1.2
knihovna pytz pro zpracování časových zón v Pythonu 2024.1 PyYAML 6.0.1 pyzmq 25.1.2
requests 2.32.2 Rsa 4,9 s3transfer 0.10.4
scikit-learn 1.4.2 SciPy 1.13.1 narozený v moři 0.13.2
setuptools (nástroj pro vytváření a distribuci Python projektů) 69.5.1 šest 1.16.0 smmap 5.0.0
sniffio 1.3.0 sqlparse 0.5.3 ssh-import-id 5.11
datová hromádka 0.2.0 hvězdička 0.46.1 statsmodels 0.14.2
sympy 1.13.1 houževnatost 8.2.2 threadpoolctl 2.2.0
tokenize-rt 4.2.1 pochodeň 2.6.0+cu124 torchvision 0.21.0+cu124
tornádo 6.4.1 drobné vlastnosti 5.14.3 Tritón 3.2.0
rozšíření_typingu 4.12.1 tzdata 2024.1 ujson 5.10.0
bezobslužné aktualizace 0,1 urllib3 2.2.2 uvicorn 0.34.0
virtualenv 20.29.2 wadllib 1.3.6 wcwidth (šířka znaků) 0.2.5
wheel 0.45.1 zabalený 1.14.1 zipový uzávěr 3.17.0
zstandard 0.23.0