Aracılığıyla paylaş


Sunucusuz GPU ortamı sürüm 3 (beta)

Önemli

Databricks'teki sunucusuz GPU işlemi Beta sürümündedir. Beta sırasında, paket listesi veya yüklü paketlerin sürümleri de dahil olmak üzere desteklenen ortamların içeriği değişebilir.

Bu makalede Sunucusuz GPU ortamı sürüm 3 için sistem ortamı bilgileri özetlenmiştir.

Uygulamanın uyumluluğunu sağlamak için Sunucusuz GPU iş yükleri, daha yeni sunucu sürümleriyle uyumlu kalan ortam sürümü olarak bilinen bir sürüme sahip API kullanır.

Sunucusuz not defterlerinizdeki Ortam yan panelini kullanarak ortam sürümünü seçebilirsiniz. Bkz. Sunucusuz GPU işlem ayarlama.

Yeni özellikler ve geliştirmeler

Sunucusuz GPU ortamı 3, sunucusuz ortam 3 'ün (CPU) üzerine kurulmuştur. Sunucusuz ortam 3 (CPU) ile sunulan yeniliklere bakın.

Bilinen sorunlar

Transformatörleri içeri aktarırken threadpoolctl kitaplığı uyarısı

Kitaplığı içeri aktarırken transformers aşağıdaki hata iletisini görebilirsiniz. Bu, Sunucusuz GPU ortamı 3'teki kitaplıkla threadpoolctl ilgili bilinen bir sorundur.

Exception ignored on calling ctypes callback function: <function _ThreadpoolInfo._find_modules_with_dl_iterate_phdr.<locals>.match_module_callback at 0x7fe29c7da8e0>
Traceback (most recent call last):
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 400, in match_module_callback
    self._make_module_from_path(filepath)
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 515, in _make_module_from_path
    module = module_class(filepath, prefix, user_api, internal_api)
             ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 606, in __init__
    self.version = self.get_version()
                   ^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 646, in get_version
    config = get_config().split()
             ^^^^^^^^^^^^^^^^^^
AttributeError: 'NoneType' object has no attribute 'split'

Bu sorunu çözmek için sunucusuz GPU ortamı 4'e yükseltin veya kitaplığı yükseltin threadpoolctl :

pip install threadpoolctl==3.1.0

Sistem ortamı

  • İşletim Sistemi: Ubuntu 24.04.2 LTS
  • Python: 3.12.3
  • Databricks Connect: 16.4.2
  • NVIDIA CUDA Araç Seti: 12.4

Yüklü Python kitaplıkları

Sunucusuz ortam 3'te (CPU) bulunanlara ek olarak, sunucusuz GPU ortamı 3 şunları içerir:

  • torch 2.6.0
  • torchvision 0.21.0

Sunucusuz GPU ortamı 3'i yerel Python sanal ortamınızda yeniden oluşturmak için requirements-env-gpu-3.txt dosyasını indirin ve çalıştırın pip install -r requirements-env-gpu-3.txt. Bu komut sunucusuz GPU ortamı 3'ten tüm açık kaynak kitaplıklarını yükler.

Kütüphane Sürüm Kütüphane Sürüm Kütüphane Sürüm
anotasyonlu türler 0.7.0 anyio 4.2.0 ast jetonları 2.0.5
astunparse 1.6.3 azure-core 1.33.0 Azure depolama bloğu 12.23.0
Azure Storage File Data Lake 12.17.0 siyah 24.4.2 sinyal lambası 1.7.0
boto3 1.34.69 botocore 1.34.69 önbellek araçları 5.3.3
sertifika 2024.6.2 cffi 1.16.0 chardet 4.0.0
karakter seti normalleştirici 2.0.4 tıkla 8.1.7 cloudpickle (bulut serileştirme modülü) 3.0.0
İletişim 0.2.1 ContourPy 1.2.0 şifreleme 42.0.5
bisikletçi 0.11.0 Cython 3.0.11 databricks-connect 16.4.4
databricks yazılım geliştirme kiti (SDK) 0.49.0 databricks.serverless_gpu 0.5.3 dbus-python 1.3.2
debugpy 1.6.7 dekoratör 5.1.1 Deprecated 1.2.18
dereotu 0.3.8 distlib 0.3.8 Uygulamak 0.8.3
fasetler-genel bakış 1.1.1 fastapi 0.115.12 dosya kilidi 3.13.1
font araçları 4.51.0 fsspec 2024.3.1 gelecek 1.0.0
gitdb (Git veritabanı) 4.0.11 GitPython 3.1.37 google-api-core (Google API çekirdek kütüphanesi) 2.20.0
google-auth (kimlik doğrulama) 2.38.0 google-cloud-core 2.4.3 Google Cloud Storage (Google Bulut Depolama) 3.1.0
google-crc32c 1.7.1 Google Devam Ettirilebilir Medya 2.7.2 googleapis-common-protos kütüphaneleri 1.69.2
grpcio 1.71.0 grpcio-status 1.71.0 h11 0.14.0
httplib2 0.20.4 Uluslararası Alan Adları Uygulaması (IDNA) 3.7 importlib-metadata 7.0.1
iniconfig 1.1.1 ipyflow-core 0.0.206 ipykernel 6.29.5
ipython 8.32.0 ipython-genutils 0.2.0 ipywidgets 7.7.2
isodate 0.7.2 Jedi 0.19.1 Jinja2 3.1.4
jmespath 1.0.1 joblib kütüphanesi 1.4.2 Jupyter istemcisi 8.6.0
jupyter_core 5.7.2 kiwisolver 1.4.4 launchpadlib 1.11.0
lazr.restfulclient 0.14.6 lazr.uri 1.0.6 MarkupSafe 2.1.3
matplotlib (Python için popüler bir grafik kütüphanesi) 3.8.4 matplotlib-inline 0.1.6 mlflow-skinny 2.21.3
mpmath 1.3.0 mypy uzantıları 1.0.0 nest-asyncio 1.6.0
networkx 3.2.1 numpy kütüphanesi 1.26.4 nvidia-cublas-cu12 12.4.5.8
nvidia-cuda-cupti-cu12 12.4.127 nvidia-cuda-nvrtc-cu12 12.4.127 Nvidia CUDA Runtime - cu12 12.4.127
nvidia-cudnn-cu12 9.1.0.70 nvidia-cufft-cu12 11.2.1.3 nvidia-curand-cu12 10.3.5.147
nvidia-cusolver-cu12 11.6.1.9 nvidia-cusparse-cu12 12.3.1.170 nvidia-cusparselt-cu12 0.6.2
nvidia-nccl-cu12 2.21.5 nvidia-nvjitlink-cu12 12.4.127 nvidia-nvtx-cu12 12.4.127
oauthlib (kimlik doğrulama kütüphanesi) 3.2.2 opentelemetry-API 1.31.1 opentelemetry-sdk 1.31.1
opentelemetry-anlamsal-kurallar 0.52b1 Ambalaj 24.1 Pandalar 1.5.3
parambench-train-comms 0.0.0 Parso 0.8.3 pathspec 0.10.3
avanak 0.5.6 pexpect 4.8.0 yastık 10.3.0
Pip 25.0.1 platformdirs 3.10.0 Plotly yazılımı 5.22.0
fişimsi 1.5.0 Prompt Araç Takımı 3.0.43 proto-plus 1.26.1
Protobuf 5.29.4 psutil 5.9.0 psycopg2 2.9.3
ptyprocess 0.7.0 pure-eval 0.2.2 py4j 0.10.9.9
pyarrow 15.0.2 pyarrow düzeltmesi 0.6 pyasn1 0.4.8
pyasn1-modules 0.2.8 pyccolo 0.0.68 pycparser kütüphanesi 2.21
Python programlama dilinde veri doğrulama ve ayar yönetimi için kullanılan "pydantic" kütüphanesi. 2.8.2 pydantic_core 2.20.1 pydot 3.0.4
Pygmentler 2.15.1 PyGObject 3.48.2 PyJWT 2.7.0
pyodbc 5.0.1 pyparsing (bir Python kütüphanesi) 3.0.9 pyspark 3.5.2+databricks.connect.16.4.2
pytest 8.3.0 python-dateutil (Python tarih ve saat işleme kütüphanesi) 2.9.0.post0 python-lsp-jsonrpc 1.1.2
pytz kütüphanesi (Python zaman dilimi hesaplamaları için kullanılan) 2024.1 PyYAML 6.0.1 pyzmq 25.1.2
requests 2.32.2 RSA şifreleme algoritması 4,9 s3transfer 0.10.4
scikit-learn 1.4.2 scipy (Python için bir bilimsel hesaplama kütüphanesi) 1.13.1 denizanadan 0.13.2
kurulum araçları 69.5.1 altı 1.16.0 smmap 5.0.0
sniffio 1.3.0 sqlparse 0.5.3 ssh-import-id—SSH kimlik aktarımı komutu 5.11
yığın verisi 0.2.0 yıldızcık 0.46.1 statsmodeller 0.14.2
Sympy (Python'da sembolik matematik kütüphanesi) 1.13.1 Azim 8.2.2 threadpoolctl 2.2.0
tokenize-rt 4.2.1 meşale 2.6.0+cu124 torchvision 0.21.0+cu124
kasırga 6.4.1 Traitlets (Python kütüphanesi/modülü) 5.14.3 Triton (Neptün'ün uydusu) 3.2.0
typing_extensions 4.12.1 tzdata 2024.1 ujson (hızlı JSON işleme kütüphanesi) 5.10.0
katılımsız yükseltmeler 0,1 urllib3 2.2.2 uvicorn 0.34.0
virtualenv 20.29.2 wadllib 1.3.6 wcwidth (bir karakterin genişliğini hesaplayan fonksiyon) 0.2.5
tekerlek 0.45.1 sarmalanmış 1.14.1 fermuar çek 3.17.0
standart 0.23.0