Lingkungan GPU serverless versi 6 (Pratinjau)

Important

Fitur ini ada di Pratinjau Umum.

Halaman ini menguraikan informasi lingkungan sistem untuk lingkungan GPU tanpa server versi 6. Penawaran komputasi ini adalah bagian dari AI Runtime, yang dirancang untuk AI modern dan beban kerja pembelajaran mendalam.

Lingkungan GPU nirserver 6 dibangun berdasarkan lingkungan nirserver 6 (CPU). Lihat hal baru di serverless environment 6 (CPU). Ini termasuk lingkungan berikut:

Untuk memastikan kompatibilitas untuk aplikasi, beban kerja GPU Tanpa Server menggunakan API versi, yang dikenal sebagai versi lingkungan, yang tetap kompatibel dengan versi server yang lebih baru.

Anda dapat memilih lingkungan dasar yang menyertakan versi lingkungan ini menggunakan panel sisi Lingkungan di notebook tanpa server Anda. Lihat Hubungkan ke notebook.

Fitur dan peningkatan baru

Pada versi 6, pustaka CUDA ditingkatkan ke NVIDIA CUDA 13, dan dependensi yang menyertainya ditingkatkan agar sesuai, termasuk MLflow dan Serverless GPU Python API. Pustaka pembelajaran mesin dan AI umum di lingkungan AI Databricks diperbarui untuk kompatibilitas dengan versi CUDA baru, bersama dengan penambahan beberapa pustaka yang baru populer.

CUDA 13 dan PyTorch 2.11

Lingkungan AI Databricks

Versi 6 meningkatkan lingkungan AI Databricks ke toolkit dan stack runtime NVIDIA CUDA 13. PyTorch diperbarui ke torch 2.11.0 (dibangun untuk CUDA 13.0, +cu130) dengan torchvision 0.26.0, dan pustaka NVIDIA yang disertakan (cuBLAS, cuDNN, NCCL, cuFFT, cuSPARSE, serta komponen runtime terkait) ditingkatkan ke versi build CUDA 13.

Perpustakaan pembelajaran mendalam dan LLM yang diperbarui

Lingkungan AI Databricks

Perpustakaan pembelajaran mesin utama ditingkatkan dalam lingkungan AI Databricks, termasuk:

  • transformers 5.8.1
  • vllm 0.24.0
  • ray 2.56.0
  • langchain 1.3.11
  • sentence-transformers 5.5.1
  • openai 2.37.0
  • scikit-learn 1.7.2
  • scipy 1.16.3
  • trl 0.24.0

API Python GPU tanpa server

API Python 0.5.25 GPU tanpa server sudah termasuk dalam lingkungan ini. Untuk perubahan API Python GPU tanpa server sebelum versi lingkungan 6, lihat catatan rilis versi 5.

14 September 2026

API Python GPU tanpa server ditingkatkan ke 0.5.25

Serverless GPU Python API 0.5.25 mencakup pembaruan API berikut:

  • Fitur baru:
    • Proses lokal dengan @distributed dan @ray_launch sekarang mencatat timeout waktu nyata yang efektif (batas bawaan 3 jam) ketika dekorator diterapkan, agar batas tersebut terlihat sejak awal. Atur timeout=<seconds> untuk mengubahnya atau timeout=None menonaktifkannya.

Paket ditambahkan ke lingkungan AI Databricks

Paket-paket penting berikut telah ditambahkan ke lingkungan AI Databricks pada versi 6:

  • langgraph 1.2.8 (dengan langgraph-checkpoint, langgraph-prebuilt, dan langgraph-sdk)
  • langchain-classic 1.0.8
  • lightning 2.5.5
  • polars 1.42.1
  • ultralytics 8.4.90
  • flash_attn_3 3.0.0 dan flash-attn-4 4.0.0b18
  • flashinfer-cubin 0.6.12
  • liger_kernel 0.8.1
  • fastsafetensors 0.3.2
  • tilelang 0.1.9
  • xgboost-cu13 3.2.0 (build CUDA 13, menggantikan xgboost)
  • tabfm 1.0.1

Selain itu, toolkit CUDA 13 dan pustaka runtime (misalnya, cuda-toolkit 13.0.2, nvidia-cudnn-cu13, nvidia-nccl-cu13, dan paket terkait nvidia-* ) ditambahkan sebagai bagian dari peningkatan CUDA 13.

Paket dihapus dari lingkungan AI Databricks

Paket-paket penting berikut telah dihapus dari lingkungan AI Databricks pada versi 6:

  • unsloth (dan unsloth_zoo)
  • xformers
  • diffusers
  • bitsandbytes
  • torchao
  • litellm
  • langchain-openai
  • cupy-cuda12x
  • mosaicml-streaming
  • gguf
  • seaborn
  • xgboost (diganti dengan xgboost-cu13) dan xgboost-ray

Pustaka runtime CUDA 12 (paket nvidia-*-cu12) dihapus sebagai bagian dari peningkatan ke CUDA 13. Stack pengembangan JupyterLab dan notebook (misalnya, nbformat, python-lsp-server, python-lsp-jsonrpc, rope, yapf) serta tool pengembang Python LSP (nbclient, nbconvert, notebook, jupyterlab) juga tidak lagi disertakan dalam lingkungan AI Databricks.

Paket tidak termasuk dalam lingkungan dasar

Paket berikut tidak disertakan dalam lingkungan dasar tetapi tetap tersedia di lingkungan AI Databricks:

  • flash_attn
  • torch
  • torchvision
  • scikit-learn
  • scipy

Berdasarkan umpan balik pelanggan yang meminta kontrol atas versi PyTorch, torch tidak termasuk dalam lingkungan dasar untuk versi 6. Ini memungkinkan Anda menginstal versi yang paling sesuai dengan beban kerja Anda. Untuk menggunakan versi yang diuji Databricks, jalankan %pip install torch==2.11.0 di sel notebook atau instal torch==2.11.0 menggunakan bagian Dependensi dari panel sisi Lingkungan .

Lingkungan sistem

  • Sistem Operasi: Ubuntu 24.04 LTS
  • Python: 3.12.3
  • Databricks Connect: 19.0.0
  • Toolkit NVIDIA CUDA: 13.0

Perpustakaan Python terinstal

Lingkungan standar

Untuk mereproduksi lingkungan GPU tanpa server 6 di lingkungan lokal Python virtual Anda, unduh file requirements-env-gpu-6.txt dan jalankan pip install -r requirements-env-gpu-6.txt. Perintah ini menginstal semua pustaka dari serverless environment 6.

Library Version Library Version Library Version
anotasi-doc 0.0.4 annotated-types 0.7.0 anyio 4.10.0
arro3-core 0.8.0 asttokens 3.0.0 astunparse 1.6.3
azure-core 1.41.0 azure-identity 1.25.3 azure-mgmt-core 1.6.0
azure-mgmt-web 10.1.0 azure-storage-blob 12.29.0 azure-storage-file-datalake 12.24.0
black 25.9.0 blinker 1.7.0 boto3 1.40.46
botocore 1.40.46 cachetools 5.5.1 certifi 2025.11.12
cffi 2.0.0 charset-normalizer 3.4.4 klik 8.2.1
cloudpickle 3.1.1 comm 0.2.3 contourpy 1.3.3
cryptography 46.0.3 cycler 0.11.0 databricks-agents 1.11.0
databricks-connect 19.0.0 databricks-sdk 0.122.0 databricks.serverless_gpu 0.5.25
dataclasses-json 0.6.7 dbus-python 1.3.2 debugpy 1.8.16
decorator 5.2.1 deltalake 1.5.1 Deprecated 1.3.1
distlib 0.4.0 Mengeksekusi 2.2.1 fastapi 0.136.3
filelock 3.29.0 fonttools 4.60.1 fsspec 2025.9.0
future 1.0.0 gitdb 4.0.11 GitPython 3.1.45
google-api-core 2.30.3 google-auth 2.53.0 google-cloud-core 2.6.0
google-cloud-storage 3.10.1 google-crc32c 1.8.0 google-resumable-media 2.9.0
googleapis-common-protos 1.71.0 grpcio 1.76.0 grpcio-status 1.76.0
h11 0.16.0 httplib2 0.20.4 idna 3.11
importlib_metadata 8.7.0 iniconfig 2.1.0 ipyflow-core 0.0.227
ipykernel 6.31.0 ipython 9.7.0 ipython_pygments_lexers 1.1.1
ipywidgets 8.1.7 isodate 0.7.2 jedi 0.19.2
Jinja2 3.1.6 jmespath 1.0.1 joblib 1.5.2
jupyter_client 8.6.3 jupyter_core 5.8.1 jupyterlab_widgets 3.0.15
kiwisolver 1.4.8 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 markdown-it-py 2.2.0 MarkupSafe 3.0.2
kembang gula (marshmallow) 3.26.2 matplotlib 3.10.6 matplotlib-inline 0.2.1
Mccabe 0.7.0 mdurl 0.1.2 mlflow-skinny 3.12.0
mmh3 5.2.1 msal 1.36.0 msal-extensions 1.3.1
msrest 0.7.1 ekstensi mypy 1.0.0 nest-asyncio 1.6.0
nodeenv 1.10.0 numpy 2.3.4 nvidia-ml-py 13.590.44
oauthlib 3.2.2 opencv_python_headless 5.0.0.93 opentelemetry-api 1.42.1
opentelemetry-proto 1.42.1 opentelemetry-sdk 1.42.1 opentelemetry-semantic-conventions 0.63b1
packaging 25.0 pandas 2.3.3 parambench-train-comms 0.0.0
parso 0.8.5 pathspec 0.12.1 pexpect 4.9.0
pillow 12.0.0 pip 25,3 platformdirs 4.5.0
pluggy 1.5.0 prompt_toolkit 3.0.52 proto-plus 1.28.0
protobuf 6.33.5 psutil 7.0.0 ptyprocess 0.7.0
pure_eval 0.2.3 py4j 0.10.9.9 pyarrow 21.0.0
pyasn1 0.6.1 pyasn1_modules 0.4.2 pyccolo 0.0.83
pycparser 2.23 pydantic 2.13.3 pydantic_core 2.46.3
pydot 4.0.0 pyflakes 3.2.0 Pygments 2.19.2
PyGObject 3.48.2 pyiceberg 0.11.1 PyJWT 2.10.1
pyparsing 3.2.5 pyright 1.1.409 pyroaring 1.1.0
pyspark 4.3.0.dev0+databricks.connect.19.0.0 pytest 8.4.2 python-dateutil 2.9.0.post0
python-dotenv 1.2.2 pytokens 0.2.0 pytz 2025.2
PyYAML 6.0.3 pyzmq 27.1.0 regex 2025.9.1
requests 2.32.5 requests-oauthlib 2.0.0 rich 14.2.0
s3transfer 0.14.0 setuptools 80.9.0 six 1.17.0
smmap 5.0.0 sniffio 1.3.0 sqlparse 0.5.5
ssh-import-id 5.11 stack-data 0.6.3 starlette 0.52.1
strictyaml 1.7.3 tenacity 9.1.2 threadpoolctl 3.5.0
tiktoken 0.13.0 tokenize_rt 6.2.0 tomli 2.0.1
tornado 6.5.1 tqdm 4.67.1 traitlets 5.14.3
mengetik-memeriksa 0.9.0 inspeksi-pengetikan 0.4.2 typing_extensions 4.15.0
tzdata 2026.2 unattended-upgrades 0.1 urllib3 2.5.0
uvicorn 0.48.0 virtualenv 20.35.4 wadllib 1.3.6
wcwidth 0.2.13 wheel 0.45.1 Setiap kali 0.7.3
widgetsnbextension 4.0.14 wrapt 1.17.0 zipp 3.23.0
zstandard 0.25.0

Lingkungan AI

Lingkungan AI mencakup semua paket dari lingkungan Standar, serta paket berikut. Lingkungan ini mencakup PyTorch dan pustaka pembelajaran mesin yang komprehensif:

  • torch 2.11.0
  • torchvision 0.26.0
  • flash_attn 2.8.3
  • catboost 1.2.10
  • langchain 1.3.11
  • langgraph 1.2.8
  • lightgbm 4.6.0
  • lightning 2.5.5
  • openai 2.37.0
  • optuna 4.5.0
  • polars 1.42.1
  • pytorch-lightning 2.5.4
  • ray 2.56.0
  • scikit-learn 1.7.2
  • scipy 1.16.3
  • sentence-transformers 5.5.1
  • transformers 5.8.1
  • trl 0.24.0
  • ultralytics 8.4.90
  • vllm 0.24.0
  • xgboost-cu13 3.2.0

Untuk mereproduksi lingkungan AI V6 di lingkungan lokal Python virtual Anda, unduh file requirements-ai-gpu-6.txt dan jalankan pip install -r requirements-ai-gpu-6.txt. Perintah ini menginstal semua pustaka dari lingkungan AI.

Library Version Library Version Library Version
absl-py 2.4.0 Percepat 1.13.0 aiohappyeyeballs 2.6.1
aiohttp 3.13.5 aiohttp-cors 0.8.1 aiosignal 1.4.0
alembic 1.18.5 anotasi-doc 0.0.4 annotated-types 0.7.0
antropik 0.116.0 antlr4-python3-runtime 4.9.3 anyio 4.10.0
apache-tvm-ffi 0.1.9 arro3-core 0.8.0 Astor 0.8.1
asttokens 3.0.0 astunparse 1.6.3 attrs 25.4.0
audioread 3.1.0 azure-core 1.41.0 azure-identity 1.25.3
azure-mgmt-core 1.6.0 azure-mgmt-web 10.1.0 azure-storage-blob 12.29.0
azure-storage-file-datalake 12.24.0 black 25.9.0 blake3 1.0.9
blinker 1.7.0 boto3 1.40.46 botocore 1.40.46
cachetools 5.5.1 catboost 1.2.10 cbor2 6.1.3
certifi 2025.11.12 cffi 2.0.0 charset-normalizer 3.4.4
klik 8.4.2 cloudpickle 3.1.1 berwarna-warni 0.5.8
colorlog 6.10.1 comm 0.2.3 tensor terkompresi 0.17.0
contourpy 1.3.3 cryptography 44.0.1 pengikatan cuda 13.3.1
inti CUDA 1.0.1 cuda-pathfinder 1.5.6 cuda-python 13.3.1
tile CUDA 1.3.0 CUDA Toolkit 13.0.2 cycler 0.11.0
databricks-agents 1.11.0 databricks-sdk 0.122.0 dataclasses-json 0.6.7
datasets 4.8.5 dbus-python 1.3.2 debugpy 1.8.16
decorator 5.2.1 deltalake 1.5.1 Deprecated 1.3.1
depyf 0.20.0 pemasang deteksi 0.1.0 dill 0.4.0
diskcache 5.6.3 distlib 0.4.0 dm-tree 0.1.10
dnspython 2.8.0 docstring_parser 0.18.0 einops 0.8.2
validator email 2.3.0 evaluate 0.4.6 Mengeksekusi 2.2.1
Pemberitahuan Farama 0.0.6 fastapi 0.136.3 fastapi-cli 0.0.28
fastapi-cloud-cli 0.22.1 fastar 0.11.0 fastsafetensors 0.3.2
filelock 3.29.0 flash-attn-4 4.0.0b18 flash_attn 2.8.3
flash_attn_3 3.0.0 flashinfer-cubin 0.6.12 flashinfer-python 0.6.12
fonttools 4.60.1 daftar yang dibekukan 1.8.0 fsspec 2025.9.0
future 1.0.0 gitdb 4.0.11 GitPython 3.1.45
google-api-core 2.30.3 google-auth 2.53.0 google-cloud-core 2.6.0
google-cloud-storage 3.10.1 google-crc32c 1.8.0 google-resumable-media 2.9.0
googleapis-common-protos 1.71.0 graphviz 0.21 greenlet 3.2.4
grpcio 1.76.0 grpcio-status 1.76.0 gedung olahraga 1.2.2
h11 0.16.0 hf-xet 1.5.1 hf_transfer 0.1.9
httpcore 1.0.9 httplib2 0.20.4 httptools 0.8.0
httpx 0.28.1 httpx-sse 0.4.3 huggingface_hub 1.22.0
biji kolibri 0.1.6 idna 3.11 ijson 3.5.1
importlib_metadata 8.7.0 iniconfig 2.1.0 interegular 0.3.3
ipyflow-core 0.0.227 ipykernel 6.31.0 ipython 9.7.0
ipython_pygments_lexers 1.1.1 ipywidgets 8.1.7 isodate 0.7.2
jedi 0.19.2 Jinja2 3.1.6 jiter 0.16.0
jmespath 1.0.1 joblib 1.5.2 jsonpatch 1,33
jsonpointer 3.1.1 jsonschema 4.25.0 jsonschema-specifications 2025.9.1
jupyter_client 8.6.3 jupyter_core 5.8.1 jupyterlab_widgets 3.0.15
kiwisolver 1.4.8 langchain 1.3.11 langchain-classic 1.0.8
langchain-community (Komunitas LangChain) 0.4.2 langchain-core 1.4.7 protokol langchain 0.0.18
pemisah teks LangChain 1.1.2 langgraph 1.2.8 titik pemeriksaan langgraf 4.1.1
langgraph-prebuilt 1.1.0 langgraph-sdk 0.4.2 langsmith 0.9.3
Lark 1.2.2 launchpadlib 1.11.0 lazr.restfulclient 0.14.6
lazr.uri 1.0.6 lazy_loader 0.4 librosa 0.11.0
liger_kernel 0.8.1 lightgbm 4.6.0 petir 2.5.5
utilitas cepat 0.15.3 llguidance 1.7.6 llvmlite 0.47.0
lm-format-enforcer 0.11.3 loguru 0.7.3 lz4 4.4.5
Mako 1.3.12 markdown-it-py 2.2.0 MarkupSafe 3.0.2
kembang gula (marshmallow) 3.26.2 matplotlib 3.10.6 matplotlib-inline 0.2.1
Mccabe 0.7.0 mcp 1.28.1 mdurl 0.1.2
mistral_common 1.11.5 ml_dtypes 0.5.4 mlflow-skinny 3.13.0
mmh3 5.2.1 standar model hosting kontainer 0.1.16 mpmath 1.3.0
msal 1.36.0 msal-extensions 1.3.1 msgpack 1.2.1
msgspec 0.21.1 msrest 0.7.1 multidict 6.7.0
multiproses 0.70.16 ekstensi mypy 1.0.0 narwhal 2.7.0
nest-asyncio 1.6.0 networkx 3.5 ninja 1.13.0
nodeenv 1.10.0 numba 0.65.0 numpy 2.3.4
nvidia-cublas 13.1.0.3 nvidia-cuda-cccl 13.3.3.4.1 nvidia-cuda-crt 13.3.73
nvidia-cuda-cupti 13.0.85 nvidia-cuda-nvcc 13.2.78 nvidia-cuda-nvrtc 13.0.88
nvidia-cuda-runtime 13.0.96 nvidia-cuda-tileiras 13.2.78 nvidia-cudnn-cu13 9.19.0.56
nvidia-cudnn-frontend 1.25.0 nvidia-cufft 12.0.0.61 nvidia-cufile 1.15.1.6
nvidia-curand 10.4.0.35 nvidia-cusolver 12.0.4.66 nvidia-cusparse 12.6.3.3
nvidia-cusparselt-cu13 0.8.0 nvidia-cutlass-dsl 4.5.2 nvidia-cutlass-dsl-libs-base 4.5.2
nvidia-cutlass-dsl-libs-cu13 4.5.2 nvidia-ml-py 13.590.44 nvidia-nccl-cu13 2.28.9
nvidia-nvjitlink 13.0.88 nvidia-nvshmem-cu13 3.4.5 nvidia-nvtx 13.0.85
nvidia-nvvm 13.2.78 oauthlib 3.2.2 omegaconf 2.3.1
OpenAI 2.37.0 openai-harmony 0.0.8 opencensus 0.11.4
opencensus-konteks 0.1.3 opencv-python 5.0.0.93 opencv_python_headless 5.0.0.93
opentelemetry-api 1.42.1 OpenTelemetry-Exporter-OTLP 1.42.1 OpenTelemetry-Exporter-OTLP-proto-Common 1.42.1
OpenTelemetry-Exporter-OTLP-proto-GRPC 1.42.1 OpenTelemetry-exporter-OTLP-proto-http 1.42.1 opentelemetry-exporter-prometheus 0.63b1
opentelemetry-proto 1.42.1 opentelemetry-sdk 1.42.1 opentelemetry-semantic-conventions 0.63b1
OpenTelemetry-Semantic-Conventions-AI 0.5.1 optuna 4.5.0 Integrasi Optuna 4.5.0
orjson 3.11.9 ormsgpack 1.12.2 outlines_core 0.2.14
packaging 25.0 pandas 2.3.3 parso 0.8.5
parial-json-parser 0.2.1.1.post7 pathspec 0.12.1 patsy 1.0.1
peft 0.19.1 pexpect 4.9.0 pillow 12.0.0
pip 25.0.1 platformdirs 4.5.0 plotly 6.8.0
pluggy 1.5.0 kutub-kutub 1.42.1 polars-runtime-32 1.42.1
anjing peliharaan 1.9.0 prometheus-fastapi-instrumentator 8.0.2 prometheus_client 0.21.1
prompt_toolkit 3.0.52 propcache 0.3.1 proto-plus 1.28.0
protobuf 6.33.5 psutil 7.0.0 ptyprocess 0.7.0
pure_eval 0.2.3 py-cpuinfo 9.0.0 py-spy 0.4.2
pyarrow 21.0.0 pyasn1 0.6.1 pyasn1_modules 0.4.2
pybase64 1.4.3 pyccolo 0.0.83 pycountry 26.2.16
pycparser 2.23 pydantic 2.13.3 pydantic-extra-types 2.11.1
Pengaturan Pydantic 2.14.2 pydantic_core 2.46.3 pydot 4.0.0
pyelftools 0.33 pyflakes 3.2.0 Pygments 2.19.2
PyGObject 3.48.2 pyiceberg 0.11.1 PyJWT 2.10.1
pynndescent 0.6.0 pynvml 8.0.1 pyparsing 3.2.5
pyright 1.1.409 pyroaring 1.1.0 pytesseract 0.3.13
pytest 8.4.2 python-dateutil 2.9.0.post0 python-dotenv 1.2.2
python-json-logger 3.2.1 python-multipart 0.0.32 pytokens 0.2.0
pytorch-lightning 2.5.4 pytorch-ranger 0.1.1 pytz 2025.2
PyYAML 6.0.3 pyzmq 27.1.0 quack-kernels 0.5.0
ikan pari 2.56.0 referencing 0.37.0 regex 2025.10.22
requests 2.32.5 requests-oauthlib 2.0.0 requests-toolbelt 1.0.0
rich 14.2.0 toolkit lengkap 0.20.1 rignore 0.7.6
rpds-py 0.28.0 s3transfer 0.14.0 safetensors 0.8.0
scikit-learn 1.7.2 scipy 1.16.3 pemodel kalimat 5.5.1
sentencepiece 0.2.1 sentry-sdk 2.64.0 setproctitle 1.3.7
setuptools 80.9.0 bentuk 0.51.0 shellingham 1.5.4
six 1.17.0 pemotong 0.0.8 smart_open 8.0.0
smmap 5.0.0 sniffio 1.3.0 soundfile 0.13.1
soxr 1.1.0 SQLAlchemy 2.0.43 sqlparse 0.5.5
sse-starlette 3.4.5 ssh-import-id 5.11 stack-data 0.6.3
starlette 1.3.1 statsmodels 0.14.5 strictyaml 1.7.3
Supervisor 4.3.0 sympy 1.14.0 menyusun dalam bentuk tabel 0.9.0
tenacity 9.1.2 tensorboardX 2.6.5 threadpoolctl 3.5.0
tiktoken 0.13.0 tilelang 0.1.9 tokenize_rt 6.2.0
tokenisasi 0.22.1 tokenspeed-mla 0.1.2 tokenspeed-triton 3.7.10.post20260531
tomli 2.0.1 obor/senter 2.11.0+cu130 pengoptimal obor 0.3.0
torch_c_dlpack_ext 0.1.5 torchaudio 2.11.0+cu130 torchmetrics 1.9.0
torchvision 0.26.0+cu130 tornado 6.5.1 tqdm 4.67.1
traitlets 5.14.3 Trafo 5.8.1 Triton 3.6.0
Trl 0.24.0 Typer 0.26.8 mengetik-memeriksa 0.9.0
inspeksi-pengetikan 0.4.2 typing_extensions 4.15.0 tzdata 2026.2
ultralitik 8.4.90 ultralytics-thop 2.0.20 umap-learn 0.5.12
unattended-upgrades 0.1 urllib3 2.5.0 uuid_utils 0.16.2
uvicorn 0.48.0 uvloop 0.22.1 virtualenv 20.35.4
vllm 0.24.0 wadllib 1.3.6 watchfiles 1.2.0
wcwidth 0.2.13 websockets 15.0.1 wheel 0.45.1
Setiap kali 0.7.3 widgetsnbextension 4.0.14 wrapt 1.17.0
xgboost-cu13 3.2.0 xgrammar 0.2.3 xxhash 3.5.0
yarl 1.22.0 z3-solver 4.15.4.0 zipp 3.23.0
zstandard 0.25.0