Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Halaman ini berisi catatan rilis terpadu untuk Databricks Runtime 18, didukung oleh Apache Spark 4.1.0. Ini mencantumkan semua fitur, perubahan perilaku, dan perbaikan yang dikirim ke seluruh siklus rilis Databricks Runtime 18.
Note
Rilis dilakukan bertahap. Akun Azure Databricks Anda mungkin tidak diperbarui selama beberapa hari setelah tanggal rilis awal.
Tentang catatan rilis terpadu
Azure Databricks merilis fitur secara bertahap di seluruh siklus rilis tanpa mengubah nomor versi. Alih-alih halaman terpisah untuk setiap versi minor, semua pembaruan ditampilkan di halaman ini sebagai entri bertanggal. Kluster menerima pembaruan saat dimulai kembali.
Databricks Runtime 18 adalah rilis pertama yang menggunakan format terpadu ini. Sebelumnya, setiap versi fitur (18.0, 18.1, 18.2) memiliki halaman catatan rilisnya sendiri. Halaman tersebut tetap tersedia untuk referensi. Fitur yang sebelumnya akan dirilis sebagai versi 18.3 atau yang lebih baru kini dirilis sebagai pembaruan bertanggal untuk Databricks Runtime 18.
Di masa depan, versi Databricks Runtime akan mengikuti siklus hidup dari Beta (evaluasi awal) melalui GA (pengembangan fitur, sekitar enam bulan) ke LTS (dukungan jangka panjang, stabilitas tiga tahun dan perbaikan keamanan). Karena 18.0 hingga 18.2 dikirim di bawah model sebelumnya, Databricks Runtime 18 adalah rilis transisi yang akan bergerak langsung dari Beta ke LTS. Untuk detail siklus hidup penuh, lihat Siklus hidup dukungan Databricks Runtime.
Databricks Runtime 18: Mei 29, 2026
-
Deduplikasi Streaming Terstruktur dengan kunci
NaN: Deduplikasi Streaming Terstruktur kini memperlakukan nilaiNaN(bukan angka) yang memiliki pola bit berbeda sebagai duplikat saat kolomdoubleataufloatdigunakan sebagai kunci deduplikasi. Sebelumnya,NaNnilai dengan representasi internal yang berbeda diperlakukan sebagai berbeda dan tidak dideduplikasi. - Memperbaiki masalah ketika izin tingkat tabel dapat dihapus dari tabel katalog eksternal Unity Catalog (misalnya, tabel koneksi Snowflake) selama penyegaran metadata, yang menyebabkan kueri gagal dengan kesalahan
INSUFFICIENT_PERMISSIONS. Izin kini dipertahankan saat metadata tabel eksternal diperbarui.
Databricks Runtime 18: 18 Mei 2026
Perubahan perilaku
Tinjau perubahan berikut, yang berlaku ketika kluster dimulai ulang pada runtime ini.
-
CREATE OR REPLACE TABLE:CREATE OR REPLACE TABLEsekarang mempertahankan komentar kolom dan tabel yang ada secara default. Sebelumnya, komentar dihilangkan saat membuat ulang tabel. Tabel dan tampilan terkelola sekarang cocok dengan perilaku tampilan materialisasi dan tabel streaming yang ada. -
Penulisan DataFrame berdasarkan nama:
writeTo().append(),writeTo().overwrite(),writeTo().overwritePartitions(), danwrite.mode("append").saveAsTable()kini secara otomatis mengonversi kolom dengan tipe yang kompatibel (misalnya,intmenjadilong) agar sesuai dengan skema tabel Delta tujuan. Sebelumnya, operasi ini gagal dengan errorDELTA_FAILED_TO_MERGE_FIELDSsaat tipe kolom kompatibel, tetapi tidak identik. Perilaku sekarang cocok dengan SQLINSERT INTO ... BY NAME.save()dansaveAsTable()dalam mode penimpaan tidak terpengaruh. -
ALTER TABLE SET TBLPROPERTIESuntukpipelines.pipelineId:ALTER TABLE <table> SET TBLPROPERTIES('pipelines.pipelineId' = '<pipeline-id>')sekarang mencoba untuk membuat tabel yang ditentukan memenuhi syarat untuk penulisan oleh alur. Sebelumnya, mengatur properti ini pada tabel biasa tidak berpengaruh. Jika tabel tidak memenuhi syarat untuk penulisan alur, perintah akan melemparkanSETTING_PIPELINES_PIPELINE_ID_NOT_SUPPORTED. -
cloud_files_state: Fungsi bernilai tabelcloud_files_state(TVF) sekarang menyertakan kolomdiscovery_modeyang menunjukkan bagaimana Auto Loader mendeteksi setiap file. File yang ditemukan sebelum memutakhirkan memilikinullnilai di kolom ini. -
DESCRIBE EXTENDED AS JSON: Kini menyertakan hasil evaluasi pengoptimalan prediktif dalam outputnya. Sebelumnya, informasi ini tidak dikembalikan dalam output JSON. -
Ukuran jendela pada tampilan metrik: Kini menghasilkan hasil yang benar saat kueri menggunakan filter
GROUP BY,IN/BETWEEN, atau predikat campuran pada kolom pengurutan jendela. Sebelumnya, pola filter ini dapat menghasilkan hasil yang salah.
Fitur dan peningkatan baru
Fitur dan peningkatan berikut tersedia dalam rilis ini.
- Pustaka klaster: Saat Anda menginstal pustaka PyPI, wheel, atau file requirements.txt di klaster, tab Libraries dan Libraries REST API kini menampilkan semua paket yang di-resolve dan diinstal, termasuk dependensi transitif. Untuk penginstalan yang menyelesaikan lebih dari 500 paket, daftar dipotong. Laporan penginstalan lengkap tersedia di log driver kluster.
-
CDC Otomatis dari rekam jepret dengan sintaks SQL: Alur Deklaratif Lakeflow Spark sekarang mendukung CDC Otomatis dari rekam jepret menggunakan sintaks SQL. Sebelumnya, fitur ini hanya tersedia melalui API Python. Gunakan
CREATE STREAMING TABLE ... FLOW AUTO CDC FROM SNAPSHOTuntuk memproses sumber rekam jepret (seperti tabel Delta, penyimpanan cloud, atau JDBC) satu rekam jepret sekaligus. SCD Tipe 1 (default) dan SCD Tipe 2 didukung. -
array_sortdengan komparator kustom: Foton sekarang mempercepatarray_sortekspresi yang menggunakan komparator kustom untuk mengurutkan array struktur menurut satu atau beberapa bidang. Sebelumnya, ekspresi-ekspresi ini dialihkan ke eksekusi non-Photon. Untuk mengaktifkan pengoptimalan ini, aturspark.databricks.photon.rewriteArraySortComparator.enabledketrue.
Perbaikan dan peningkatan Apache Spark
Rilis ini mencakup perbaikan bug dan peningkatan berikut yang dilakukan pada Spark:
- Kueri SQL sekarang mendukung
QUALIFYklausul, yang memungkinkan Anda memfilter hasil fungsi jendela langsung dalam kueri. Sebelumnya ini diperlukan pembungkusan kueri dalam subkueri. -
spark.read.json, ,spark.read.csvdanspark.read.xmlsekarang terima DataFrame sebagai input, sehingga Anda dapat mengurai data dalam memori tanpa menyimpannya ke file terlebih dahulu. -
DataFrame.changes()sekarang tersedia untuk membaca keluaran change data capture (CDC) melalui DataFrame API. - Saat kolom DataFrame direferensikan dari DataFrame yang salah, pesan kesalahan kini menyebutkan nama kolom yang spesifik. Anda juga dapat mengatur
spark.sql.columnResolution.strictuntuk membuat Spark memberlakukan pencocokan kolom yang lebih ketat dan menangkap kesalahan ini sebelumnya. -
MERGE INTOevolusi skema sekarang berfungsi dengan benar ketika pernyataan menyertakanWHEN MATCHED THEN DELETEatau mereferensikan kolom berlapis menurut alias. Sebelumnya, kombinasi ini dapat gagal atau diam-diam menghasilkan hasil yang salah. -
SHOW COLLATIONSmencantumkan semua kolasi yang didukung beserta propertinya, yang berguna saat memilih kolasi untuk pengurutan atau perbandingan teks. - Pengoptimal kueri Spark sekarang memperkirakan dengan benar berapa banyak filter data yang akan berkurang. Perkiraan yang keliru sebelumnya menyebabkan Spark memuat seluruh tabel besar ke dalam memori selama operasi join, sehingga memicu error kehabisan memori.
- Kueri dengan beberapa
COUNT(DISTINCT)ekspresi berjalan lebih cepat karena Spark sekarang mengurangi data sebelumnya dalam rencana eksekusi alih-alih memperluasnya terlebih dahulu. - Python UDF yang menggunakan pengoptimalan Panah tidak lagi melakukan konversi format data yang tidak perlu, mengurangi overhead.
- Gabungan non-luar stream sekarang dapat menghasilkan output dalam mode Pembaruan, bukan hanya mode Tambahkan, yang memungkinkan mereka menulis ke lebih banyak tujuan output.
- Koneksi JDBC sekarang ditutup dengan benar ketika tugas dibatalkan. Sebelumnya, pembatalan dapat membiarkan koneksi tetap terbuka, sehingga tugas selanjutnya macet.
-
array_inserttidak lagi menghasilkan hasil yang salah ketika diberikan angka negatif yang sangat besar sebagai posisi sisipan.
Databricks Runtime 18: 4 Mei 2026
Perubahan perilaku
Tinjau perubahan berikut, yang berlaku ketika kluster dimulai ulang pada runtime ini.
-
XPath: Saat mengevaluasi XPath melalui XML, Azure Databricks tidak lagi memuat Definisi Tipe Dokumen (DTD) eksternal. Kueri yang sebelumnya gagal hanya karena referensi DTD eksternal yang tidak dapat dijangkau sekarang dapat berhasil. -
Perilaku struct NULL dengan evolusi skema: Untuk
INSERT,MERGE, dan penulisan streaming yang menggunakan evolusi skema, struct NULL pada sumber kini disimpan sebagai NULL di target. Sebelumnya, struktur NULL salah terwujud sebagai struktur non-null dengan setiap bidang diatur ke NULL. Perbarui kode apa pun yang bergantung pada diterimanya struct non-null dengan semua bidang bernilai NULL — kasus tersebut kini mengembalikan struct bernilai NULL. -
NATURAL JOIN: Kini menggunakan pencocokan kolom tanpa membedakan huruf besar/kecil dengan benar saatspark.sql.caseSensitiveadalahfalse(bawaan). Sebelumnya, kolom yang hanya berbeda dalam penggunaan huruf besar/kecil (misalnya,IDvsid) tidak dikenali sebagai kolom yang cocok, sehinggaNATURAL JOINdiam-diam menghasilkan hasil cross join. Perbaikan ini membuat perilakuNATURAL JOINselaras dengan penggabunganUSING. - Dependensi AWS SDK v1: Sekarang berbayang dan tidak lagi tersedia langsung di classpath. Jika kode Anda bergantung pada pustaka AWS SDK v1 yang sebelumnya disediakan oleh Databricks Runtime, tambahkan sebagai dependensi eksplisit dalam proyek Anda.
- Validasi dependensi SQL UDF di Unity Catalog: Unity Catalog sekarang memberlakukan validasi dependensi untuk fungsi yang ditentukan pengguna SQL untuk mencegah bypass kontrol akses. UDF SQL dengan konfigurasi dependensi yang tidak valid diblokir dari eksekusi.
-
LEFT OUTER JOIN LATERAL: Bug yang secara keliru menghapus baris telah diperbaiki. Kueri yang menggunakan konstruksi ini sekarang mengembalikan hasil yang benar. Untuk kembali ke perilaku sebelumnya untuk sementara, aturspark.databricks.sql.optimizer.lateralJoinPreserveOuterSemanticketrue. -
regr_r2: Sekarang memperlakukan parameter pertama dengan benar sebagai variabel dependen. Kueri yang bergantung pada perilaku yang salah sebelumnya mengembalikan hasil yang berbeda. -
Fungsi hiperbolik:
sinh,cosh, ,tanhdan fungsi hiperbolik terkait sekarang mengembalikanInfinityalih-alih melemparkan kesalahan luapan ketika diberikan input yang sangat besar. -
asinhdanacosh: Sekarang gunakan algoritma fdlibm untuk konsistensi lintas mesin. Hasilnya mungkin sedikit berbeda dibandingkan dengan versi sebelumnya pada masukan kasus tepi. -
LIKEpencocokan pola: Sekarang menangani karakter Unicode tambahan dengan benar (titik kode di atas U+FFFF). Pola untuk karakter ini yang sebelumnya secara keliru dianggap cocok atau gagal dicocokkan kini menghasilkan hasil yang benar. -
kolom
VOID(NullType): Tabel Delta sekarang mendukung kolomVOID(NullType).VOIDkolom tidak lagi dihilangkan dari skema tabel saat dibaca. Penulisan tidak terpengaruh.
Fitur dan peningkatan baru
Fitur dan peningkatan berikut tersedia dalam rilis ini.
-
CREATE OR REPLACE TEMP TABLE: Sekarang didukung, memungkinkan Anda membuat atau mengganti tabel sementara dalam satu pernyataan. -
agg(): Sekarang tersedia sebagai alias untuk fungsi .measure()Kueri yang ada menggunakanmeasure()terus berfungsi tanpa modifikasi. -
pyspark.pipelines.testing: Kini tersedia sebagai alias praktis untuk APIdlt.testing. - Performa daftar Auto Loader: Auto Loader sekarang menggunakan metode daftar yang lebih efisien yang meningkatkan kecepatan daftar untuk sumber penyimpanan cloud. Jika aliran Anda memicu tumpang tindih karena operasi daftar yang berjalan lama, pengoptimalan ini dapat mengakibatkan peningkatan biaya API daftar cloud.
-
DESCRIBE HISTORYflag opsi penulisan: Riwayat tabel Delta (DESCRIBE HISTORY) sekarang menyertakan flag opsi penulisan dalamoperationParametersuntuk operasiWRITEdanREPLACE TABLE. Penanda hanya muncul ketikatrue:isDynamicPartitionOverwrite,canOverwriteSchema,canMergeSchema,predicate, danisV1WriterSaveAsTableOverwrite. - Streaming Terstruktur: putar balik dan putar ulang: Streaming Terstruktur kini mendukung putar balik dan putar ulang, sehingga memungkinkan pemrosesan ulang dari titik yang lebih awal dalam aliran untuk memulihkan sistem dari kegagalan seperti perubahan skema atau kesalahan logika, tanpa penyetelan ulang status secara penuh.
-
SparkSession.emptyDataFrame: Sekarang tersedia sebagai API praktis untuk membuatDataFramekosong tanpa kolom maupun baris. -
TIMESTAMP WITH LOCAL TIME ZONE: Sekarang didukung sebagai alias sintaks SQL untuk jenis tersebutTIMESTAMP_LTZ. -
to_jsonsortKeysopsi: Fungsito_jsonsekarang menerimasortKeysopsi untuk menghasilkan output JSON dengan kunci dalam urutan yang diurutkan. -
spark.catalog.*: Metode API sekarang memiliki paritas fitur dengan perintah DDL yang setara untuk katalog, skema, dan operasi tabel. - [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 20 April 2026
- Memperbaiki otoritas referensi spasial CRS untuk tipe
GEOMETRY(102100). Otoritas sekarang dilaporkan sebagaiESRI:102100alih-alihEPSG:102100. - [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 2 April 2026
- Penanganan kesalahan yang disempurnakan untuk kueri yang menulis data ke tabel Delta yang berisi kolom
VOID(NullType) dalam tipe yang ditentukan pengguna (UDT). - Koneksi sink streaming JDBC kini menerapkan batas waktu soket 30 detik, mekanisme percobaan ulang dengan backoff eksponensial untuk galat sementara (kegagalan koneksi, deadlock, pembatasan laju), serta rollback secara aman saat koneksi terputus.
- Memperbaiki kerusakan teks SQL yang terjadi saat menggunakan karakter Unicode dalam kueri berparameter.
-
SHOW CREATE TABLEsekarang menghasilkan keluaran yang benar untuk tabel dan tampilan dengan kolasi bukan bawaan. - [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 11 Maret 2026
Perubahan perilaku
Tinjau perubahan berikut, yang berlaku ketika kluster dimulai ulang pada runtime ini.
-
Kesalahan metrik pengamatan: Tidak lagi menyebabkan kegagalan eksekusi kueri. Sebelumnya, kesalahan dalam
OBSERVEklausa (seperti pembagian dengan nol) dapat memblokir atau gagal seluruh kueri. Sekarang, kueri berhasil dijalankan dan kesalahan muncul saat Anda memanggilobservation.get. -
FILTERklausa untukMEASURE: fungsi agregat MEASURE kini mendukung klausa FILTER. Sebelumnya, filter diabaikan secara diam-diam. -
DESCRIBE FLOW: PerintahDESCRIBE FLOWsekarang tersedia. Jika Anda memiliki tabel bernamaflow, gunakanDESCRIBE schema.flow,DESCRIBE TABLE flow, atauDESCRIBE `flow`dengan backticks. -
Operasi himpunan Boolean SpatialSQL:
ST_Difference,ST_Intersection, danST_Unionmenggunakan implementasi baru dengan peningkatan berikut:- Geometri input yang valid selalu menghasilkan hasil dan tidak lagi menimbulkan kesalahan.
- Performa sekitar 2x lebih cepat.
- Hasil dinormalisasi untuk output yang konsisten dan sebanding.
- Jenis pengecualian untuk SQLSTATE: Jenis pengecualian diperbarui untuk mendukung SQLSTATE. Jika kode Anda menguraikan pengecualian dengan pencocokan string atau menangkap jenis pengecualian tertentu, perbarui logika penanganan kesalahan Anda.
-
Perluasan tipe streaming otomatis: Pembacaan streaming pada tabel Delta secara otomatis menangani perluasan tipe kolom. Untuk memerlukan pengakuan manual, atur
spark.databricks.delta.typeWidening.enableStreamingSchemaTrackingketrue.
Fitur dan peningkatan baru
Fitur dan peningkatan berikut tersedia dalam rilis ini.
Event file Auto Loader secara bawaan: Auto Loader menggunakan event file secara bawaan saat memuat dari lokasi eksternal dengan event file yang diaktifkan, sehingga mengurangi operasi listing dan biaya dibandingkan dengan listing direktori. Lihat Auto Loader dengan gambaran umum peristiwa file. Untuk menggunakan daftar direktori sebagai gantinya, atur
useManagedFileEventskefalse.Evolusi skema dengan
INSERT: GunakanWITH SCHEMA EVOLUTIONklausul dengan pernyataan SQL INSERT untuk secara otomatis mengembangkan skema tabel target selama operasi penyisipan. Didukung untukINSERT INTO,INSERT OVERWRITE, danINSERT INTO ... REPLACE. Contohnya:INSERT WITH SCHEMA EVOLUTION INTO students TABLE visiting_students_with_additional_id;Transaksi multi-pernyataan Delta Sharing: Tabel Delta Sharing yang menggunakan URL pra-tanda tangan atau mode berbagi token cloud mendukung transaksi multi-pernyataan. Pada akses pertama dalam transaksi, versi tabel disematkan dan digunakan kembali untuk semua pembacaan berikutnya dalam transaksi tersebut.
parse_timestamp: Fungsi SQL parse_timestamp mengurai string tanda waktu menggunakan beberapa pola, dengan dukungan mesin Photon untuk meningkatkan performa.max_bydanmin_bydengan opsionallimit: Fungsi agregat max_by dan min_by sekarang menerima argumenlimitketiga opsional (hingga 100.000). Jika tersedia, fungsi-fungsi tersebut mengembalikan larik yang berisi hinggalimitnilai, sehingga menyederhanakan kueri top-K dan bottom-K tanpa fungsi jendela atau CTE.DATETIMEOFFSETuntuk Azure Synapse: Jenis dataDATETIMEOFFSETdidukung untuk koneksi Microsoft Azure Synapse.Komentar tabel Google BigQuery: Deskripsi tabel Google BigQuery diselesaikan dan diekspos sebagai komentar tabel.
IGNORE NULLS/RESPECT NULLSuntukarray_aggdancollect_list: Fungsiarray_aggagregat dancollect_listsekarang mendukungIGNORE NULLSdanRESPECT NULLSklausul.PIVOTalias: KlausaPIVOTsekarang mendukung alias, memungkinkan Anda mengganti nama ekspresi kolom pivot dalam output.Variabel pembuatan skrip
CURSORSQL: Pembuatan skrip SQL sekarang mendukungCURSORvariabel untuk iterasi atas hasil kueri yang diatur baris demi baris dalam blok skrip.Fungsi agregat matematika vektor: Fungsi agregat matematika vektor baru tersedia: vector_avg, vector_sum, vector_norm, dan vector_normalize. Fungsi-fungsi ini beroperasi pada kolom vektor padat dan mendukung beban kerja ML.
Trigger.AvailableNowpembaca streaming di Python: Pembaca streaming sumber data Python kini mendukungTrigger.AvailableNowdan Admission Control, yang memungkinkan pemrosesan batch satu kali untuk semua data yang tersedia.API partisi ulang status di PySpark: API partisi ulang status untuk
TransformWithStateoperator streaming sekarang tersedia di PySpark, selain Scala. Lihat Repartisi status sesuai permintaan untuk kueri streaming dengan status.applyInPandasperbaikan kinerja: Penurunan kinerja sebesar 3x padaapplyInPandasuntuk grup besar telah diperbaiki.
Databricks Runtime 18: 10 Maret 2026
- Pesan kesalahan untuk subkueri skalar yang digunakan dengan
EXEC IMMEDIATEsekarang mengidentifikasi penyebab spesifik dengan lebih jelas. - Memperbaiki race condition dalam pemadatan log checkpoint pada streaming yang dapat menyebabkan perilaku non-deterministik dalam kueri Structured Streaming.
- [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 26 Februari 2026
-
SET METADATA ON COLUMNdanUNSET METADATA ON COLUMNperintah SQL sekarang tersedia untuk mengelola metadata semantik pada kolom tabel Katalog Unity. GunakanSET METADATA ON COLUMNuntuk melampirkan properti (display_name,format, dansynonyms) ke kolom. GunakanUNSET METADATA ON COLUMNuntuk menghapus properti metadata yang ditetapkan sebelumnya. -
DESCRIBE TABLEsekarang menyertakan kolom yangmetadatamenampilkan metadata semantik tingkat kolom sebagai string JSON. - Memperbaiki kesalahan impor PySpark di lingkungan Windows yang disebabkan oleh
UnixStreamServeryang hilang. - [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 19 Februari 2026
- Saat menginferensikan skema file Excel, sel bertipe string kini diinferensikan sebagai Spark
StringType, sesuai dengan tipe sel yang ditetapkan di Excel. Sebelumnya, string dengan nilai numerik ditransmisikan secara otomatis ke jenis yang lebih sempit sepertiLongatauDecimal. Perbarui kode yang bergantung pada perilaku sebelumnya. -
DataFrame.toJSON()sekarang tersedia di klien Python Spark Connect. - [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 27 Januari 2026
- Auto Loader sekarang melaporkan
batchSizeNumFiles, ,batchSizeNumBytesdan status pemrosesan file (numFilesProcessed, ,numFilesSkippedCorruptednumFilesSkippedMissing,numFilesUnknownState) sebagai metrik. -
INSERT INTO ... BY NAMEsekarang mendukung klausulREPLACE WHERE. - Properti konfigurasi
spark.sql.xml.legacyXMLParser.enabledtelah diubah namanya menjadispark.sql.legacy.useLegacyXMLParser. Perbarui konfigurasi kluster atau sesi apa pun yang menggunakan nama lama. - Ketika
spark.task.resource.gpu.amountlebih besar dari 1, Torch Distributor kini meluncurkan satu prosestorchrunper GPU alih-alih per tugas. - [Perbaikan keamanan] Pembaruan keamanan sistem operasi.
Databricks Runtime 18: 15 Januari 2026
Databricks Runtime 18 sekarang dalam pengembangan fitur, didukung oleh Apache Spark 4.1.0. Versi ini menggabungkan semua fitur, peningkatan, dan perbaikan bug dari semua rilis Databricks Runtime sebelumnya.
Perubahan perilaku
Tinjau perubahan berikut, yang berlaku ketika kluster dimulai ulang pada runtime ini.
JDK 21: Databricks Runtime 18 menggunakan JDK 21 sebagai Kit Pengembangan Java default. JDK 21 umumnya tersedia dan merupakan rilis dukungan jangka panjang (LTS). Sebelumnya, defaultnya adalah JDK 17. Perubahan penting:
-
Double.toString()danFloat.toString()sekarang menghasilkan representasi string unik terpendek, yang mungkin berbeda dari output JDK 17 dalam beberapa kasus tepi. -
Thread.stop(),Thread.suspend(), danThread.resume()sekarang melemparkanUnsupportedOperationException. - Data lokal yang diperbarui (CLDR v42) mungkin memengaruhi pemformatan tanggal, waktu, dan angka.
Jika Anda mengalami masalah kompatibilitas, kembali ke JDK 17. Untuk informasi tentang mengonfigurasi versi JDK, lihat Membuat kluster dengan versi JDK tertentu.
-
FSCK REPAIR TABLE: Sekarang termasuk langkah perbaikan metadata awal sebelum memeriksa file data yang hilang. Perintah berfungsi pada tabel dengan titik pemeriksaan yang rusak atau nilai partisi yang tidak valid.Nullability Scala Spark Connect: Nullability tipe array dan map kini dipertahankan untuk literal bertipe di klien Scala Spark Connect. Sebelumnya, elemen array dan nilai dari peta selalu bisa bernilai null.
FSCK REPAIR TABLE DRY RUN: KolomdataFilePathdalamFSCK REPAIR TABLE DRY RUNskema output sekarang dapat diubah ke null untuk mendukung pelaporan jenis masalah baru di mana jalur file data tidak berlaku.SHOW TABLES DROPPED: Sekarang menghormati klausulLIMITdengan benar.Eksekusi UDF Python: Unity Catalog Python UDF sekarang menggunakan Apache Arrow sebagai format pertukaran bawaan, sehingga meningkatkan performa secara keseluruhan. Sebagai bagian dari perubahan ini,
TIMESTAMPnilai yang diteruskan ke UDF Python tidak lagi menyertakan informasi zona waktu dalamdatetimeatribut objektzinfo. Nilai tanda waktu itu sendiri tetap dalam UTC, tetapi metadata zona waktu sekarang dihilangkan. Jika UDF Anda bergantung pada informasi zona waktu, pulihkan dengandate = date.replace(tzinfo=timezone.utc). Untuk informasi selengkapnya, lihat Perilaku zona waktu tanda waktu untuk input.Perjalanan waktu dan
VACUUMretensi: Azure Databricks sekarang memblokir kueri perjalanan waktu yang melampaui ambang batasdeletedFileRetentionDurationuntuk semua tabel. PerintahVACUUMmengabaikan argumen durasi retensi kecuali ketika nilainya adalah 0 jam. Anda tidak dapat mengaturdeletedFileRetentionDurationlebih besar darilogRetentionDurationatau sebaliknya.BinaryTypedi PySpark: Di PySpark,BinaryTypesekarang secara konsisten memetakan ke Pythonbytes. PySpark sebelumnya memetakanBinaryTypekebytesataubytearraytergantung pada konteksnya. Untuk memulihkan perilaku lama, aturspark.sql.execution.pyspark.binaryAsByteskefalse.Struct NULL di Delta MERGE dan UPDATE: Kini dipertahankan sebagai NULL di Delta MERGE, UPDATE, dan operasi penulisan streaming yang mencakup konversi tipe struct. Sebelumnya, struktur NULL diperluas ke struktur dengan bidang NULL.
Materialisasi kolom partisi: Tabel Delta yang dipartisi kini menyertakan secara fisik kolom partisi pada file data Parquet yang baru ditulis. Sebelumnya, nilai partisi disimpan dalam metadata log transaksi Delta dan tercermin dalam jalur direktori, tetapi tidak ditulis sebagai kolom dalam file Parquet itu sendiri. Perubahan ini selaras dengan perilaku Apache Iceberg dan UniForm dan dapat memengaruhi beban kerja yang langsung membaca file Parquet yang ditulis oleh Delta Lake.
Zona waktu partisi tanda waktu: Nilai partisi tanda waktu sebelumnya dikonversi ke UTC menggunakan zona waktu JVM alih-alih
spark.sql.session.timeZonekonfigurasi. Nilai partisi tanda waktu sekarang disesuaikan dengan benar menggunakan pengaturan zona waktu sesi Spark.DESCRIBE TABLEkolom metadata: OutputDESCRIBE TABLE [EXTENDED]sekarang menyertakan kolom barumetadatauntuk semua jenis tabel. Kolom ini berisi metadata semantik (nama tampilan, format, dan sinonim) yang ditentukan pada tabel sebagai string JSON.
Fitur dan peningkatan baru
Fitur dan peningkatan berikut tersedia dalam rilis ini.
- Pembuatan skrip SQL: Fitur pembuatan skrip SQL sekarang tersedia secara umum.
-
Isolasi bersama untuk UDF Python Unity Catalog: UDF Python Unity Catalog dengan pemilik yang sama kini dapat berbagi lingkungan isolasi secara default. Ini meningkatkan performa dan mengurangi penggunaan memori dengan mengurangi jumlah lingkungan terpisah yang diluncurkan. Untuk memastikan UDF selalu berjalan di lingkungan yang sepenuhnya terisolasi, tambahkan
STRICT ISOLATIONklausa karakteristik. Lihat Isolasi lingkungan. - Fungsi jendela SQL dalam tampilan metrik: Anda sekarang dapat menggunakan fungsi jendela SQL dalam tampilan metrik untuk menghitung total yang berjalan, peringkat, dan perhitungan berbasis jendela lainnya.
- Partisi acak dinamis dalam streaming stateless: Anda sekarang dapat mengubah jumlah partisi acak dalam kueri streaming stateless tanpa memulai ulang kueri.
- AQE dan AOS dalam streaming tanpa status: Adaptive Query Execution (AQE) dan auto-optimized shuffle (AOS) kini didukung dalam kueri streaming tanpa status.
-
Penanda parameter: Anda sekarang dapat menggunakan penanda parameter bernama (
:param) dan tanpa nama (?) hampir di mana saja nilai harfiah dari jenis yang sesuai dapat digunakan. Ini termasuk pernyataan DDL sepertiCREATE VIEW v AS SELECT ? AS c1, jenis kolomDECIMAL(:p, :s), atauCOMMENT ON t IS :comment. Lihat Penanda parameter untuk detailnya. -
IDENTIFIERklausa: CakupanIDENTIFIERklausa, yang mengonversi string menjadi nama objek SQL, telah diperluas ke hampir semua tempat yang mengizinkan identifier. Lihat klausa IDENTIFIER untuk detailnya. -
BITMAP_AND_AGG: PustakaBITMAPfungsi yang ada sekarang menyertakan fungsi BITMAP_AND_AGG baru. - Fungsi Theta Sketch: Anda kini dapat menggunakan pustaka fungsi baru untuk penghitungan nilai unik secara perkiraan dan operasi himpunan menggunakan DataSketches Theta Sketch. Lihat theta_sketch_agg dan fungsi terkait.
- Fungsi sketsa KLL: Anda sekarang dapat menggunakan pustaka fungsi baru untuk perkiraan komputasi kuantil menggunakan Sketsa KLL. Lihat kll_sketch_agg_bigint dan fungsi terkait.
- Fungsi geospasial baru: st_azimuth, st_boundary, st_closestpoint, dan st_geogfromewkt sekarang tersedia.
-
GeometryTypedanGeographyType: Apache Spark sekarang mendukung jenis dataGeometryTypedanGeographyTypeasli di API PySpark dan Java. Jenis ini mendukung serialisasi Arrow serta pembacaan dan penulisan Parquet, dan berbeda dengan fungsi geospasial SQL. -
approx_top_k: Fungsi agregat approx_top_k baru mengembalikan perkiraan nilai paling sering top-K dalam kolom menggunakan algoritma sketsa yang hemat spasi. - Driver Spark Connect JDBC: Apache Spark sekarang menyertakan driver JDBC untuk Spark Connect, memungkinkan klien dan alat berbasis JDBC untuk terhubung ke Spark melalui protokol Spark Connect.
-
Iterator[pandas.DataFrame]diapplyInPandas:DataFrame.applyInPandaskini menerima fungsi dengan tanda tanganIterator[pandas.DataFrame], sehingga mengurangi overhead saat memproses kelompok besar dengan mengalirkan data dalam batch. - Periksa batasan: Sekarang mendukung perbandingan nilai null dalam ekspresi batasan.
-
API pemartisian ulang status untuk
TransformWithState: API pemartisian ulang status baru tersedia untukTransformWithStateoperator streaming Scala, yang memungkinkan Anda mengubah pemartisian kunci untuk data stateful saat kueri dimulai ulang. Lihat Repartisi status sesuai permintaan untuk kueri streaming dengan status. -
Python 3.14 di
pyspark-connect:pyspark-clientdanpyspark-connectsekarang mendukung Python 3.14.
Peningkatan pustaka
Pustaka Python yang ditingkatkan:
- anyio dari 4.6.2 hingga 4.7.0
- asttokens versi 2.0.5 hingga 3.0.0
- azure-core dari 1.34.0 hingga 1.37.0
- azure-mgmt-core dari 1.5.0 hingga 1.6.0
- azure-storage-blob dari 12.23.0 hingga 12.28.0
- azure-storage-file-datalake dari 12.17.0 hingga 12.22.0
- boto3 dari 1.36.2 ke 1.40.45
- botocore dari 1.36.3 ke 1.40.45
- certifi dari 2025.1.31 hingga 2025.4.26
- klik dari 8.1.7 ke 8.1.8
- kriptografi dari 43.0.3 ke 44.0.1
- Cython dari 3.0.12 ke 3.1.5
- databricks-sdk dari 0.49.0 hingga 0.67.0
- Tidak digunakan lagi dari 1.2.13 menjadi 1.2.18
- menjalankan dari 0.8.3 ke 1.2.0
- fastapi dari 0.115.12 ke 0.128.0
- filelock dari 3.18.0 ke 3.17.0
- google-api-core dari 2.20.0 hingga 2.28.1
- google-auth dari 2.40.0 hingga 2.47.0
- google-cloud-core dari 2.4.3 hingga 2.5.0
- google-cloud-storage dari 3.1.0 hingga 3.7.0
- google-crc32c dari 1.7.1 hingga 1.8.0
- google-resumable-media dari 2.7.2 hingga 2.8.0
- h11 dari 0,14,0 ke 0,16,0
- httpcore dari 1.0.2 hingga 1.0.9
- httpx dari 0.27.0 hingga 0.28.1
- isodate dari 0.6.1 hingga 0.7.2
- Jinja2 dari 3.1.5 hingga 3.1.6
- jupyter-events dari 0.10.0 hingga 0.12.0
- jupyter-lsp dari 2.2.0 ke 2.2.5
- jupyter_server dari 2.14.1 ke 2.15.0
- jupyter_server_terminals dari 0.4.4 ke 0.5.3
- mistune dari 2.0.4 menjadi 3.1.2
- mlflow-skinny dari 3.0.1 hingga 3.8.1
- mmh3 dari 5.1.0 hingga 5.2.0
- msal dari 1.32.3 hingga 1.34.0
- nbclient dari 0.8.0 ke 0.10.2
- nbconvert dari 7.16.4 ke 7.16.6
- nodeenv dari 1.9.1 hingga 1.10.0
- notebook_shim dari 0.2.3 hingga 0.2.4
- opentelemetry-api dari 1.32.1 hingga 1.39.1
- opentelemetry-sdk dari 1.32.1 hingga 1.39.1
- opentelemetry-semantic-conventions dari 0.53b1 hingga 0.60b1
- platformdirs dari 3.10.0 hingga 4.3.7
- prometheus_client dari 0.21.0 hingga 0.21.1
- proto-plus dari 1.26.1 hingga 1.27.0
- psycopg2 dari 2.9.3 ke 2.9.11
- pyarrow dari 19.0.1 hingga 21.0.0
- Pygments dari 2.15.1 hingga 2.19.1
- pyiceberg dari 0,9,0 hingga 0,10,0
- python-lsp-server dari 1.12.0 ke 1.12.2
- tali dari 1.12.0 hingga 1.13.0
- s3transfer dari 0.11.3 ke 0.14.0
- scipy dari 1.15.1 hingga 1.15.3
- setuptools dari 74.0.0 hingga 78.1.1
- enam versi dari 1.16.0 hingga 1.17.0
- sqlparse dari 0.5.3 ke 0.5.5
- stack-data dari 0.2.0 hingga 0.6.3
- starlette dari versi 0.46.2 hingga versi 0.50.0
- tornado dari 6.4.2 ke 6.5.1
- types-python-dateutil dari 2.9.0.20241206 ke 2.9.0.20251115
- uvicorn dari 0.34.2 ke versi 0.40.0
- webcolors dari 24.11.1 hingga 25.10.0
Pustaka R yang ditingkatkan:
- panah dari 19.0.1 hingga 22.0.0
- Dasar dari 4.4.2 ke 4.5.1
- bigD dari 0.3.0 hingga 0.3.1
- broom dari 1.0.7 ke 1.0.10
- jam dari 0.7.2 hingga 0.7.3
- commonmark dari 1.9.5 hingga 2.0.0
- compiler dari 4.4.2 ke 4.5.1
- kredensial dari 2.0.2 hingga 2.0.3
- curl dari 6.4.0 ke 7.0.0
- data.table dari 1.17.0 hingga 1.17.8
- himpunan data dari 4.4.2 hingga 4.5.1
- dbplyr dari 2.5.0 ke 2.5.1
- devtools dari 2.4.5 hingga 2.4.6
- diffobj dari 0.3.5 hingga 0.3.6
- digest dari versi 0.6.37 ke versi 0.6.39
- downlit dari 0.4.4 ke 0.4.5
- dtplyr dari 1.3.1 ke 1.3.2
- evaluasi dari 1.0.3 ke 1.0.5
- fansi dari 1.0.6 hingga 1.0.7
- forcats dari 1.0.0 hingga 1.0.1
- fs dari 1.6.5 hingga 1.6.6
- versi di masa depan dari 1.34.0 ke 1.68.0
- future.apply dari 1.11.3 ke 1.20.0
- gargle dari 1.5.2 ke 1.6.0
- gert dari 2.1.4 ke 2.2.0
- ggplot2 dari 3.5.1 ke 4.0.1
- gh dari 1.4.1 ke 1.5.0
- git2r dari 0.35.0 ke 0.36.2
- glmnet dari 4,1-8 hingga 4,1-10
- googledrive dari 2.1.1 hingga 2.1.2
- googlesheets4 dari 1.1.1 hingga 1.1.2
- grafik dari 4.4.2 hingga 4.5.1
- grDevices dari 4.4.2 ke 4.5.1
- kisi dari 4.4.2 hingga 4.5.1
- gt dari 0.11.1 ke 1.1.0
- hardhat dari 1.4.1 ke 1.4.2
- pembaruan haven dari 2.5.4 ke 2.5.5
- hms dari 1.1.3 hingga 1.1.4
- httpuv dari 1.6.15 ke 1.6.16
- httr2 dari 1.1.1 hingga 1.2.1
- jsonlite dari 1.9.1 ke 2.0.0
- kemudian dari 1.4.1 hingga 1.4.4
- lava dari 1.8.1 hingga 1.8.2
- listenv dari 0.9.1 hingga 0.10.0
- magrittr dari 2.0.3 hingga 2.0.4
- Pembaruan markdown dari versi 1.13 ke versi 2.0
- metode dari 4.4.2 hingga 4.5.1
- miniUI dari 0.1.1.1 ke 0.1.2
- mlflow dari 2.20.4 ke 3.6.0
- openssl dari 2.3.3 hingga 2.3.4
- paralel dari 4.4.2 hingga 4.5.1
- secara paralel dari 1.42.0 hingga 1.45.1
- pilar dari 1.11.0 hingga 1.11.1
- pkgbuild dari 1.4.6 ke 1.4.8
- pkgdown dari 2.1.1 ke 2.2.0
- pkgload dari 1.4.0 ke 1.4.1
- pROC dari 1.18.5 ke 1.19.0.1
- prodlim dari 2024.06.25 hingga 2025.04.28
- progressr dari 0.15.1 ke 0.18.0
- janji dari 1.3.2 hingga 1.5.0
- ps dari 1.9.0 ke 1.9.1
- purrr dari 1.0.4 hingga 1.2.0
- ragg dari 1.3.3 ke 1.5.0
- Rcpp dari 1.0.14 hingga 1.1.0
- readr dari 2.1.5 hingga 2.1.6
- resep dari 1.2.0 hingga 1.3.1
- Pembaruan reshape2 dari versi 1.4.4 ke versi 1.4.5
- rmarkdown dari 2,29 ke 2,30
- roxygen2 dari 7.3.2 ke 7.3.3
- rprojroot dari 2.0.4 ke 2.1.1
- RSQLite dari 2.3.9 ke 2.4.4
- versi R dari 2.1.2 sampai dengan 3.0.0
- rvest dari 1.0.4 hingga 1.0.5
- sass dari 0.4.9 ke 0.4.10
- skala dari 1.3.0 ke 1.4.0
- mengkilap dari 1.10.0 hingga 1.11.1
- sparklyr dari 1.9.1 hingga 1.9.3
- SparkR dari 4.0.0 hingga 4.1.0
- sparsevctrs versi 0.3.1 hingga versi 0.3.4
- spline dari 4.4.2 ke 4.5.1
- statistik dari 4.4.2 hingga 4.5.1
- stats4 dari 4.4.2 hingga 4.5.1
- stringr dari 1.5.1 hingga 1.6.0
- "systemfonts" dari 1.2.1 hingga 1.3.1
- tcltk dari 4.4.2 ke 4.5.1
- testthat dari 3.2.3 ke 3.3.0
- textshaping dari 1.0.0 ke 1.0.4
- timeDate dari 4041.110 hingga 4051.111
- tinytex dari 0,56 hingga 0,58
- perangkat dari versi 4.4.2 hingga versi 4.5.1
- usethis dari 3.1.0 ke 3.2.1
- utils dari 4.4.2 ke 4.5.1
- V8 dari 6.0.2 hingga 8.0.1
- vroom dari 1.6.5 hingga 1.6.6
- waldo dari 0.6.1 hingga 0.6.2
- xfun dari 0,51 hingga 0,54
- xml2 dari 1.3.8 hingga 1.5.0
- zeallot dari 0.1.0 hingga 0.2.0
- zip dari 2.3.2 hingga 2.3.3
Pustaka Java yang ditingkatkan:
- com.amazonaws.amazon-kinesis-client dari 1.12.0 hingga 1.15.3
- com.amazonaws.aws-java-sdk-autoscaling dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudformation dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudfront dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudhsm dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudsearch dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudtrail dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudwatch dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cloudwatchmetrics dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-codedeploy dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cognitoidentity dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-cognitosync dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-config dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-core dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-datapipeline dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-directconnect dari 1.12.638 ke 1.12.681
- com.amazonaws.aws-java-sdk-directory dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-dynamodb dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-ec2 dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-ecs dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-efs dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-elasticache dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-elasticbeanstalk dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-elasticloadbalancing dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-elastictranscoder dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-emr dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-glacier dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-glue dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-iam dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-importexport dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-kinesis dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-kms dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-lambda dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-logs dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-machinelearning dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-opsworks dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-rds dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-redshift dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-route53 dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-s3 dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-ses dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-simpledb dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-simpleworkflow dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-sns dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-sqs dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-ssm dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-storagegateway dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-sts dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-support dari 1.12.638 hingga 1.12.681
- com.amazonaws.aws-java-sdk-workspaces dari 1.12.638 hingga 1.12.681
- com.amazonaws.jmespath-java dari 1.12.638 hingga 1.12.681
- com.databricks.databricks-sdk-java dari 0.27.0 hingga 0.53.0
- com.fasterxml.jackson.datatype.jackson-datatype-jsr310 dari 2.18.2 hingga 2.18.3
- com.github.luben.zstd-jni dari 1.5.6-10 menjadi 1.5.7-6
- com.google.flatbuffers.flatbuffers-java dari 24.3.25 hingga 25.2.10
- com.google.guava.failureaccess dari 1.0.2 hingga 1.0.3
- com.google.guava.guava dari 33.4.0-jre ke 33.4.8-jre
- com.microsoft.sqlserver.mssql-jdbc dari 11.2.3.jre8 ke 12.8.0.jre8
- commons-cli.commons-cli dari 1.9.0 hingga 1.10.0
- commons-codec.commons-codec dari 1.17.2 hingga 1.19.0
- commons-fileupload.commons-fileupload dari 1.5 ke 1.6.0
- commons-io.commons-io dari 2.18.0 hingga 2.21.0
- dev.ludovic.netlib.arpack dari 3.0.3 hingga 3.0.4
- dev.ludovic.netlib.blas dari 3.0.3 hingga 3.0.4
- dev.ludovic.netlib.lapack dari 3.0.3 hingga 3.0.4
- io.dropwizard.metrics.metrics-annotation dari 4.2.30 hingga 4.2.37
- io.dropwizard.metrics.metrics-core dari 4.2.30 menjadi 4.2.37
- io.dropwizard.metrics.metrics-graphite dari 4.2.30 hingga 4.2.37
- io.dropwizard.metrics.metrics-healthchecks dari 4.2.30 hingga 4.2.37
- io.dropwizard.metrics.metrics-jmx dari 4.2.30 ke 4.2.37
- io.dropwizard.metrics.metrics-json dari 4.2.30 ke 4.2.37
- io.dropwizard.metrics.metrics-jvm dari 4.2.30 ke 4.2.37
- io.dropwizard.metrics.metrics-servlets dari 4.2.30 hingga 4.2.37
- io.delta.delta-sharing-client_2.13 dari 1.3.10 hingga 1.3.11
- io.netty.netty-all dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-buffer dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-codec dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-codec-http dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-codec-http2 dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-codec-socks dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-common dari 4.1.118.Final hingga 4.2.7.Final
- io.netty.netty-handler dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-handler-proxy dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-resolver dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-tcnative-boringssl-static dari 2.0.70.Final-db-r0-windows-x86_64 ke 2.0.74.Final-db-r0-windows-x86_64
- kelas io.netty.netty-tcnative dari 2.0.70.Final hingga 2.0.74.Final
- io.netty.netty-transport dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-transport-classes-epoll dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-transport-classes-kqueue dari 4.1.118.Final ke 4.2.7.Final
- io.netty.netty-transport-native-epoll diperbarui dari 4.1.118.Final-linux-x86_64 menjadi 4.2.7.Final-linux-x86_64
- io.netty.netty-transport-native-kqueue dari 4.1.118.Final-osx-x86_64 ke 4.2.7.Final-osx-x86_64
- io.netty.netty-transport-native-unix-common dari 4.1.118.Final hingga 4.2.7.Final
- joda-time.joda-time dari 2.13.0 hingga 2.14.0
- org.apache.arrow.arrow-format dari 18.2.0 hingga 18.3.0
- org.apache.arrow.arrow-memory-core dari 18.2.0 hingga 18.3.0
- org.apache.arrow.arrow-memory-netty dari 18.2.0 hingga 18.3.0
- org.apache.arrow.arrow-memory-netty-buffer-patch dari 18.2.0 hingga 18.3.0
- org.apache.arrow.arrow-vector dari 18.2.0 hingga 18.3.0
- org.apache.avro.avro dari 1.12.0 ke 1.12.1
- org.apache.avro.avro-ipc dari 1.12.0 hingga 1.12.1
- org.apache.avro.avro-mapred dari 1.12.0 ke 1.12.1
- org.apache.commons.commons-collections4 dari 4.4 hingga 4.5.0
- org.apache.commons.commons-compress dari 1.27.1 hingga 1.28.0
- org.apache.commons.commons-lang3 dari 3.17.0 hingga 3.19.0
- org.apache.commons.commons-text dari 1.13.0 hingga 1.14.0
- org.apache.curator.curator-client dari 5.7.1 hingga 5.9.0
- org.apache.curator.curator-framework dari 5.7.1 hingga 5.9.0
- org.apache.curator.curator-recipes dari 5.7.1 hingga 5.9.0
- org.apache.datasketches.datasketches-java dari 6.1.1 hingga 6.2.0
- org.apache.hadoop.hadoop-client-runtime dari 3.4.1 hingga 3.4.2
- org.apache.orc.orc-core dari 2.1.1-shaded-protobuf ke 2.2.0-shaded-protobuf
- org.apache.orc.orc-format dari 1.1.0-shaded-protobuf ke 1.1.1-shaded-protobuf
- org.apache.orc.orc-mapreduce dari 2.1.1-shaded-protobuf ke 2.2.0-shaded-protobuf
- org.apache.orc.orc-shims dari 2.1.1 hingga 2.2.0
- org.apache.xbean.xbean-asm9-shaded dari 4.26 hingga 4.28
- org.apache.zookeeper.zookeeper dari 3.9.3 ke 3.9.4
- org.apache.zookeeper.zookeeper-jute dari 3.9.3 hingga 3.9.4
- org.eclipse.jetty.jetty-client dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-http dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-io dari 9.4.53.v20231009 menjadi 10.0.26
- org.eclipse.jetty.jetty-jndi dari 9.4.53.v20231009 menjadi 10.0.26
- org.eclipse.jetty.jetty-plus dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-proxy dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-security dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-server dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-servlet dari 9.4.53.v20231009 menjadi 10.0.26
- org.eclipse.jetty.jetty-servlets dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-util dari 9.4.53.v20231009 menjadi 10.0.26
- org.eclipse.jetty.jetty-webapp dari 9.4.53.v20231009 hingga 10.0.26
- org.eclipse.jetty.jetty-xml dari 9.4.53.v20231009 hingga 10.0.26
- org.mlflow.mlflow-spark_2.13 dari 2.9.1 ke 2.22.1
- org.objenesis.objenesis dari 3.3 hingga 3.4
- org.scala-lang.modules.scala-xml_2.13 dari 2.3.0 hingga 2.4.0
Dukungan pada driver Databricks ODBC/JDBC
Databricks mendukung driver ODBC/JDBC yang dirilis dalam 2 tahun terakhir. Silakan unduh driver terbaru dan lakukan peningkatan (unduh ODBC, unduh JDBC).
Lingkungan sistem
- Sistem Operasi: Ubuntu 24.04.4 LTS
- Java: Zulu21.42+19-CA
- Scala: 2.13.16
- Python: 3.12.3
- R: 4.5.1
- Danau Delta: 4.2.0
Pustaka Python yang diinstal
| Perpustakaan | Versi | Perpustakaan | Versi | Perpustakaan | Versi |
|---|---|---|---|---|---|
| aiohappyeyeballs | 2.4.4 | aiohttp | 3.11.10 | aiosignal | 1.2.0 |
| anotasi-doc | 0.0.4 | annotated-types | 0.7.0 | anyio | 4.7.0 |
| argon2-cffi | 21.3.0 | argon2-cffi-bindings | 21.2.0 | arro3-core | 0.6.5 |
| arrow | 1.3.0 | asttokens | 3.0.0 | astunparse | 1.6.3 |
| async-lru | 2.0.4 | attrs | 24.3.0 | autocommand | 2.2.2 |
| Azure Common | 1.1.28 | azure-core | 1.37.0 | azure-identity | 1.20.0 |
| azure-mgmt-core | 1.6.0 | azure-mgmt-web | 8.0.0 | azure-storage-blob | 12.28.0 |
| azure-storage-file-datalake | 12.22.0 | babel | 2.16.0 | backports.tarfile | 1.2.0 |
| beautifulsoup4 | 4.12.3 | black | 24.10.0 | bleach | 6.2.0 |
| blinker | 1.7.0 | boto3 | 1.40.45 | botocore | 1.40.45 |
| cachetools | 5.5.1 | certifi | 2025.4.26 | cffi | 1.17.1 |
| chardet | 4.0.0 | charset-normalizer | 3.3.2 | klik | 8.1.8 |
| cloudpickle | 3.0.0 | comm | 0.2.1 | contourpy | 1.3.1 |
| cryptography | 44.0.1 | cycler | 0.11.0 | Cython | 3.1.5 |
| databricks-agents | 1.9.1 | databricks-sdk | 0.67.0 | dataclasses-json | 0.6.7 |
| dbus-python | 1.3.2 | debugpy | 1.8.11 | decorator | 5.1.1 |
| defusedxml | 0.7.1 | deltalake | 1.1.4 | Deprecated | 1.2.18 |
| distlib | 0.3.9 | docstring-to-markdown | 0.11 | eksekusi | 1.2.0 |
| facets-overview | 1.1.1 | fastapi | 0.128.0 | fastjsonschema | 2.21.1 |
| filelock | 3.17.0 | fonttools | 4.55.3 | fqdn | 1.5.1 |
| daftar yang dibekukan | 1.5.0 | fsspec | 2023.5.0 | gitdb | 4.0.11 |
| GitPython | 3.1.43 | google-api-core | 2.28.1 | google-auth | 2.47.0 |
| google-cloud-core | 2.5.0 | google-cloud-storage | 3.7.0 | google-crc32c | 1.8.0 |
| google-resumable-media | 2.8.0 | googleapis-common-protos | 1.65.0 | grpcio | 1.67.0 |
| grpcio-status | 1.67.0 | h11 | 0.16.0 | hf-xet | 1.2.0 |
| httpcore | 1.0.9 | httplib2 | 0.20.4 | httpx | 0.28.1 |
| huggingface_hub | 1.2.4 | idna | 3.7 | importlib_metadata | 8.5.0 |
| inflect | 7.3.1 | iniconfig | 1.1.1 | ipyflow-core | 0.0.209 |
| ipykernel | 6.29.5 | ipython | 8.30.0 | ipython-genutils | 0.2.0 |
| ipywidgets | 7.8.1 | isodate | 0.7.2 | isoduration | 20.11.0 |
| jaraco.collections | 5.1.0 | jaraco.context | 5.3.0 | jaraco.functools | 4.0.1 |
| jaraco.text | 3.12.1 | jedi | 0.19.2 | Jinja2 | 3.1.6 |
| jiter | 0.12.0 | jmespath | 1.0.1 | joblib | 1.4.2 |
| json5 | 0.9.25 | jsonpatch | 1,33 | jsonpointer | 3.0.0 |
| jsonschema | 4.23.0 | jsonschema-specifications | 2023.7.1 | jupyter-events | 0.12.0 |
| jupyter-lsp | 2.2.5 | jupyter_client | 8.6.3 | jupyter_core | 5.7.2 |
| jupyter_server | 2.15.0 | jupyter_server_terminals | 0.5.3 | jupyterlab | 4.3.4 |
| jupyterlab_pygments | 0.3.0 | jupyterlab_server | 2.27.3 | jupyterlab_widgets | 1.1.11 |
| kiwisolver | 1.4.8 | langchain-core | 1.2.6 | langchain-openai | 1.1.6 |
| langsmith | 0.6.1 | launchpadlib | 1.11.0 | lazr.restfulclient | 0.14.6 |
| lazr.uri | 1.0.6 | litellm | 1.75.9 | markdown-it-py | 2.2.0 |
| MarkupSafe | 3.0.2 | kembang gula (marshmallow) | 3.26.2 | matplotlib | 3.10.0 |
| matplotlib-inline | 0.1.7 | Mccabe | 0.7.0 | mdurl | 0.1.0 |
| mistune | 3.1.2 | mlflow-skinny | 3.8.1 | mmh3 | 5.2.0 |
| more-itertools | 10.3.0 | msal | 1.34.0 | msal-extensions | 1.3.1 |
| multidict | 6.1.0 | ekstensi mypy | 1.0.0 | nbclient | 0.10.2 |
| nbconvert | 7.16.6 | nbformat | 5.10.4 | nest-asyncio | 1.6.0 |
| nodeenv | 1.10.0 | notebook | 7.3.2 | notebook_shim | 0.2.4 |
| numpy | 2.1.3 | oauthlib | 3.2.2 | OpenAI | 2.14.0 |
| opentelemetry-api | 1.39.1 | opentelemetry-proto | 1.39.1 | opentelemetry-sdk | 1.39.1 |
| opentelemetry-semantic-conventions | 0.60b1 | orjson | 3.11.5 | Mengabaikan | 7.4.0 |
| packaging | 24.2 | pandas | 2.2.3 | pandocfilters | 1.5.0 |
| parso | 0.8.4 | pathspec | 0.10.3 | patsy | 1.0.1 |
| pexpect | 4.8.0 | pillow | 11.1.0 | pip | 25.0.1 |
| platformdirs | 4.3.7 | plotly | 5.24.1 | pluggy | 1.5.0 |
| prometheus_client | 0.21.1 | prompt-toolkit | 3.0.43 | propcache | 0.3.1 |
| proto-plus | 1.27.0 | protobuf | 5.29.4 | psutil | 5.9.0 |
| psycopg2 | 2.9.11 | ptyprocess | 0.7.0 | pure-eval | 0.2.2 |
| pyarrow | 21.0.0 | pyasn1 | 0.4.8 | pyasn1-modules | 0.2.8 |
| pyccolo | 0.0.71 | pycparser | 2.21 | pydantic | 2.10.6 |
| pydantic_core | 2.27.2 | pyflakes | 3.2.0 | Pygments | 2.19.1 |
| PyGObject | 3.48.2 | pyiceberg | 0.10.0 | PyJWT | 2.10.1 |
| pyodbc | 5.2.0 | pyparsing | 3.2.0 | pyright | 1.1.394 |
| pyroaring | 1.0.3 | pytest | 8.3.5 | python-dateutil | 2.9.0.post0 |
| python-dotenv | 1.2.1 | python-json-logger | 3.2.1 | python-lsp-jsonrpc | 1.1.2 |
| python-lsp-server | 1.12.2 | pytoolconfig | 1.2.6 | pytz | 2024.1 |
| PyYAML | 6.0.2 | pyzmq | 26.2.0 | referencing | 0.30.2 |
| regex | 2024.11.6 | requests | 2.32.3 | requests-toolbelt | 1.0.0 |
| rfc3339-validator | 0.1.4 | rfc3986-validator | 0.1.1 | rich | 13.9.4 |
| tali | 1.13.0 | rpds-py | 0.22.3 | rsa | 4.9.1 |
| s3transfer | 0.14.0 | scikit-learn | 1.6.1 | scipy | 1.15.3 |
| seaborn | 0.13.2 | Send2Trash | 1.8.2 | setuptools | 78.1.1 |
| shellingham | 1.5.4 | six | 1.17.0 | smmap | 5.0.0 |
| sniffio | 1.3.0 | sortedcontainers | 2.4.0 | soupsieve | 2.5 |
| sqlparse | 0.5.5 | ssh-import-id | 5.11 | stack-data | 0.6.3 |
| starlette | 0.50.0 | strictyaml | 1.7.3 | tenacity | 9.0.0 |
| terminado | 0.17.1 | threadpoolctl | 3.5.0 | tiktoken | 0.12.0 |
| tinycss2 | 1.4.0 | tokenize_rt | 6.1.0 | tokenisasi | 0.22.2 |
| tomli | 2.0.1 | tornado | 6.5.1 | tqdm | 4.67.1 |
| traitlets | 5.14.3 | typeguard | 4.3.0 | typer-slim | 0.21.1 |
| type-python-dateutil | 2.9.0.20251115 | mengetik-memeriksa | 0.9.0 | typing_extensions | 4.12.2 |
| tzdata | 2024.1 | ujson | 5.10.0 | unattended-upgrades | 0.1 |
| uri-template | 1.3.0 | urllib3 | 2.3.0 | uuid_utils | 0.12.0 |
| uvicorn | 0.40.0 | virtualenv | 20.29.3 | wadllib | 1.3.6 |
| wcwidth | 0.2.5 | webcolors | 25.10.0 | webencodings 0.5.1 | 0.5.1 |
| websocket-client | 1.8.0 | whatthepatch | 1.0.2 | wheel | 0.45.1 |
| Setiap kali | 0.7.3 | widgetsnbextension | 3.6.6 | wrapt | 1.17.0 |
| yapf | 0.40.2 | yarl | 1.18.0 | zipp | 3.21.0 |
| zstandard | 0.23.0 |
Perpustakaan R yang terinstal
Pustaka R diinstal dari snapshot CRAN di Posit Package Manager pada PACKAGES.
| Perpustakaan | Versi | Perpustakaan | Versi | Perpustakaan | Versi |
|---|---|---|---|---|---|
| arrow | 22.0.0 | askpass | 1.2.1 | assertthat | 0.2.1 |
| backports | 1.5.0 | base | 4.5.1 | base64enc | 0.1-3 |
| bigD | 0.3.1 | bit | 4.6.0 | bit64 | 4.6.0-1 |
| bitops | 1.0-9 | blob | 1.2.4 | boot | 1.3-30 |
| brew | 1.0-10 | brio | 1.1.5 | broom | 1.0.10 |
| bslib | 0.9.0 | cachem | 1.1.0 | callr | 3.7.6 |
| caret | 7.0-1 | cellranger | 1.1.0 | chron | 2.3-62 |
| class | 7.3-22 | cli | 3.6.5 | clipr | 0.8.0 |
| Jam | 0.7.3 | kluster | 2.1.6 | codetools | 0.2-20 |
| commonmark | 2.0.0 | compiler | 4.5.1 | config | 0.3.2 |
| conflicted | 1.2.0 | cpp11 | 0.5.2 | crayon | 1.5.3 |
| kredensial | 2.0.3 | curl | 7.0.0 | data.table | 1.17.8 |
| datasets | 4.5.1 | DBI | 1.2.3 | dbplyr | 2.5.1 |
| desc | 1.4.3 | devtools | 2.4.6 | diagram | 1.6.5 |
| diffobj | 0.3.6 | digest | 0.6.39 | downlit | 0.4.5 |
| dplyr | 1.1.4 | dtplyr | 1.3.2 | e1071 | 1.7-16 |
| elipsis | 0.3.2 | evaluate | 1.0.5 | fansi | 1.0.7 |
| farver | 2.1.2 | fastmap | 1.2.0 | fontawesome | 0.5.3 |
| forcats | 1.0.1 | foreach | 1.5.2 | foreign | 0.8-86 |
| fs | 1.6.6 | future | 1.68.0 | future.apply | 1.20.0 |
| gargle | 1.6.0 | generics | 0.1.4 | Gert | 2.2.0 |
| ggplot2 | 4.0.1 | GH | 1.5.0 | git2r | 0.36.2 |
| gitcreds | 0.1.2 | glmnet | 4.1-10 | globals | 0.18.0 |
| glue | 1.8.0 | googledrive | 2.1.2 | googlesheets4 | 1.1.2 |
| gower | 1.0.2 | graphics | 4.5.1 | grDevices | 4.5.1 |
| kisi | 4.5.1 | gridExtra | 2.3 | gsubfn | 0.7 |
| gt | 1.1.0 | gtabel | 0.3.6 | hardhat | 1.4.2 |
| haven | 2.5.5 | highr | 0.11 | hms | 1.1.4 |
| htmltools | 0.5.8.1 | htmlwidgets | 1.6.4 | httpuv | 1.6.16 |
| httr | 1.4.7 | httr2 | 1.2.1 | ids | 1.0.1 |
| ini | 0.3.1 | ipred | 0.9-15 | isoband | 0.2.7 |
| iterators | 1.0.14 | jquerylib | 0.1.4 | jsonlite | 2.0.0 |
| juicyjuice | 0.1.0 | KernSmooth | 2.23-22 | knitr | 1.50 |
| labeling | 0.4.3 | later | 1.4.4 | lattice | 0.22-5 |
| lava | 1.8.2 | siklus hidup | 1.0.4 | listenv | 0.10.0 |
| litedown | 0.8 | lubridate | 1.9.4 | magrittr | 2.0.4 |
| markdown | 2.0 | MASS | 7.3-60.0.1 | Matrix | 1.6-5 |
| memoise | 2.0.1 | methods | 4.5.1 | mgcv | 1.9-1 |
| mime | 0.13 | miniUI | 0.1.2 | mlflow | 3.6.0 |
| ModelMetrics | 1.2.2.2 | modelr | 0.1.11 | nlme | 3.1-164 |
| nnet | 7.3-19 | numDeriv | 2016.8-1.1 | openssl | 2.3.4 |
| otel | 0.2.0 | parallel | 4.5.1 | parallelly | 1.45.1 |
| pillar | 1.11.1 | pkgbuild | 1.4.8 | pkgconfig | 2.0.3 |
| pkgdown | 2.2.0 | pkgload | 1.4.1 | plogr | 0.2.0 |
| plyr | 1.8.9 | praise | 1.0.0 | prettyunits | 1.2.0 |
| pROC | 1.19.0.1 | processx | 3.8.6 | prodlim | 2025.04.28 |
| profvis | 0.4.0 | progress | 1.2.3 | progressr | 0.18.0 |
| promises | 1.5.0 | proto | 1.0.0 | proksi | 0.4-27 |
| ps | 1.9.1 | purrr | 1.2.0 | R6 | 2.6.1 |
| ragg | 1.5.0 | randomForest | 4.7-1.2 | rappdirs | 0.3.3 |
| rcmdcheck | 1.4.0 | RColorBrewer | 1.1-3 | Rcpp | 1.1.0 |
| RcppEigen | 0.3.4.0.2 | reactable | 0.4.4 | reactR | 0.6.1 |
| alat baca | 2.1.6 | readxl | 1.4.5 | recipes | 1.3.1 |
| rematch | 2.0.0 | rematch2 | 2.1.2 | remotes | 2.5.0 |
| reprex | 2.1.1 | reshape2 | 1.4.5 | rlang | 1.1.6 |
| rmarkdown | 2.30 | RODBC | 1.3-26 | roxygen2 | 7.3.3 |
| rpart | 4.1.23 | rprojroot | 2.1.1 | Rserve | 1.8-15 |
| RSQLite | 2.4.4 | rstudioapi | 0.17.1 | rversions | 3.0.0 |
| rvest | 1.0.5 | S7 | 0.2.1 | sass | 0.4.10 |
| scales | 1.4.0 | selectr | 0.4-2 | sessioninfo | 1.2.3 |
| bentuk | 1.4.6.1 | shiny | 1.11.1 | sourcetools | 0.1.7-1 |
| sparklyr | 1.9.3 | SparkR | 4.1.0 | sparsevctrs | 0.3.4 |
| spasial | 7.3-17 | splines | 4.5.1 | sqldf | 0.4-11 |
| SQUAREM | 2021.1 | stats | 4.5.1 | stats4 | 4.5.1 |
| stringi | 1.8.7 | stringr | 1.6.0 | survival | 3.5-8 |
| swagger | 5.17.14.1 | Sistem | 3.4.3 | systemfonts | 1.3.1 |
| tcltk | 4.5.1 | testthat | 3.3.0 | textshaping | 1.0.4 |
| tibble | 3.3.0 | tidyr | 1.3.1 | tidyselect | 1.2.1 |
| tidyverse | 2.0.0 | timechange | 0.3.0 | timeDate | 4051.111 |
| tinytex | 0.58 | perangkat | 4.5.1 | tzdb | 0.5.0 |
| urlchecker | 1.0.1 | usethis | 3.2.1 | utf8 | 1.2.6 |
| utils | 4.5.1 | uuid | 1.2-1 | V8 | 8.0.1 |
| vctrs | 0.6.5 | viridisLite | 0.4.2 | vroom | 1.6.6 |
| waldo | 0.6.2 | whisker | 0.4.1 | withr | 3.0.2 |
| xfun | 0.54 | xml2 | 1.5.0 | xopen | 1.0.1 |
| xtable | 1.8-4 | yaml | 2.3.10 | zeallot | 0.2.0 |
| zip | 2.3.3 |
Pustaka Java dan Scala terinstal (versi kluster Scala 2.13)
| ID Kelompok | Identifikasi Artefak | Versi |
|---|---|---|
| antlr | antlr | 2.7.7 |
| com.clearspring.analytics | aliran | 2.9.8 |
| com.databricks | Rserve | 1.8-3 |
| com.databricks | databricks-sdk-java | 0.53.0 |
| com.databricks | jets3t | 0.7.1-0 |
| com.databricks.scalapb | scalapb-runtime_2.13 | 0.4.15-11 |
| com.esotericsoftware | kryo-shaded | 4.0.3 |
| com.esotericsoftware | minlog | 1.3.0 |
| com.fasterxml | classmate | 1.5.1 |
| com.fasterxml.jackson.core | jackson-annotations | 2.18.2 |
| com.fasterxml.jackson.core | jackson-core | 2.18.2 |
| com.fasterxml.jackson.core | jackson-databind | 2.18.2 |
| com.fasterxml.jackson.dataformat | jackson-dataformat-yaml | 2.15.2 |
| com.fasterxml.jackson.datatype | jackson-datatype-joda | 2.18.2 |
| com.fasterxml.jackson.datatype | jackson-datatype-jsr310 | 2.18.3 |
| com.fasterxml.jackson.module | jackson-module-paranamer | 2.18.2 |
| com.fasterxml.jackson.module | jackson-module-scala_2.13 | 2.18.2 |
| com.github.ben-manes.caffeine | caffeine | 2.9.3 |
| com.github.blemale | scaffeine_2.13 | 4.1.0 |
| com.github.fommil | jniloader | 1.1 |
| com.github.fommil.netlib | native_ref-java | 1.1 |
| com.github.fommil.netlib | native_ref-java | 1.1-natives |
| com.github.fommil.netlib | native_system-java | 1.1 |
| com.github.fommil.netlib | native_system-java | 1.1-natives |
| com.github.fommil.netlib | netlib-native_ref-linux-x86_64 | 1.1-natives |
| com.github.fommil.netlib | netlib-native_system-linux-x86_64 | 1.1-natives |
| com.github.luben | zstd-jni | 1.5.7-6 |
| com.github.virtuald | curvesapi | 1.08 |
| com.github.wendykierp | JTransforms | 3.1 |
| com.google.api.grpc | proto-google-common-protos | 2.5.1 |
| com.google.auth | google-auth-library-credentials | 1.20.0 |
| com.google.auth | google-auth-library-oauth2-http | 1.20.0 |
| com.google.auto.value | anotasi nilai otomatis | 1.10.4 |
| com.google.code.findbugs | jsr305 | 3.0.0 |
| com.google.code.gson | gson | 2.11.0 |
| com.google.crypto.tink | tink | 1.16.0 |
| com.google.errorprone | error_prone_annotations | 2.36.0 |
| com.google.flatbuffers | flatbuffers-java | 25.2.10 |
| com.google.guava | failureaccess | 1.0.3 |
| com.google.guava | guava | 33.4.8-jre |
| com.google.http-client | google-http-client | 1.43.3 |
| com.google.http-client | google-http-client-gson | 1.43.3 |
| com.google.j2objc | j2objc-annotations | 3.0.0 |
| com.google.protobuf | protobuf-java | 3.25.5 |
| com.google.protobuf | protobuf-java-util | 3.25.5 |
| com.helger | profiler | 1.1.1 |
| com.ibm.icu | icu4j | 75.1 |
| com.jcraft | jsch | 0.1.55 |
| com.lihaoyi | sourcecode_2.13 | 0.1.9 |
| com.microsoft.azure | azure-data-lake-store-sdk | 2.3.10 |
| com.microsoft.sqlserver | mssql-jdbc | 12.8.0.jre11 |
| com.microsoft.sqlserver | mssql-jdbc | 12.8.0.jre8 |
| com.ning | compress-lzf | 1.1.2 |
| com.sun.mail | javax.mail | 1.5.2 |
| com.sun.xml.bind | jaxb-core | 2.2.11 |
| com.sun.xml.bind | jaxb-impl | 2.2.11 |
| com.tdunning | json | 1.8 |
| com.thoughtworks.paranamer | paranamer | 2.8 |
| com.trueaccord.lenses | lenses_2.13 | 0.4.13 |
| com.twitter | chill-java | 0.10.0 |
| com.twitter | chill_2.13 | 0.10.0 |
| com.twitter | util-app_2.13 | 19.8.1 |
| com.twitter | util-core_2.13 | 19.8.1 |
| com.twitter | util-function_2.13 | 19.8.1 |
| com.twitter | util-jvm_2.13 | 19.8.1 |
| com.twitter | util-lint_2.13 | 19.8.1 |
| com.twitter | util-registry_2.13 | 19.8.1 |
| com.twitter | util-stats_2.13 | 19.8.1 |
| com.typesafe | config | 1.4.3 |
| com.typesafe.scala-logging | scala-logging_2.13 | 3.9.2 |
| com.uber | h3 | 3.7.3 |
| com.univocity | univocity-parsers | 2.9.1 |
| com.zaxxer | HikariCP | 4.0.3 |
| com.zaxxer | SparseBitSet | 1.3 |
| commons-cli | commons-cli | 1.10.0 |
| commons-codec | commons-codec | 1.19.0 |
| commons-collections | commons-collections | 3.2.2 |
| commons-dbcp | commons-dbcp | 1.4 |
| commons-fileupload | commons-fileupload | 1.6.0 |
| commons-httpclient | commons-httpclient | 3.1 |
| commons-io | commons-io | 2.21.0 |
| commons-lang | commons-lang | 2.6 |
| commons-logging | commons-logging | 1.1.3 |
| commons-pool | commons-pool | 1.5.4 |
| dev.ludovic.netlib | arpack | 3.0.4 |
| dev.ludovic.netlib | blas | 3.0.4 |
| dev.ludovic.netlib | lapack | 3.0.4 |
| info.ganglia.gmetric4j | gmetric4j | 1.0.10 |
| io.airlift | aircompressor | 2.0.2 |
| io.delta | delta-sharing-client_2.13 | 1.3.11 |
| io.dropwizard.metrics | metrics-annotation | 4.2.37 |
| io.dropwizard.metrics | metrics-core | 4.2.37 |
| io.dropwizard.metrics | metrics-graphite | 4.2.37 |
| io.dropwizard.metrics | metrics-healthchecks | 4.2.37 |
| io.dropwizard.metrics | metrik-jetty10 | 4.2.37 |
| io.dropwizard.metrics | metrics-jmx | 4.2.37 |
| io.dropwizard.metrics | metrics-json | 4.2.37 |
| io.dropwizard.metrics | metrics-jvm | 4.2.37 |
| io.dropwizard.metrics | metrics-servlets | 4.2.37 |
| io.github.java-diff-utils | java-diff-utils | 4.15 |
| io.netty | netty-all | 4.2.7.Final |
| io.netty | netty-buffer | 4.2.7.Final |
| io.netty | netty-codec | 4.2.7.Final |
| io.netty | netty-codec-base | 4.2.7.Final |
| io.netty | netty-codec-classes-quic | 4.2.7.Final |
| io.netty | netty-codec-compression | 4.2.7.Final |
| io.netty | netty-codec-http | 4.2.7.Final |
| io.netty | netty-codec-http2 | 4.2.7.Final |
| io.netty | netty-codec-http3 | 4.2.7.Final |
| io.netty | netty-codec-marshalling | 4.2.7.Final |
| io.netty | netty-codec-native-quic | 4.2.7.Final-linux-aarch_64 |
| io.netty | netty-codec-native-quic | 4.2.7.Final-linux-x86_64 |
| io.netty | netty-codec-native-quic | 4.2.7.Final-osx-aarch_64 |
| io.netty | netty-codec-native-quic | 4.2.7.Final-osx-x86_64 |
| io.netty | netty-codec-native-quic | 4.2.7.Final-windows-x86_64 |
| io.netty | netty-codec-protobuf | 4.2.7.Final |
| io.netty | netty-codec-socks | 4.2.7.Final |
| io.netty | netty-common | 4.2.7.Final |
| io.netty | netty-handler | 4.2.7.Final |
| io.netty | netty-handler-proxy | 4.2.7.Final |
| io.netty | netty-resolver | 4.2.7.Final |
| io.netty | netty-tcnative-boringssl-static | 2.0.74.Final-db-r0-linux-aarch_64 |
| io.netty | netty-tcnative-boringssl-static | 2.0.74.Final-db-r0-linux-x86_64 |
| io.netty | netty-tcnative-boringssl-static | 2.0.74.Final-db-r0-osx-aarch_64 |
| io.netty | netty-tcnative-boringssl-static | 2.0.74.Final-db-r0-osx-x86_64 |
| io.netty | netty-tcnative-boringssl-static | 2.0.74.Final-db-r0-windows-x86_64 |
| io.netty | netty-tcnative-classes | 2.0.74.Final |
| io.netty | netty-transport | 4.2.7.Final |
| io.netty | netty-transport-classes-epoll | 4.2.7.Final |
| io.netty | netty-transport-classes-io_uring | 4.2.7.Final |
| io.netty | netty-transport-classes-kqueue | 4.2.7.Final |
| io.netty | netty-transport-native-epoll | 4.2.7.Final |
| io.netty | netty-transport-native-epoll | 4.2.7.Final-linux-aarch_64 |
| io.netty | netty-transport-native-epoll | 4.2.7.Final-linux-riscv64 |
| io.netty | netty-transport-native-epoll | 4.2.7.Final-linux-x86_64 |
| io.netty | netty-transport-native-io_uring | 4.2.7.Final-linux-aarch_64 |
| io.netty | netty-transport-native-io_uring | 4.2.7.Final-linux-riscv64 |
| io.netty | netty-transport-native-io_uring | 4.2.7.Final-linux-x86_64 |
| io.netty | netty-transport-native-kqueue | 4.2.7.Final-osx-aarch_64 |
| io.netty | netty-transport-native-kqueue | 4.2.7.Final-osx-x86_64 |
| io.netty | netty-transport-native-unix-common | 4.2.7.Final |
| io.opencensus | opencensus-api | 0.31.1 |
| io.opencensus | opencensus-contrib-http-util | 0.31.1 |
| io.prometheus | simpleclient | 0.16.1-databricks |
| io.prometheus | simpleclient_common | 0.16.1-databricks |
| io.prometheus | simpleclient_dropwizard | 0.16.1-databricks |
| io.prometheus | simpleclient_pushgateway | 0.16.1-databricks |
| io.prometheus | simpleclient_servlet | 0.16.1-databricks |
| io.prometheus | simpleclient_servlet_common | 0.16.1-databricks |
| io.prometheus | simpleclient_tracer_common | 0.16.1-databricks |
| io.prometheus | simpleclient_tracer_otel | 0.16.1-databricks |
| io.prometheus | simpleclient_tracer_otel_agent | 0.16.1-databricks |
| io.prometheus.jmx | pengumpul | 0.18.0 |
| jakarta.annotation | jakarta.annotation-api | 1.3.5 |
| jakarta.servlet | jakarta.servlet-api | 4.0.3 |
| jakarta.validation | jakarta.validation-api | 2.0.2 |
| jakarta.ws.rs | jakarta.ws.rs-api | 2.1.6 |
| javax.activation | aktivasi | 1.1.1 |
| javax.annotation | javax.annotation-api | 1.3.2 |
| javax.el | javax.el-api | 2.2.4 |
| javax.jdo | jdo-api | 3.0.1 |
| javax.transaction | jta | 1.1 |
| javax.transaction | transaction-api | 1.1 |
| javax.xml.bind | jaxb-api | 2.2.11 |
| Javolution | Javolution | 5.5.1 |
| jline | jline | 2.14.6 |
| joda-time | joda-time | 2.14.0 |
| net.java.dev.jna | jna | 5.8.0 |
| net.razorvine | pickle | 1.5 |
| net.sf.jpam | jpam | 1.1 |
| net.sf.opencsv | opencsv | 2.3 |
| net.sf.supercsv | super-csv | 2.2.0 |
| net.snowflake | snowflake-ingest-sdk | 0.9.6 |
| net.sourceforge.f2j | arpack_combined_all | 0.1 |
| org.acplt.remotetea | remotetea-oncrpc | 1.1.2 |
| org.antlr | ST4 | 4.0.4 |
| org.antlr | antlr-runtime | 3.5.2 |
| org.antlr | antlr4-runtime | 4.13.1 |
| org.antlr | stringtemplate | 3.2.1 |
| org.apache.ant | ant | 1.10.11 |
| org.apache.ant | ant-jsch | 1.10.11 |
| org.apache.ant | ant-launcher | 1.10.11 |
| org.apache.arrow | pemadatan panah | 18.3.0 |
| org.apache.arrow | arrow-format | 18.3.0 |
| org.apache.arrow | arrow-memory-core | 18.3.0 |
| org.apache.arrow | arrow-memory-netty | 18.3.0 |
| org.apache.arrow | arrow-memory-netty-buffer-patch | 18.3.0 |
| org.apache.arrow | arrow-vector | 18.3.0 |
| org.apache.avro | avro | 1.12.1 |
| org.apache.avro | avro-ipc | 1.12.1 |
| org.apache.avro | avro-mapred | 1.12.1 |
| org.apache.commons | commons-collections4 | 4.5.0 |
| org.apache.commons | commons-compress | 1.28.0 |
| org.apache.commons | commons-configuration2 | 2.11.0 |
| org.apache.commons | commons-crypto | 1.1.0 |
| org.apache.commons | commons-lang3 | 3.19.0 |
| org.apache.commons | commons-math3 | 3.6.1 |
| org.apache.commons | commons-text | 1.14.0 |
| org.apache.curator | curator-client | 5.9.0 |
| org.apache.curator | curator-framework | 5.9.0 |
| org.apache.curator | curator-recipes | 5.9.0 |
| org.apache.datasketches | datasketches-java | 6.2.0 |
| org.apache.datasketches | datasketches-memory | 3.0.2 |
| org.apache.derby | derby | 10.14.2.0 |
| org.apache.hadoop | hadoop-client-runtime | 3.4.2 |
| org.apache.hive | hive-beeline | 2.3.10 |
| org.apache.hive | hive-cli | 2.3.10 |
| org.apache.hive | hive-jdbc | 2.3.10 |
| org.apache.hive | hive-llap-client | 2.3.10 |
| org.apache.hive | hive-llap-common | 2.3.10 |
| org.apache.hive | hive-serde | 2.3.10 |
| org.apache.hive | hive-shims | 2.3.10 |
| org.apache.hive | hive-storage-api | 2.8.1 |
| org.apache.hive.shims | hive-shims-0.23 | 2.3.10 |
| org.apache.hive.shims | hive-shims-common | 2.3.10 |
| org.apache.hive.shims | hive-shims-scheduler | 2.3.10 |
| org.apache.httpcomponents | httpclient | 4.5.14 |
| org.apache.httpcomponents | httpcore | 4.4.16 |
| org.apache.ivy | ivy | 2.5.3 |
| org.apache.logging.log4j | log4j-1.2-api | 2.24.3 |
| org.apache.logging.log4j | log4j-api | 2.24.3 |
| org.apache.logging.log4j | log4j-core | 2.24.3 |
| org.apache.logging.log4j | log4j-layout-template-json | 2.24.3 |
| org.apache.logging.log4j | log4j-slf4j2-impl | 2.24.3 |
| org.apache.orc | orc-core | 2.2.0-shaded-protobuf |
| org.apache.orc | orc-format | 1.1.1-shaded-protobuf |
| org.apache.orc | orc-mapreduce | 2.2.0-shaded-protobuf |
| org.apache.orc | orc-shims | 2.2.0 |
| org.apache.poi | poi | 5.4.1 |
| org.apache.poi | poi-ooxml | 5.4.1 |
| org.apache.poi | poi-ooxml-full | 5.4.1 |
| org.apache.poi | poi-ooxml-lite | 5.4.1 |
| org.apache.thrift | libfb303 | 0.9.3 |
| org.apache.thrift | libthrift | 0.16.0 |
| org.apache.ws.xmlschema | xmlschema-core | 2.3.1 |
| org.apache.xbean | xbean-asm9-shaded | 4.28 |
| org.apache.xmlbeans | xmlbeans | 5.3.0 |
| org.apache.yetus | audience-annotations | 0.13.0 |
| org.apache.zookeeper | zookeeper | 3.9.4 |
| org.apache.zookeeper | zookeeper-jute | 3.9.4 |
| org.checkerframework | checker-qual | 3.43.0 |
| org.codehaus.janino | commons-compiler | 3.0.16 |
| org.codehaus.janino | janino | 3.0.16 |
| org.datanucleus | datanucleus-api-jdo | 4.2.4 |
| org.datanucleus | datanucleus-core | 4.1.17 |
| org.datanucleus | datanucleus-rdbms | 4.1.19 |
| org.datanucleus | javax.jdo | 3.2.0-m3 |
| org.eclipse.jetty | jetty-alpn-client | 10.0.26 |
| org.eclipse.jetty | jetty-client | 10.0.26 |
| org.eclipse.jetty | jetty-http | 10.0.26 |
| org.eclipse.jetty | jetty-io | 10.0.26 |
| org.eclipse.jetty | jetty-jndi | 10.0.26 |
| org.eclipse.jetty | jetty-plus | 10.0.26 |
| org.eclipse.jetty | jetty-proxy | 10.0.26 |
| org.eclipse.jetty | jetty-security | 10.0.26 |
| org.eclipse.jetty | jetty-server | 10.0.26 |
| org.eclipse.jetty | jetty-servlet | 10.0.26 |
| org.eclipse.jetty | jetty-servlets | 10.0.26 |
| org.eclipse.jetty | jetty-util | 10.0.26 |
| org.eclipse.jetty | jetty-webapp | 10.0.26 |
| org.eclipse.jetty | jetty-xml | 10.0.26 |
| org.fusesource.leveldbjni | leveldbjni-all | 1.8 |
| org.glassfish.hk2 | hk2-api | 2.6.1 |
| org.glassfish.hk2 | hk2-locator | 2.6.1 |
| org.glassfish.hk2 | hk2-utils | 2.6.1 |
| org.glassfish.hk2 | osgi-resource-locator | 1.0.3 |
| org.glassfish.hk2.external | aopalliance-repackaged | 2.6.1 |
| org.glassfish.hk2.external | jakarta.inject | 2.6.1 |
| org.glassfish.jersey.containers | jersey-container-servlet | 2.41 |
| org.glassfish.jersey.containers | jersey-container-servlet-core | 2.41 |
| org.glassfish.jersey.core | jersey-client | 2.41 |
| org.glassfish.jersey.core | jersey-common | 2.41 |
| org.glassfish.jersey.core | jersey-server | 2.41 |
| org.glassfish.jersey.inject | jersey-hk2 | 2.41 |
| org.hibernate.validator | hibernate-validator | 6.2.5.Final |
| org.ini4j | ini4j | 0.5.4 |
| org.javassist | javassist | 3.29.2-GA |
| org.jboss.logging | jboss-logging | 3.4.1.Final |
| org.jdbi | jdbi | 2.63.1 |
| org.jline | jline | 3.27.1-jdk8 |
| org.joda | joda-convert | 1.7 |
| org.json4s | json4s-ast_2.13 | 4.0.7 |
| org.json4s | json4s-core_2.13 | 4.0.7 |
| org.json4s | json4s-jackson-core_2.13 | 4.0.7 |
| org.json4s | json4s-jackson_2.13 | 4.0.7 |
| org.json4s | json4s-scalap_2.13 | 4.0.7 |
| org.locationtech.jts | jts-core | 1.20.0 |
| org.lz4 | lz4-java | 1.8.0-databricks-1 |
| org.mlflow | mlflow-spark_2.13 | 2.22.1 |
| org.objenesis | objenesis | 3.4 |
| org.postgresql | postgresql | 42.6.1 |
| org.roaringbitmap | RoaringBitmap | 1.2.1 |
| org.rosuda.REngine | REngine | 2.1.0 |
| org.scala-lang | scala-compiler_2.13 | 2.13.16 |
| org.scala-lang | scala-library_2.13 | 2.13.16 |
| org.scala-lang | scala-reflect_2.13 | 2.13.16 |
| org.scala-lang.modules | scala-collection-compat_2.13 | 2.11.0 |
| org.scala-lang.modules | scala-java8-compat_2.13 | 0.9.1 |
| org.scala-lang.modules | scala-parallel-collections_2.13 | 1.2.0 |
| org.scala-lang.modules | scala-parser-combinators_2.13 | 2.4.0 |
| org.scala-lang.modules | scala-xml_2.13 | 2.4.0 |
| org.scala-sbt | test-interface | 1.0 |
| org.scalacheck | scalacheck_2.13 | 1.18.0 |
| org.scalactic | scalactic_2.13 | 3.2.19 |
| org.scalanlp | breeze-macros_2.13 | 2.1.0 |
| org.scalanlp | breeze_2.13 | 2.1.0 |
| org.scalatest | scalatest-compatible | 3.2.19 |
| org.scalatest | scalatest-core_2.13 | 3.2.19 |
| org.scalatest | scalatest-diagrams_2.13 | 3.2.19 |
| org.scalatest | scalatest-featurespec_2.13 | 3.2.19 |
| org.scalatest | scalatest-flatspec_2.13 | 3.2.19 |
| org.scalatest | scalatest-freespec_2.13 | 3.2.19 |
| org.scalatest | scalatest-funspec_2.13 | 3.2.19 |
| org.scalatest | scalatest-funsuite_2.13 | 3.2.19 |
| org.scalatest | scalatest-matchers-core_2.13 | 3.2.19 |
| org.scalatest | scalatest-mustmatchers_2.13 | 3.2.19 |
| org.scalatest | scalatest-propspec_2.13 | 3.2.19 |
| org.scalatest | scalatest-refspec_2.13 | 3.2.19 |
| org.scalatest | scalatest-shouldmatchers_2.13 | 3.2.19 |
| org.scalatest | scalatest-wordspec_2.13 | 3.2.19 |
| org.scalatest | scalatest_2.13 | 3.2.19 |
| org.slf4j | jcl-over-slf4j | 2.0.16 |
| org.slf4j | jul-to-slf4j | 2.0.16 |
| org.slf4j | slf4j-api | 2.0.16 |
| org.slf4j | slf4j-simple | 1.7.25 |
| org.threeten | threeten-extra | 1.8.0 |
| org.tukaani | xz | 1.10 |
| org.typelevel | algebra_2.13 | 2.8.0 |
| org.typelevel | cats-kernel_2.13 | 2.8.0 |
| org.typelevel | spire-macros_2.13 | 0.18.0 |
| org.typelevel | spire-platform_2.13 | 0.18.0 |
| org.typelevel | spire-util_2.13 | 0.18.0 |
| org.typelevel | spire_2.13 | 0.18.0 |
| org.wildfly.openssl | wildfly-openssl | 1.1.3.Final |
| org.xerial | sqlite-jdbc | 3.42.0.0 |
| org.xerial.snappy | snappy-java | 1.1.10.3 |
| org.yaml | snakeyaml | 2.0 |
| oro | oro | 2.0.8 |
| pl.edu.icm | JLargeArrays | 1.5 |
| software.amazon.cryptools | AmazonCorrettoCryptoProvider | 2.5.0-linux-x86_64 |
| stax | stax-api | 1.0.1 |