下列概述 Databricks SQL 從 2024 年 1 月至 12 月的改善和更新。
2024年11月21日
SQL 倉儲系統資料表 (公開預覽)
-
system.compute.warehouses數據表會記錄 SQL 倉儲的建立、編輯和刪除時間。 您可以使用數據表來監視倉儲設定的變更,包括倉儲名稱、類型、大小、通道、標籤、自動停止和自動調整設定。 請參閱 倉儲系統數據表參考。
資料探索
- 在目錄瀏覽器中的歷程標籤頁已重新設計,並改善了用於實體篩選的用戶介面。
2024 年 11 月 13 日
舊版儀表板:
- 已解決範本化工具提示無法顯示雙軸和多欄位座標軸圖表詳細內容的問題。
2024 年 11 月 6 日
Databricks SQL 串流數據表和具現化視圖的人類可讀取排程支援
用戶現在可以使用人類可讀的語法而非CRON排程,來啟動、建立和改變串流數據表和具體化檢視的排程。 請參閱 ALTER MATERIALIZED VIEW、ALTER STREAMING TABLE、CREATE MATERIALIZED VIEW和 CREATE STREAMING TABLE。
串流資料表現在支持時間回溯查詢
您現在可以使用時間移動,根據時間戳或數據表版本來查詢舊版數據表版本(如事務歷史記錄中所記錄)。 您可能需要在使用時間移動查詢之前重新整理串流數據表。 請參閱 什麼是 Delta Lake 時光倒流?。
具體化檢視不支持時間移動查詢。
2024 年 10 月 31 日
使用者介面更新
新的 SQL 編輯器 (公開預覽)
- 您現在可以使用鍵盤快捷方式
Command(或Ctrl) +Shift+Enter來執行使用中的 SQL 查詢。 - 當文字在顯示視窗外延伸時,參數輸入區域現在會顯示滾動條。
- 已修正導致查詢配置檔詳細數據頁面無法完全開啟的問題。
- 您現在可以在索引標籤標題中輸入新名稱來重新命名查詢。
- [ 排程] 按鈕現在已針對從未儲存過的查詢停用。
2024年10月24日
AI/BI 工具的版本資訊
AI/BI 儀表板和 AI/BI Genie 的更新說明已移至 AI/BI 發行說明。 未來的版本和更新將會記載於該處。
2024年10月17日
通知目的地現已正式推出
您可以建立並設定通知目的地,讓工作區使用者能將其新增至特定工作流程,例如警示、Lakeflow 作業,以及 AI/BI 儀表板排程,從而在事件發生時傳送電子郵件或網絡勾子(Webhook)。 請參閱 管理通知目的地。
2024年10月10日
實體化檢視和串流數據表現在已在 Databricks SQL 上正式推出
串流數據表可讓您從雲端記憶體和消息佇列進行累加擷取,而具體化檢視則是預先計算的檢視,這些檢視會在新數據送達時自動且以累加方式更新。 請參閱 在 Databricks SQL 中使用具體化檢視 和使用 Databricks SQL 中的串流數據表。
查詢洞察
- 新的數據行
query_source、executed_as和executed_as_user_id已新增至查詢記錄系統數據表。 請參閱 查詢記錄系統數據表參考。
2024 年 10 月 3 日
無伺服器 SQL 倉儲支援已展開
無伺服器 SQL 倉儲現在可在 swedencentral 區域中使用。 請參閱 具有有限區域可用性的功能。
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
目錄總管
- AI 產生的批注現在支援目錄、架構、磁碟區、模型和函式,以及使用者可以使用內嵌聊天助理來協助編輯其批注。
SQL AI 函式 函 vector_search() 式現在可在公開預覽中取得。 請參閱函vector_search式
2024年9月26日
無伺服器 SQL 倉儲支援已展開
無伺服器 SQL 倉儲現在可在 francecentral 區域中使用。 請參閱 具有有限區域可用性的功能。
2024 年 9 月 11 日
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
SQL 編輯器
您現在可以在 SQL 編輯器中使用具名參數標記語法。 具名參數標記語法可用於 SQL 編輯器、筆記本和 AI/BI 儀錶板。 請參閱 使用查詢參數。
查詢和舊版儀錶板
針對 SQL 查詢和舊版儀錶板,已刪除的項目不再出現在清單頁面中。 在工作區回收站資料夾中尋找已刪除的專案。 工作區管理員可以查看所有使用者垃圾桶資料夾中的已刪除項目。
2024 年 9 月 5 日
變更於 2024.40 中
Databricks SQL 2024.40 版包含下列行為變更、新功能和改進功能。
行為變更
變更為檢視的預設架構系結模式
檢視現在會使用架構補償和常規類型轉換規則,來適應基礎查詢中的架構變更。 這是對先前預設
BINDING模式的更改,當參考檢視時無法執行安全轉換時會引發錯誤。請參閱 CREATE VIEW 和
cast函式。不允許在布爾表達式之外使用未記載的
!語法,而應使用NOT在此版本中,不再允許使用
!做為布爾表達式外部NOT的同義字。 例如,如下的語句:CREATE ... IF ! EXISTS、IS NULL、! NULL資料行或欄位屬性、! IN以及 BETWEEN,必須取代為:CREATE ... IF NOT EXISTS、IS NOT NULL、NOT NULL資料行或欄位屬性、NOT IN以及NOT BETWEEN。這項變更可確保一致性、符合 SQL 標準,並讓您的 SQL 更具可移植性。
布爾前置詞運算子
!(例如!is_mgr或!(true AND false)) 不受這項變更影響。不允許在檢視中使用未經記錄的欄位定義語法
Databricks 支援 CREATE VIEW 具名數據行和數據行批注。 先前允許指定欄位類型、
NOT NULL的約束條件或DEFAULT。 在此版本中,您無法再使用此語法。這項變更可確保一致性、符合 SQL 標準,並支援未來的增強功能。
在無效的欄位上新增
CHECK條件約束現在會傳回UNRESOLVED_COLUMN.WITH_SUGGESTION錯誤類別若要提供更實用的錯誤傳訊,請在 Databricks Runtime 15.3 和更新版本中,
ALTER TABLE ADD CONSTRAINT包含CHECK參考無效數據行名稱的條件約束的語句會傳回 UNRESOLVED_COLUMN。WITH_SUGGESTION 錯誤類別。 先前已傳回一個INTERNAL_ERROR。
新功能和改善
啟用 UniForm Iceberg ALTER TABLE
您現在可以在現有的數據表上啟用 UniForm Iceberg,而不需重寫數據檔。 請參閱 在現有的數據表上啟用 Iceberg 讀取。
UTF-8 驗證函式
此版本引進下列函式來驗證 UTF-8 字串:
- is_valid_utf8 驗證字串是否為有效的UTF-8字串。
- make_valid_utf8 使用替代字元將可能無效的UTF-8字串轉換成有效的UTF-8字串
- 如果 輸入不是有效的 UTF-8 字串,validate_utf8就會引發錯誤。
-
如果 輸入不是有效的 UTF-8 字串,try_validate_utf8會傳
NULL回 。
to_avro 和 from_avro 函式
try_url_decode 函式
此版本引進了try_url_decode函式,用於解碼 URL 編碼的字串。 如果字串的格式不正確,函式會傳回
NULL,而不是引發錯誤。選擇性地允許優化器依賴非強制外鍵條件約束
支援卸除檢查條件約束數據表功能
使用
replaceWhere的選擇性覆寫現在會平行執行作業,刪除舊資料並插入新資料,以改善查詢效能和叢集使用率。針對選擇性覆寫執行的平行處理作業
使用
replaceWhere的選擇性覆寫現在會平行執行作業,刪除舊資料並插入新資料,以改善查詢效能和叢集使用率。使用選擇性覆寫改善變更數據摘要的效能
在具變更資料流的資料表上使用
replaceWhere選擇性覆寫,不再針對插入資料寫入單獨的變更資料檔案。 這些作業會使用底層 Parquet 資料檔中存在的隱藏_change_type資料欄來記錄變更,以避免寫放大效應。已改善COPY INTO命令的查詢延遲
此版本包含可改善
COPY INTO命令查詢延遲的變更。 這項改進是藉由讓 RocksDB 狀態存放區以異步方式載入狀態來實作。 有了這項變更,您應該會看到具有大型狀態之查詢的開始時間有所改善,例如具有大量已內嵌檔案的查詢。
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
Visualizations
- 工具提示總計現在只會針對堆疊圖表顯示。
2024 年 8 月 22 日
Visualizations
針對群組和多字段組態,工具提示現在會在您將滑鼠停留在圖表元素上方時顯示總計。
2024 年 8 月 15 日
Visualizations
修正了變更頁面大小之後,數據表視覺效果中的數據列編號未更新的問題。
資料探索
現在支援在 Unity 目錄數據表中展開和折疊巢狀複雜數據行類型的功能。
2024 年 8 月 1 日
Visualizations:
- 由於篩選而變更數據時,現在會保留數據表排序。
SQL 編輯器:
- 藉由在查詢的最後一行與結果輸出之間新增額外的填補,以提高可讀性。
2024年7月25日
Databricks REST API:
- 用於管理查詢、警示、數據源和許可權的 API 已變更。 舊版將繼續支援六個月。 此轉換期間旨在讓您有足夠的時間將應用程式和整合移轉至新版本,再逐步淘汰舊版。請參閱 更新至最新的 Databricks SQL API 版本
2024年7月18日
使用者介面更新
目錄瀏覽器:
- 建立目錄時,現在有新的目錄設定精靈可用來設定工作區系結、目錄許可權和元數據。
SQL 倉儲監視:
- CAN MONITOR 許可權現已正式推出。 它可讓具特殊許可權的使用者監視 SQL 倉儲,包括相關聯的查詢歷程記錄和查詢配置檔。 請參閱 SQL 倉儲 ACL。
2024 年 7 月 11 日
Databricks SQL 版本 2024.35 可用
推出排程:2024.35 的預覽推出:7 月 9 日至 7 月 15 日之間
2024.35中的 變更
使用刪除功能停用欄位對應
您現在可以使用 DROP FEATURE 停用 Delta 表格上的欄位映射,並降級表格協議。 請參閱 停用欄位對應。
公開預覽中的 Variant 類型語法和函式
內建 Apache Spark 支援可用於處理半結構化數據,並作為 VARIANT 類型在 Spark DataFrame 和 SQL 中提供。 請參閱 查詢變體數據。
公開預覽中 Delta Lake 的 Variant 類型支援
您現在可以使用 VARIANT,將半結構化數據儲存在 Delta Lake 支援的數據表中。 請參閱 Delta Lake 中的 Variant 支援。
支援檢視中不同模態的架構演化
CREATE VIEW 和 ALTER VIEW 現在可讓您設定架構系結模式,增強檢視如何處理基礎物件中的架構變更。 這項功能可讓檢視容許或適應基礎物件中的架構變更。 它會解決查詢架構中因修改物件定義而產生的變更。
某些視窗函式的效能改善
此版本包含可改善某些 Spark 視窗函式效能的變更,特別是不包含 ORDER BY 子句或 window_frame 參數的函式。 在這些情況下,系統可以重寫查詢,以使用聚合函數來執行查詢。 這項變更可讓查詢使用部分匯總加快執行速度,並避免執行視窗函式的額外負荷。 Spark 組態參數 spark.databricks.optimizer.replaceWindowsWithAggregates.enabled 會控制此優化,且預設會設定為 true。 若要關閉此優化,請將 spark.databricks.optimizer.replaceWindowsWithAggregates.enabled 設定為 false。
新增 try_mod 函式的支援
此版本新增 PySpark try_mod() 函式的支援。 此函式支援整數餘數的 ANSI SQL 相容計算,方法是除以兩個數值。 如果除數自變數為 0,則 try_mod() 函式會傳回 null,而不是擲回例外狀況。 您可以使用 try_mod() 函式,而不是 mod 或 %,如果除數自變數為 0 且已啟用 ANSI SQL,則會擲回例外狀況。
使用者介面更新
SQL 編輯器:
內嵌助理現在可在 SQL 編輯器中使用。 按兩下編輯器方塊中的小幫手圖示來切換輸入。 以英文輸入問題或批注,然後按 Enter 鍵(而非 Shift+Enter,它會執行查詢),以直接在編輯器中產生具有不同檢視的回應。
Platform:
通知目的地的 API 現已可供使用。 您現在可以以程式設計方式管理警示和作業執行通知的 Webhook 和電子郵件目的地。 請參閱 通知目的地。
2024年7月4日
Databricks SQL 版本 2024.30 可用
推出排程:2024.30 的預覽推出:7 月 9 日至 7 月 15 日之間
變更於 2024.30 中
湖屋聯合會正式推出 (GA)
下列資料庫類型的 Lakehouse 聯盟連接器現已正式上市(GA):
- MySQL
- PostgreSQL
- Amazon Redshift
- Snowflake
- Microsoft SQL Server
- Azure Synapse (SQL 數據倉儲)
- Databricks
此版本也引進了下列改善:
- 支援 Snowflake 和 Microsoft SQL Server 連接器中的單一登錄 (SSO) 驗證。
- SQL Server 連接器中的 Azure Private Link 支援來自無伺服器計算環境。 請參閱 步驟 3:建立私人端點規則。
- 支援額外的下推(字串、數學、各種函式)。
- 提升了不同查詢形態的下推成功率。
- 其他下推偵錯功能:
-
EXPLAIN FORMATTED輸出會顯示下推查詢文字。 - 查詢設定檔案 UI 會顯示下推查詢文字、聯邦節點識別碼和 JDBC 查詢執行時間(在詳細模式下)。 請參閱 檢視系統產生的同盟查詢。
-
DESCRIBE HISTORY 現在會顯示使用液體群集之數據表的叢集數據行
當您執行 DESCRIBE HISTORY 查詢時,operationParameters 數據行預設會顯示 clusterBy 和 CREATE OR REPLACE 作業的 OPTIMIZE 字段。 對於使用液體群集的 Delta 數據表, clusterBy 欄位會填入數據表的叢集數據行。 如果數據表不使用液體群集,則字段是空的。
主要和外鍵的支援普遍可用
Databricks Runtime 中對主要鍵和外鍵的支援已正式提供。 GA 版本包含下列使用主鍵和外鍵所需權限的變更:
- 若要定義外鍵,您必須對外鍵所參考的主鍵所在的資料表擁有
SELECT許可權。 您不需要擁有包含主鍵的數據表,這在過去是必須的。 - 使用
CASCADE子句刪除主鍵,不需要有權限在參照該主鍵的外鍵的資料表上操作。 之前,您需要擁有參考數據表。 - 刪除包含約束條件的數據表現在需要與刪除不包含約束條件的數據表相同的權限。
若要瞭解如何搭配數據表或檢視使用主鍵和外鍵,請參閱 CONSTRAINT 子句、 ADD CONSTRAINT 子句和 DROP CONSTRAINT 子句。
液體群集是 GA
現在已使用 Databricks Runtime 15.2 和更新版本正式推出對液體叢集的支援。 請參閱 針對數據表使用液體叢集。
類型擴展處於公開預覽階段
您現在可以在 Delta Lake 支持的資料表上啟用類型擴展。 啟用類型擴大的數據表允許將數據行類型變更為較寬的數據類型,而不需要重寫基礎數據檔。 請參閱 類型擴大。
架構演進子句新增至 SQL 合併語法
您現在可以將 WITH SCHEMA EVOLUTION 子句新增至 SQL 合併語句,以啟用作業的架構演進。 如需合併,請參閱
真空庫存支援
您現在可以在 Delta 資料表上執行 VACUUM 命令時,指定要處理的檔案清單。 請參閱 OSS Delta 檔。
支援 Zstandard 壓縮函式
您現在可以使用 zst_compress、 zstd_decompress和 try_zstd_decompress 函式來壓縮和解壓縮 BINARY 數據。
SQL UI 中的查詢計劃現在已正確顯示 PhotonWriteStage
在 SQL UI 中顯示時,查詢計劃中 write 命令錯誤地顯示為運算子 PhotonWriteStage。 在此版本中,UI 會更新為將 PhotonWriteStage 顯示為階段。 這隻是UI變更,不會影響查詢的執行方式。
使用者介面更新
API 支援:
- 您現在可以使用 REST API 管理通知目的地。 請參閱 通知目的地。
2024年6月27日
在 Databricks SQL 中,實體化視圖和串流表中的行篩選和列遮罩目前為公開預覽。
Databricks SQL 具體化檢視和串流數據表中的數據列篩選和數據行遮罩為 公開預覽。 公開預覽版本包含下列變更:
您可以將資料列篩選和數據行遮罩新增至 Databricks SQL 具體化檢視或串流數據表。
- 您可以在包含列篩選條件和欄位遮罩的資料表上定義 Databricks SQL 具象化視圖或串流資料表。
使用者介面更新
Visualizations:
- 已改善在具有許多數據點的餅圖、散佈圖和熱度圖上停留時顯示工具提示的互動性。
目錄瀏覽器:
- 經過改造的 Catalog Explorer UI 可讓您更輕鬆地從 [快速存取] 檢視中探索最新的 Unity Catalog 資產並將其加入收藏。 瀏覽體驗也已簡化,可讓您使用畫面左上角的 [設定]
[設定] 來探索計算、記憶體、認證、聯機、DBFS 和管理詳細數據。 Delta Sharing、資料清理室及外部資料現在有專用頁面。
2024 年 6 月 6 日
修正 Databricks SQL 現實化檢視和串流資料表
導致 Databricks SQL 具體化檢視和串流數據表上的 ALTER SCHEDULE 查詢僅在執行下一個 REFRESH 作業後才生效的問題已經修復。 現在,ALTER SCHEDULE 查詢會被立即套用。 請參閱 安排具體化視圖的重新整理。
Databricks SQL 中的具體化檢視和串流數據表為公開預覽
Databricks SQL 中的具體化檢視和串流數據表是公開預覽版,可供所有客戶使用。 公開預覽版本包含下列變更:
Databricks SQL 中具體化檢視和串流數據表的
REFRESH現在預設為同步。 請參閱 REFRESH (MATERIALIZED VIEW 或 STREAMING TABLE)。- 在 Databricks SQL 具現視圖或串流數據表的重新整理作業期間發生的錯誤,會顯示在 SQL 編輯器中。
若要瞭解如何在 Databricks SQL 中使用具體化檢視和串流數據表,請參閱在 Databricks SQL 中使用具體化檢視 和使用 Databricks SQL 中的串流數據表。
使用者介面更新
Dashboards:
- 帳戶用戶現在可以從已發佈的儀錶板下載視覺效果數據
- 現在可以使用儀錶板頂端附近的草稿/發佈下拉式清單來發佈未發佈的儀錶板。
- 已修正一個問題,即具名為 limit 的參數未被偵測到。
Visualizations:
- 已改善深色模式下的箱型圖呈現。
查詢見解:
- 對於連結至 SQL 倉儲的所有筆記本,您可以按下包含查詢之數據格底下的 [ 查看效能 ] 來存取查詢配置檔。 如果儲存格包含多個查詢,則會針對每個語句提供每個查詢配置檔的連結。
2024 年 5 月 30 日
SQL 倉儲的新許可權等級
可以監視 許可權可讓使用者監視 SQL 倉儲,包括相關聯的查詢歷程記錄和查詢配置檔。 Can 監視許可權現在處於公開預覽狀態。 請參閱 SQL 倉儲 ACL。
使用者介面更新
儀表板改進:
- 已將 Kebab 功能表新增至儀錶板小工具,以下載影像和數據。
- 用戶可以將舊版儀表板中依查詢支援的參數和下拉式選單參數移轉至新的儀表板。
2024年5月23日
使用者介面更新
- 您現在可以選取工作區中的多個項目來移動或刪除。 選取多個物件時,動作列隨即出現,並提供移動或刪除項目的選項。 此外,您可以使用滑鼠選取多個專案,並將其拖曳至新的位置。 對象的現有許可權仍會在大量移動和刪除作業期間套用。
- 您現在可以在目錄總管和架構瀏覽器中將 Unity 目錄資產標示為我的最愛。 這包括目錄、架構、數據表、模型、磁碟分區和函式。 您可以從 Azure Databricks 首頁輕鬆存取您標示為我的最愛的 Unity 目錄資產。
儀表板更新:
- 現在雙軸組合圖能正確地在右側軸上顯示條形圖例,並相應地顯示折線圖例。
- 雙軸圖表現在正確地在橫條上顯示標籤。
視覺化更新:
- 數據表編輯器的條件格式標籤中的如果和則現在支援深色模式。
- 冗餘的開啟連結圖示已從表格編輯器的格式工具提示中移除。
- 數據表編輯器中預設字型色彩的標籤現在會自動對齊。
2024年5月16日
推出排程
- 2024.25 預覽版發行:5 月 1 日已完成
- 2024.25 現在的計劃是在 5 月 14 日至 5 月 21 日之間推出
Note
升級至 panda Python 連結庫 (2.0.3 版) 會導致 Databricks SQL 2024.20 版發生重大變更。 Azure Databricks 未將 2024.20 版推出至目前的通道。 相反地,預覽通道已於 2025 年 5 月 1 日升級至 2024.25。 目前的頻道推出是直接從 2024.15 跳到 2024.25。
2024.25中的 變更
數據控管
認證傳遞和Hive中繼存放區數據表訪問控制已被取代。
認證傳遞 和 Hive中繼存放區數據表訪問控制 是舊版數據控管模型。 升級至 Unity 目錄,藉由提供集中位置來管理和稽核帳戶中多個工作區的數據存取,以簡化數據的安全性和治理。 請參閱 什麼是 Unity 目錄?。
在即將推出的 Databricks 執行時版本中,將移除對凭证透传功能和 Hive 中繼資料儲存庫表格存取控制的支援。
SQL 語言功能
子句現在支援 WHERE * (star) 子句。
您現在可以在 * 子句中使用星號(WHERE)子句,從 SELECT 列表中參考所有欄位。
例如,SELECT * FROM VALUES(1, 2) AS T(a1, a2) WHERE 1 IN(T.*)。
支援 Cloudflare R2 儲存,以避免自 2024 年起的跨區域資料傳輸流出費用。
您現在可以使用 Cloudflare R2 作為 Unity 目錄中註冊數據的雲端記憶體。 Cloudflare R2 專為 Delta 分享使用情境而設計,特別是在您希望避免雲端提供者因數據跨越地區而收取的數據輸出費用時。
Cloudflare R2 記憶體支援 Azure Data Lake Storage 中支援的所有 Databricks 數據和 AI 資產。
請參閱 使用 Cloudflare R2 複本或將記憶體遷移至 R2 和 建立連線至 Cloudflare R2 的記憶體認證。
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
資料探索更新:Hive 中繼存放區到 Unity 目錄的更新精靈支援使用通用運算或 SQL 倉儲來升級 Hive 中繼存放區受控資料表。 更新 20 個以上的資料表會建立新的筆記本,其中包含執行轉換的 SYNC AND ALTER TABLE 命令。
儀表板更新:
- 雙軸功能現在適用於區域、直方圖、折線圖和散佈圖類型。
- 當您啟用雙軸圖表時,不會再將座標軸標題和範圍複製到次要座標軸。
- 視覺效果組態中識別的最後一個字段會自動重新定位到右側 y 軸。
2024年5月9日
SQL 編輯器修正:
- 系統管理員設定 [結果] 數據表剪貼簿功能 現在會套用至 SQL 編輯器的 [ 新增結果] 資料表。
儀表板改進:
- 以查詢為基礎的參數可讓作者定義可選取的值清單,讓檢視者可以做為儀錶板畫布上其他視覺效果的參數。 請參閱 使用查詢型參數。
- 現在會保留從數據表小工具下載之檔案中的數據行順序。
- 表格編輯器現在包含顯示欄名稱的懸停工具提示。
- 從其他視覺效果類型切換至直方圖時,現在會更妥善地保留資訊編碼。
儀表板修正:
- 已修正單一網格線高度篩選顯示不必要的溢位滾動條的問題。
- 已修正一個問題:當參考的數據集欄位被刪除時,已發佈儀錶板上的視覺化呈現會不正確。
2024年5月2日
儀表板更新:
- 查詢和視覺效果現在可以從 SQL 編輯器複製到新的儀錶板。 您仍然可以從 SQL 編輯器將視覺效果新增至舊版儀錶板。 請參閱 編輯、下載或新增至儀錶板。
- 儀錶板現在會維護 24 小時的結果快取,以優化初始載入時間。 請參閱 數據集優化和快取。
- 具有類別 X 和量化 Y 的條形圖現在會在 Databricks 助理的回應中進行排序。
- 修正舊版直方圖
COUNT (*)的遷移問題,以確保遷移準確。 - 實作在篩選小工具中混合數值類型和日期類型的能力。
- 建立圖表時,Databricks Assistant 現在會在您輸入時即時建議相關的欄。
視覺化更新:
- 數據表的用戶選取色彩現在會在舊版圖表中跨淺色和深色模式保存。
- 數據截斷邏輯已改善,以增強組合圖、餅圖、熱度圖和直方圖圖表的效能。
- 現在,基本圖表的量化座標軸頂端一律會顯示刻度標記。
2024年4月23日
UI 更新:
- 針對 UI 中的所有 [共享] 對話框,群組
All Users已重新命名為All Workspace Users。 新名稱更準確地反映群組的範圍,該群組一律包含指派給工作區的使用者。 此重新命名的一部分不會變更群組成員資格。
儀表板改進:
- 當儀錶板的 SQL 倉儲啟動時,會出現一個對話框來說明等候時間。
- 在Canvas和Data索引標籤之間切換時,會保留捲動位置。
- 複製舊版儀錶板以建立 Lakeview 儀錶板現在支援一些參數轉換。 請參閱 調整舊版參數。
- 日期和時間參數現在支持相對日期,例如 Today、 Tomorrow 和 7 天前。
- 數字範圍滑桿可作為篩選條件新增到儀表板中。
- 直方圖現在可以顯示分類式數據。
- 散布圖現在支援大小編碼。
儀表板修正:
- 時態性色彩編碼現在可以正確變更色彩指派。
視覺化更新:
- 自訂工具頂格式現在可針對多軸圖表正確運作。
- 當使用者在過去 14 天內未變更切換開關時,會移除 [新增圖表 預覽] 卷標。
2024年4月18日
Lakeview 儀錶板已正式推出
Lakeview 儀表板現在是預設的儀表板工具。 它們已重新命名為UI中的 儀錶板 。 Databricks SQL 儀錶板現在稱為 舊版儀錶板。 相關 API 工具的名稱尚未變更。
-
儀表板改進:
- Lakeview 儀錶板的稽核記錄可供查閱。 請參閱 AI/BI 儀錶板事件。
- 從儀錶板下載的數據會遵守已套用的參數。
- Databricks Assistant 會在 [數據 ] 索引卷標上啟用,而不需要先新增數據集。
- 具有多個 Y 欄位的堆疊條形圖可以支援根據 Y 軸值的總和來排序 X 軸。
- 在可視化座標軸功能表中,在 線性 和 Log(Symmetric) 縮放函式之間切換。
- 篩選小工具的預設大小現在更精簡。
- 文字輸入篩選小工具的初始載入時間已減少。
- 提升了從舊版儀錶板遷移時的自動圖表轉換效果。
-
儀表板修正:
- 受限制的檢視設定警告不會顯示儀錶板是否已與其他人共用。
- [資料] 索引標籤 SQL 編輯器中的錯誤訊息現在已啟用深色模式。
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
Improvements:
- 堆疊圖表上的工具提示現在預設會顯示堆疊值和百分比。
- 多軸圖表的工具提示現在會強調顯示懸停的項目。
- Databricks SQL 的數據表視覺效果現在會在 SQL 編輯器中編輯時調整新的查詢結果數據類型。
- 目錄瀏覽程式的 查詢歷程記錄 表格顯示 查詢來源 屬性的樹狀檢視。 您可以使用此項目來查看哪些實體已觸發要執行的查詢語句。
2024年4月11日
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
Improvements:
- 您現在可以在 Databricks SQL 和筆記本中建立視覺化時,依百分比群組。
- 新圖表(公開預覽版)中,您可以按下並拖曳與座標軸平行的線條,來放大單一軸的內容。
- Unity 目錄共用叢集 Allowlist UI 現已正式推出。 您可以在目錄總管的 [中繼存放區詳細數據] 頁面上存取它。 請參閱 如何將專案新增至允許名單。
- 建立和編輯外部位置的窗體現在會以完整頁面開啟。 它們包含包含記憶體認證的選項。
Fixes:
- 修正直方圖圖表中的一個問題,之前負值被錯誤地標示為正數。
2024年4月4日
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
Improvements:
- Lakeview 儀錶板上對於直方圖圖表的改進。
- 已新增標籤的支援。
- 切換不同的欄位時,現在會保留 Bin 設定。
- 儀錶板清單頁面上的範例庫現在會建立 Lakeview 儀錶板。 請參閱 教學課程:使用範例儀錶板。
- 在 Lakeview 儀錶板上,滑鼠右鍵點擊小工具的邊框將開啟一個功能表。
- 工作區使用者在檢視已發佈的 Lakeview 儀錶板時,左側導覽列會保留。
- 在瀏覽已發佈和草稿的 Lakeview 儀表板之間時,篩選設定會被保留。
- 從草稿 Lakeview 儀錶板的 [ 資料 ] 索引標籤編輯查詢時,現在可以將數據行名稱插入 SQL 編輯器中。
- 取代 Lakeview 儀錶板會保留現有的儀錶板名稱,但取代內容。
- 在熱度圖與其他圖表類型之間切換視覺效果,現在會更妥善地保留相關欄位。
Fixes:
- 具有色彩編碼的條形圖現在已正確限制新增多個 Y 軸欄位。
- 已解決某些視覺效果缺少 下載為 PNG 按鈕的問題。
- 已更正負大整數的格式,先前遺漏數千個分隔符。
- 修正滑鼠懸停在折線圖標籤上時的折線位置錯誤。
2024 年 3 月 28 日
Databricks SQL 2024.15 版可用
推出排程
- 2024.15 預覽版推出時間:2 月 14 日至 3 月 4 日之間
- 2024.15 版本的發佈時間:3 月 25 日至 4 月 8 日
2024.15中的 變更
Delta 更新
- Delta UniForm 現已正式推出: UniForm 現已正式推出,並使用 IcebergCompatV2 數據表功能。 您現在可以在現有的數據表上啟用或升級 UniForm。 請參閱 使用 Iceberg 用戶端讀取 Delta 數據表。
- 重新計算 Delta 表格的數據略過統計數據:您現在可以在變更用於數據略過的欄位之後,重新計算儲存在 Delta 日誌中的統計數據。 請參閱 指定 Delta 統計數據欄位。
SQL 語言更新
- 在 SQL 工作階段中宣告暫存變數: 此版本引進了在會話中宣告暫存變數的功能,這些變數可以在可設定的會話中宣告,然後在查詢中參考。 請參閱 變數。
-
原生 XML 檔案格式支援 (公開預覽): 原生 XML 檔格式支援現在處於公開預覽狀態。 XML 檔案格式支援可讓您擷取、查詢和剖析 XML 數據,以進行批處理或串流處理。 它可以自動推斷和演進架構和數據類型、支援 SQL 運算式,例如
from_xml,而且可以產生 XML 檔。 它不需要外部 jar,且可順暢地與自動載入器、read_files、COPY INTO和 DLT 搭配運作。 請參閱 讀取和寫入 XML 檔案。
Apache Spark SQL 更新
Databricks SQL 2024.15 包含 Apache Spark 3.5.0。 Databricks Runtime 14.3 版本附注會列出 SQL 的其他錯誤修正和改善。 請參閱 Apache Spark 並尋找 [SQL] 標籤以獲得完整清單。
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
- 目錄總管的實體頁面中新增的概觀索引標籤會顯示重要的元數據,例如檔案大小、資料來源、所有者、表格結構和註釋。
-
Lakeview 儀表板更新:
- Lakeview 儀錶板現在支援參數。 作者可以從 [ 數據 ] 索引標籤將參數新增至數據集查詢,然後使用單一值選取器和日期選擇器在畫布上設定參數。 請參閱 使用儀錶板參數。
- 工作區權限 API 現在支援 Lakeview 儀錶板。 請參閱 REST API 參考中的 PATCH /api/workspace/workspace/updatepermissions 。
- 畫布上的控件小工具已重新命名為 [篩選小工具]。
- 組合圖不再允許 X 軸上的分類式欄位。
- [共用] 對話框中的 [ 複製連結 ] 按鈕現在包含儲存在 URL 中的參數。
- 已發佈儀錶板上的小工具在懸停時不再顯示邊框。
- 已解決 Databricks Assistant 和下載 PNG 按鈕與圖表視覺效果重疊的問題。
- 現在在熱度圖和其他圖表類型之間切換視覺效果時,更能保留相關的欄位。
- 具有色彩編碼的條形圖現在已正確限制新增多個 Y 軸欄位。
2024 年 3 月 21 日
- Unity 目錄模型歷程現在處於公開預覽狀態。
目錄總管中的表格視圖現在有「概觀」頁籤來呈現其主要元數據。
- 適用於筆記本的 SQL 倉儲現已正式推出,可讓您在筆記本的豐富、共同作業撰寫環境中,利用 SQL 工作負載的完整受控、立即和可調整計算。 請參閱 使用筆記本搭配 SQL 倉儲。
下列修正和改善適用於 Lakeview 儀錶板:
- Lakeview 的擴充 API 支援新增了建立、取得、更新和刪除儀錶板的功能。 請參閱 REST API 參考中的 Lakeview 。
- 已在 [資料] 索引標籤上新增目錄瀏覽器的重新整理按鈕。
- Lakeview 儀錶板 現在在工作區側邊欄的 新增 功能表中顯示於 儀錶板 之前。 在儀錶板列表頁面上,[Lakeview 儀錶板] 分頁標籤顯示在 儀錶板 分頁標籤的左側。
- 適用於 Lakeview 的 Databricks 助理界面已更新,增加了輸入方塊和建議,以改善搜尋性,並協助使用者了解他們可以提出的提示。
- Lakeview 視覺效果現在支援中位數匯總。
- 已更新 Lakeview 儀錶板視覺效果編輯器中的色彩選擇器,以取得建立數據表時更簡化的用戶體驗。
- 改善餅圖過渡,專門支持具有角度或顏色定義的場景。
- 修正了一個導致無法按名為計數的圖表分組的錯誤。 圖表現在可以依名為 計數 的欄位分組。
- 對於條形圖,當不適用於用戶選取的組態時,現在會隱藏 群組 和 堆棧 版面配置控件。
2024 年 3 月 14 日
針對 Lakeview 儀錶板:
- 直方圖現在支援自定義分類色彩。
- 熱度圖現在支援量化規模。
- 在視覺效果類型之間切換時,會保留標題和描述,包括組合圖。
- 您現在可以在草稿儀錶板小工具上按兩下滑鼠右鍵,開啟與草稿儀錶板小工具相關聯的基礎數據集。 數據集會在 [ 數據] 索引標籤中開啟。
- 新的圖表現在會針對數值欄位中的空值應用別名和自定義色彩。
- 新的圖表現在會顯示刻度標記,以展示y軸的頂端。
2024 年 3 月 7 日
- 在目錄總管中檢視數據表時,[ 建立 ] 按鈕會包含一個選項來建立 Lakeview 儀錶板,而不是 Databricks SQL 儀錶板。
- 直方圖現在可用於 Lakeview 儀錶板。 直方圖通常用於可視化數值欄位的分佈。
- 複製 Databricks SQL 儀錶板以創建 Lakeview 儀錶板時,數據集轉換問題現會顯示為 Lakeview 儀錶板中的新元件錯誤。
- 當數值欄位用於 Lakeview 儀錶板上的視覺效果時,可以使用色彩漸層。
- 現在在指定依據色彩的字段時,Lakeview 儀錶板視覺化編輯器中會顯示色彩漸層。
- 如果檢視者在草稿 Lakeview 儀錶板上缺少編輯許可權,則與視覺效果相關聯的標題和描述將不再顯示可編輯。
- 修正了圖表中超過 100 個數列的工具提示錯誤顯示所有數列的問題。 現在,只會顯示焦點數列。
- 透過效能優化,將 SQL 編輯器中的輸入延遲減少 30%。
- 在 SQL 編輯器中管理查詢時,將查詢移至回收站會自動關閉索引標籤。
- 修正在SQL編輯器中調整側邊面板寬度時意外選取文字的問題。
2024年2月29日
- 目錄瀏覽器中的架構瀏覽器現在會顯示欄位主鍵和外鍵約束。
- 目錄探索器中的 [譜系] 索引標籤顯示的保留時間已延長至一年。
- 筆記本中新圖表上的工具提示現在一律會在圖表的可視範圍內呈現。
- 瞭解如何使用 REST API 以程式設計方式管理 Lakeview 儀錶板。 請參閱 使用工作區 API 管理儀錶板。
- Lakeview 儀錶板現在支援直方圖。
- Lakeview 儀錶板中的共享和發佈功能已改善。
- 改善的共用和發佈對話框,允許安全且輕鬆地與任何帳戶用戶共用。
- 如果已存在,從工作區瀏覽器開啟的儀表板會顯示已發佈的儀表板。 檢視者現在可以查看最新發行版本的詳細數據,包括發行者、時間和認證。
- 針對編輯器,Lakeview 儀錶板 UI 中的新下拉式切換器可讓您在草稿和已發佈的版本之間快速移動。
2024年2月22日
- [目錄總管] 數據表檢視中 [ 範例數據 ] 索引卷標的改善可讓您排序數據行、將選取的數據 複製到 剪貼簿,以及檢視行號。 它現在可以更清楚地顯示特殊值,例如 JSON 物件、日期、數值和 Null 值。
- Lakeview 儀錶板現在支援將儀錶板的定期 PDF 快照傳送給工作區成員及通知目的地。 請參閱 排程和訂用帳戶。
- Lakeview 下拉式選擇器中的視覺效果選項清單現在會依字母順序排序。
- 將 Databricks SQL 儀錶板複製到 Lakeview 儀錶板時,無法轉換的 Widget 現在會顯示視覺效果設定選擇器,而不是錯誤訊息。
2024年2月15日
- 已移除代碼查詢篩選器的文件,例如
SELECT action AS 'action::filter'。 Databricks 建議更新查詢以移除此模式。
- 在 Lakeview 儀錶板中,當未指定角度欄位時,餅圖現在會顯示大小相等的區塊。
- Lakeview 現在支援組合圖,結合條形圖和折線圖,在相同的圖表上顯示兩個不同的值。
- 熱度圖現在已在 Lakeview 中提供,使用色彩強度來顯示兩個離散變數之間的相關程度。
2024年2月8日
- 您現在可以在開啟沒有許可權的 Lakeview 儀錶板連結時要求存取權。
- Lakeview 儀錶板篩選現在具有明確的 [全部 ] 和 [無] 選項。 作者可以選擇在單一選取篩選中隱藏 [ 全部 ] 選項。
- 您現在可以在 Lakeview 儀錶板圖表上設定座標軸的最小值和最大值。
2024年2月1日
Databricks SQL 2024.10 版可用
推出排程
- 2024.10 的預覽推出:2024 年 1 月 30 日至 2024 年 2 月 5 日之間
- 2024.10 目前的推出:2023 年 2 月 13 日至 2024 年 2 月 20 日之間
2024.10 中的變更
-
修正 DML 命令中的損毀檔案處理: DML 命令
DELETE、UPDATE與MERGE INTO不再遵守讀取選項ignoreCorruptFiles與ignoreMissingFiles。 在數據表中遇到無法讀取的檔案時,即使指定了這些選項,這些命令現在仍會失敗。 - 數據列層級並行存取已正式推出,且預設為開啟: 數據列層級並行存取可藉由偵測數據列層級的變更來減少並行寫入作業之間的衝突。 不分區的數據表(包含具有液體叢集的表)才支持數據列層級並行存取。 在已啟用刪除向量的 Delta 資料表上,預設會啟用資料列層級並行存取。 請參閱 與行級並發性相關的寫入衝突。
- Unity 目錄外部數據表的淺層複製 (公開預覽): 您現在可以搭配 Unity 目錄外部資料表使用淺層複製。 請參閱 Unity 目錄數據表的淺層複製。
-
更快速的多線程統計數據收集: 從 Iceberg 和 Parquet 數據表執行
CONVERT TO DELTA或複製時,小型叢集上的統計數據收集速度高達 10 倍。 請參閱 轉換成 Delta Lake ,並以 累加方式將 Parquet 和 Apache Iceberg 數據表複製到 Delta Lake。 - Delta 檔案上 DeltaSource 中的下推篩選: 為了獲得更好的使用率,Delta 表的串流查詢分割區篩選器現在會在速率限制之前推送至 Delta 表。
使用者介面更新
本節所列的功能與上述 SQL 倉儲計算版本無關。
- 已移除 Databricks SQL 物件清單頁面上的 [ 系統管理員檢視 ] 索引卷標(查詢、儀錶板和警示)。 工作區系統管理員使用者可以從其各自的清單頁面檢視所有物件。 請參閱 存取和管理已儲存的查詢、舊版儀錶板 和 Databricks SQL 警示。
- 查詢歷程記錄頁面預設會顯示過去24小時內的查詢。 請參閱 查詢歷程記錄。
- 複製到 Lakeview 儀錶板的功能表選項已新增至 Databricks SQL 儀錶板 UI。 您可以使用此工具來建立新的 Lakeview 儀錶板,其中包含現有 Databricks SQL 儀錶板中的相同查詢和視覺效果。 請參閱 將傳統儀錶板複製到 AI/BI 儀錶板。
- Lakeview 儀錶板中的條形圖支援堆棧條形圖,以正規化為 100%。
- 已修正當在已發佈的 Lakeview 儀錶板上放大時,會導致焦點放在不正確的縮放比例的問題。
2024年1月24日
- Lakeview 儀錶板畫布會自動調整小工具位置,盡可能地移除列之間的空白垂直空間。
- 在 Lakeview 儀錶板視覺效果中減少標題和描述文字之間的空格符。
2024年1月18日
- 已修正視覺化時的渲染問題,在 X 軸只顯示單一日期的條形圖會出現極薄的條形現象。 新的圖表視覺效果會如預期般呈現。
- 根據預設,Lakeview 儀錶板清單頁面會顯示您的儀錶板。 您可以使用該頁面上的篩選來存取其他工作區用戶所擁有的 Lakeview 儀錶板。
2024年1月11日
- Databricks SQL 查詢和儀錶板 API 支援透過程式變更 執行身分 角色設定。
- Lakeview 支援將儀錶板導出和匯入為檔案,以利跨工作區重現草稿儀錶板。 請參閱 匯出、匯入或取代儀錶板
2024年1月4日
- 在目錄總管中引進主鍵和外鍵實體關聯性圖表。 請參閱 檢視實體關聯性圖表。