這些功能和 Azure Databricks 平台改進於 2024 年 8 月發佈。
注意
分階段發行。 您的 Azure Databricks 帳戶可能要到初始發行日期後一週以上才會更新。
使用新的資源配額 API 監視 Unity Catalog 物件使用量
2024 年 8 月 30 日
新的資源配額 API 讓您能夠監控 Unity Catalog 安全性可控物件的使用情況,以滿足資源配額要求。 很快,當您接近配額限制時,您也能夠接收電子郵件通知。 請參閱 監控 Unity Catalog 資源配額的使用情況。 和 資源配額 API 參考資料。
MPT 7B Instruct 和 MPT 30B Instruct 模型退役
2024 年 8 月 30 日
MPT 7B Instruct 和 MPT 30B Instruct 模型現已淘汰。 如需建議的替代模型,請參閱淘汰的模型。
AskSupport 由 Azure Databricks Assistant 取代
2024 年 8 月 29 日
AskSupport 是一個基於 Databricks Slack 的支援通道,現已被 Databricks Assistant 取代。您可以在您的 Databricks 工作區中使用它。 使用 Databricks Assistant 來搜尋技術文件、建立票證,以及獲取具情境感知的支援。
若要使用 AI Assistant,必須在您的帳戶主控台中啟用 AI Assistant。
新增至帳戶主控台的可匯入成本管理儀表板 (公開預覽)
2024 年 8 月 28 日
帳戶管理員現在可以從帳戶控制台將可自定義的成本管理儀錶板匯入其帳戶中的任何 Unity 目錄工作區。 儀表板有兩個版本:一個監視全帳戶使用量,另一個用於單一工作區使用量。
Lakeflow 系統資料表擴充了額外的欄位
2024 年 8 月 23 日
system.lakeflow
架構中的數據表正在增加新的欄位進行擴充。 已進行下列變更:
-
jobs
已擴充至包括description
欄位。 -
job_run_timeline
擴充了run_type
、run_name
、compute_ids
、termination_code
和job_parameters
欄位。 -
job_task_run_timeline
會使用job_run_id
、parent_run_id
和termination_code
數據行來擴充。
架構變更是非中斷的,而且不會中斷現有的工作流程。 新的欄將不會針對已發出的行進行填補。 如需更多資訊,請參閱 職務系統資料表參考。
Python 程式碼格式化錯誤醒目提示
2024 年 8 月 23 日
筆記本和檔案編輯器中的 Python 程式碼可以標示出格式錯誤和警告,比如非預期的縮排、行長過長等等。 請參閱 Python 錯誤醒目提示。
Delta Sharing:Python 和 Power BI 連接器現可支援更多 Delta Lake 功能
2024 年 8 月 21 日
Delta Sharing Python 連接器 1.1.0+ 和 Power BI v2.132.908.0+ 現在支援:
- 欄位映射名稱模式
- 刪除向量
- 統一格式
Databricks Runtime 14.1+ 和開放原始碼 Delta Sharing Apache Spark 連接器 3.1+ 已支援這些 Delta Lake 功能。
請參閱 Delta Lake 功能支援矩陣。
Delta Sharing 增加了對 TimestampNTZ 格式的支援
2024 年 8 月 21 日
Delta Sharing 在 Databricks Runtime 14.1 和更新版本以及開放原始碼 Delta Sharing Apache Spark 連接器 3.3 和更新版本上新增 TimestampNTZ 的支援。
請參閱 Delta Lake 功能支援矩陣。
Azure Databricks 工作 For each
任務已正式推出
2024 年 8 月 21 日
For each
任務現在已一般可用。 您可以使用 For each
任務以迴圈方式執行另一個任務,將一組不同的參數傳遞至任務的每次迭代。
For each
任務可以迭代任何標準工作任務類型,例如筆記本、JAR、Python 指令碼或 SQL 任務。 請參閱 使用任務 For each
在迴圈中執行另一個任務。
工作區管理員的 Azure RBAC 權限
2024 年 8 月 20 日
先前,需要內建的 Azure RBAC(角色型訪問控制)貢獻者或擁有者角色,才能從 Azure 將 Azure Databricks 工作區管理員角色指派給使用者。 您現在可以建立具有許可權 Microsoft.Databricks/workspaces/assignWorkspaceAdmin/action
的自定義 Azure RBAC 角色,將 Azure Databricks 工作區管理員角色授與使用者。 這些使用者可以管理其 Azure Databricks 服務並設定診斷記錄。 如需詳細資訊,請參閱必要的 Azure 管理權限。
Databricks Runtime 15.4 LTS 已一般可用
2024 年 8 月 19 日
Databricks Runtime 15.4 LTS 和 Databricks Runtime 15.4 LTS ML 現已正式發行。
請參閲 Databricks Runtime 15.4 LTS 和 Databricks Runtime 15.4 LTS for Machine Learning。
個人化筆記應用程式自動完成
2024 年 8 月 19 日
Notebook 自動完成現在會根據您個人的 Unity Catalog 的資料元數據和使用情況來排定建議的優先順序,提供每位使用者個人化的建議順位。 請參閱個人化的自動完成功能
工作區檔案中已支援符號連結
2024 年 8 月 18 日
用戶現在可以在 Web 終端機和筆記本單元格中建立符號連結。 如果您將滑鼠停留在符號連結上,工具提示會顯示其基礎路徑,以及複製路徑的選項。 所有目標都必須位於 /Workspace
目錄中。
為作業計算設定工作區的預設存取模式
2024 年 8 月 16 日
工作區管理員現在可以為其工作區中的工作計算設定預設存取模式。 此預設存取模式會套用至沒有已定義存取模式的計算資源。 如需詳細資訊,請參閱工作計算的預設存取模式。
適用於 Databricks 助理的全新斜線命令
2024 年 8 月 14 日
Databricks Assistant 已新增下列 Slash 命令作為常見任務的捷徑:
-
/findTables
:根據 Unity 目錄元數據搜尋相關數據表。 -
/findQueries
:根據 Unity 目錄元數據搜尋相關的查詢。 -
/prettify
:將程式碼格式化以提高可讀性。 -
/rename
:根據情境,建議筆記本儲存格和其他元素使用更新的名稱。 -
/settings
:直接透過 Assistant 調整筆記本設定。
如需詳細資訊,請參閱使用斜線指令進行提示。
工作區搜尋現在支援磁碟區
2024 年 8 月 14 日
卷現在包含在搜尋結果中。 請參閱搜尋工作區物件。
Meta Llama 3.1 405B模型在基礎模型的微調中受到支援。
2024 年 8 月 14 日
Meta Llama 3.1 405B 模型現在支援基礎模型微調。 請參閱支援的模型。
Databricks JDBC 驅動程式 2.6.40
2024 年 8 月 13 日
Databricks JDBC Driver 2.6.40 版現在可從 JDBC 驅動程式下載取得。 此版本移除了多餘的 WARNING
記錄訊息,可提高記錄可用性和安全性。
此版本包含下列改進和新功能:
- OIDC 探索端點支援。 驅動程式現在可以設定 OIDC 探索端點來擷取令牌並擷取授權端點。
- Arrow 支援已更新。 驅動程式現在使用 Apache Arrow 14.0.2 版。 舊版驅動程式使用 Apache Arrow 9.0.0 版。
-
ProxyIgnoreList
支援。 當ProxyIgnoreList
設定為UseProxy
時,驅動程式現在支援1
屬性。 - 更新令牌支援。 驅動程式現在支援可選的重新整理令牌。 只要存取令牌有效,它會儲存存取令牌並重複使用給新的連線。 如果驅動程式無法使用重新整理令牌來更新存取令牌,則會再次登入。
- 已更新驗證支援。 驅動程式現在支援Google Cloud上的瀏覽器型 (U2M) 和客戶端認證 (M2M) 驗證。
- 已新增統一的預設 OAuth 選項。
- 您現在可以設定 OAuth 重新導向連接埠。 若要這樣做,請將
OAuth2RedirectUrlPort
屬性設定為端口。
如需完整的組態資訊,請參閱隨驅動程式下載套件一起安裝的 Databricks JDBC 驅動程式指南。
如果 90 天後未使用,則會撤銷 Databricks 個人存取權杖
2024 年 8 月 13 日
Databricks 現在會自動撤銷 90 天或更長時間內未使用的任何個人存取權杖 (PAT)。 如需詳細資訊,請參閱 監視和撤銷個人存取令牌。
叢集 API 現在支援部分組態更新
2024 年 8 月 13 日
新的 API 呼叫可讓您部分更新叢集組態,要求您只指定您想要更新的屬性。 請參閱 REST API 參考中的 更新叢集組態(部分)。
在筆記本儲存格中換行
2024 年 8 月 12 日
您現在可以啟用或停用筆記本儲存格中的換行,讓文字可以換行到多行,或透過水平捲動保持在單行上。 請參閱換行。
指定要同步的 Mosaic AI 向量搜尋欄位
2024 年 8 月 12 日
您現在可以指定資料表中要用於向量搜尋索引的數據行子集。 主鍵數據行和內嵌數據行一律會同步處理。 請參閱如何建立和查詢向量搜尋索引。
工作區資料夾中的檔案不能再有相同的名稱
2024 年 8 月 9 日
當資產的名稱與另一個檔案的名稱完全相符時,Databricks 現在可防止您在工作區資料夾中建立或重新命名資產,並考慮資產的擴展名。 例如,如果在相同工作區資料夾中已經有一個基礎名稱為 test.py
且擴展名為 test
的筆記本,您就無法再建立名為 .py
的檔案。
如需詳細資訊,請參閱在工作區資料夾中命名資產。
運算政策強制執行現已推出
2024 年 8 月 8 日
原則合規性強制執行可讓工作區系統管理員更新其工作區的計算資源,以符合最新版的原則。 此功能可用於 UI 或叢集原則 API。
基礎模型 API(按使用權杖計費)現已全面上市
2024 年 8 月 7 日
Foundation Model APIs 按代幣計費現已正式推出。 請參閱按代幣付費的 Foundation Model API。
使用 Databricks Clean Rooms 安全且私密地就資料專案展開共同作業 (公開預覽)
2024 年 8 月 6 日
Databricks Clean Rooms 使用 Delta Sharing 和無伺服器計算來提供安全且隱私權保護的環境,讓多方可以共用敏感數據並共同作業,而不需要直接存取彼此的數據。
透過 Clean Rooms,來自其他 Databricks 帳戶的使用者可以共同作業,以產生關於共用專案的獨特見解,例如廣告活動、投資決策或研發,而不需要移動或公開敏感數據。 使用 Databricks 筆記本支援的任何語言,在短暫性環境中執行複雜的工作負載,包括提供對機器學習工作負載原生支援的 Python。
若要試用,請洽詢您的 Azure Databricks 代表。
請參閱什麼是 Azure Databricks Clean Rooms?。
Mosaic AI 向量搜尋現在符合 HIPAA 規範
2024 年 8 月 6 日
Mosaic AI 向量搜尋現在符合所有區域的 HIPAA 規範。
格式化筆記本和查詢結果表中的欄。
2024 年 8 月 6 日
透過使用如 貨幣、百分比、URL等欄位格式選項、控制小數點數量等功能,讓您的結果數據表更加易讀。 請參閱 格式欄。
數據列的篩選和數據行的掩碼現已正式推出,帶有改進。
2024 年 8 月 6 日
Databricks Runtime 12.2 和更新版本現已正式推出將數據列篩選和數據行遮罩套用至數據表的功能。 資料列篩選和資料行遮罩可防止指定使用者存取敏感資料。 這些篩選和遮罩會實作為 SQL 使用者定義函式 (UDF)。 正式發行版支援公開預覽版中無法使用的下列功能:
- 原則參數中的常數表示式(字串、數值、間隔、布爾值、Null)。
- 具象化檢視表和串流資料表(公開預覽)。
- MERGE 陳述式。
- 數據表取樣。
針對專用 計算資源的 細粒度存取控制的獨立版本發佈,也擴展了計算選項,以處理已應用列過濾和欄位遮罩的資料表。
請參閱 行篩選和列遮罩。
Lakehouse Federation 已全面可用 (GA)
2024 年 8 月 1 日
在 Databricks Runtime 15.2 及之後的版本以及 Databricks SQL 2024.30 及之後的版本中,下列資料庫類型的 Lakehouse Federation 連接器已正式可用 (GA):
- MySQL
- PostgreSQL
- Amazon Redshift
- Snowflake
- Microsoft SQL Server
- Azure Synapse (SQL 資料倉儲)
- Databricks
此版本也引入了下列改善:
- 支援 Snowflake 和 Microsoft SQL Server 連接器中的單一登入 (SSO) 驗證。
- 來自無伺服器計算環境的 SQL Server 連接器現在受 Azure Private Link 的支援。 請參閱步驟 3:建立私人端點規則。
- 對於額外的下推功能(字串、數學及其他函式)的支援。
- 已改善不同查詢形態的下推成功率。
- 其他額外的下推偵錯功能:
-
EXPLAIN FORMATTED
輸出會顯示已下推的查詢文字。 - 查詢設定檔 UI 會顯示下推的查詢文字、聯合節點識別碼和 JDBC 查詢執行時間(詳細模式)。 請參閱檢視系統生成的聯合查詢。
-