使用
這很重要
這項功能目前處於 公開預覽版。
Lakeflow Spark 宣告式管線(SDP)在針對 SDP 的原始碼中定義管線。 你可以用 SQL 或 Python 編輯管線來源,例如在 Lakeflow 管線編輯器中。
Azure Databricks 也提供一個稱為 Databricks SQL 的 SQL 環境。 你可以利用 Databricks SQL 在 SDP 以外的管線功能中建立實體化檢視和串流資料表(參見 Data Bricks SQL 中的管線)。 通常,Databricks SQL 不會與 Lakeflow Spark 宣告式管線一起使用。
不過你可以在 Databricks SQL 中使用 ALTER SQL 語句來修改用 SDP 或 Databricks SQL 建立的資料集的屬性。 無論你是在修改 SDP 資料集,還是 Databricks SQL 管線資料集,都可以使用這些來自 Databricks SQL 環境的 SQL 語句。
- 串流表 - ALTER STREAMING TABLE
- 具現化視圖 - ALTER MATERIALIZED VIEW
備註
你不能用 ALTER 語句修改 SDP 定義的資料集的排程或觸發。
限制:管線更新與變更 ALTER
有些情況下, ALTER 陳述會與管線建立的資料集定義相衝突。 定義管線中資料表或視圖的 SQL 會在每次更新時重新執行。 這可能會復原你用 ALTER 陳述所做的更改。
舉例來說,如果你有一個 SQL 語句定義了具體化的視圖,例如以下內容:
CREATE OR REPLACE MATERIALIZED VIEW masked_view (
id int,
name string,
region string,
ssn string MASK catalog.schema.ssn_mask_fn
)
WITH ROW FILTER catalog.schema.us_filter_fn ON (region)
AS SELECT id, name, region, ssn
FROM employees;
接著你嘗試從ssn欄位移除遮罩,使用ALTER陳述式,例如:
ALTER MATERIALIZED VIEW masked_view ALTER COLUMN ssn DROP MASK;
遮罩會被移除,但下次實體化檢視更新時,SQL 定義會重新加入它。
要安全移除遮罩,必須先編輯 SQL 定義移除遮罩,然後執行 ALTER 遮罩指令 DROP 。
備註
若要編輯 SDP 中定義的管線定義,請使用 管線編輯器編輯您的管線來源。 若要編輯 Databricks SQL 中定義的管線定義,請在任何 Databricks SQL 環境中執行修改後的 SQL 陳述式。