監視管線

利用內建的管線介面、事件日誌、查詢歷史及自訂事件鉤子監控 Lakeflow 管線。 這些功能追蹤更新進度、資料品質、血統及串流指標。

管線監控分為三層,從快速瀏覽到深入的程式化查詢:

  • 作業與管線清單是最快的檢查方式。 它會在每個管線旁顯示最近五次運行的結果,作為狀態指示器,讓你一目了然地判斷最近的運行是否成功、失敗,或仍在運行中。
  • 管線監控介面會依狀態、每表列數、資料品質指標、更新歷史,以及串流待辦事項指標,以顏色標示管線圖。 請參考 介面中的監控管線。
  • 事件記錄是兩者底下的真實情況。 這是一個結構化的 Delta 表格,你可以查詢任何程式化或歷史性的內容,例如更新結果、資料品質趨勢和資源使用情況。 請參閱 管線事件記錄檔。
  • pipeline_events系統表(Beta)彙整區域內所有工作區管線的事件,因此你可以用 SQL 追蹤整個團隊的健康狀況與趨勢。 請參閱 監控與查詢事件。

要在管線事件中發出警報,請設定通知。 當管線依自身排程運行時,直接設定通知;當管線在 Lakeflow 工作中運行時,則 以工作通知 形式呈現。 請參閱 ,新增有關管線事件的電子郵件通知。

主題 Description
使用UI進行監視 觀察管線更新的進度和狀態,並警示成功或失敗。 檢視串流來源的計量,例如Apache Kafka和自動載入器。
監控與查詢事件 (測試版) 利用管線事件系統資料表追蹤區域內所有工作區管線的健康狀況。
事件記錄 使用管線事件記錄檔擷取管線更新的詳細資訊,例如資料譜系、資料品質計量和資源使用量。
此外,請參閱 事件記錄檔的架構。
查詢歷程記錄 藉由查看查詢歷程記錄來檢查和診斷查詢效能。
自訂監控 使用事件鉤子定義自定義動作,以在特定事件發生時採取行動。

此外,還有針對特定案例的疑難排解主題。

主題 Description
從串流檢查點故障中恢復管道 復原具有無效或損毀串流檢查點的管線。
修正管線中過高初始化時間的問題 透過跨管線分割和負載平衡流程,修正管線的高初始化時間。