利用內建的管線介面、事件日誌、查詢歷史及自訂事件鉤子監控 Lakeflow 管線。 這些功能追蹤更新進度、資料品質、血統及串流指標。
管線監控分為三層,從快速瀏覽到深入的程式化查詢:
- 作業與管線清單是最快的檢查方式。 它會在每個管線旁顯示最近五次運行的結果,作為狀態指示器,讓你一目了然地判斷最近的運行是否成功、失敗,或仍在運行中。
- 管線監控介面會依狀態、每表列數、資料品質指標、更新歷史,以及串流待辦事項指標,以顏色標示管線圖。 請參考 介面中的監控管線。
- 事件記錄是兩者底下的真實情況。 這是一個結構化的 Delta 表格,你可以查詢任何程式化或歷史性的內容,例如更新結果、資料品質趨勢和資源使用情況。 請參閱 管線事件記錄檔。
-
pipeline_events系統表(Beta)彙整區域內所有工作區管線的事件,因此你可以用 SQL 追蹤整個團隊的健康狀況與趨勢。 請參閱 監控與查詢事件。
要在管線事件中發出警報,請設定通知。 當管線依自身排程運行時,直接設定通知;當管線在 Lakeflow 工作中運行時,則 以工作通知 形式呈現。 請參閱 ,新增有關管線事件的電子郵件通知。
| 主題 | Description |
|---|---|
| 使用UI進行監視 | 觀察管線更新的進度和狀態,並警示成功或失敗。 檢視串流來源的計量,例如Apache Kafka和自動載入器。 |
| 監控與查詢事件 (測試版) | 利用管線事件系統資料表追蹤區域內所有工作區管線的健康狀況。 |
| 事件記錄 | 使用管線事件記錄檔擷取管線更新的詳細資訊,例如資料譜系、資料品質計量和資源使用量。 此外,請參閱 事件記錄檔的架構。 |
| 查詢歷程記錄 | 藉由查看查詢歷程記錄來檢查和診斷查詢效能。 |
| 自訂監控 | 使用事件鉤子定義自定義動作,以在特定事件發生時採取行動。 |
此外,還有針對特定案例的疑難排解主題。
| 主題 | Description |
|---|---|
| 從串流檢查點故障中恢復管道 | 復原具有無效或損毀串流檢查點的管線。 |
| 修正管線中過高初始化時間的問題 | 透過跨管線分割和負載平衡流程,修正管線的高初始化時間。 |