共用方式為

監視 Azure Data Factory

  • 發行項

本文章說明：

  • 您可以為此服務收集的監視資料類型。
  • 分析資料的方式。

注意

如果您已經熟悉此服務和/或 Azure 監視器，只想知道如何分析監視資料，請參閱本文靠近結尾的分析一節。

當您有依賴 Azure 資源的重要應用程式和商務流程時，就需要監視並取得系統的警示。 Azure 監視器服務會從您系統的每個元件收集及彙總計量和記錄。 Azure 監視器讓您能夠檢視可用性、效能及復原能力，並在發生問題時通知您。 您可以使用 Azure 入口網站、PowerShell、Azure CLI、REST API 或用戶端程式庫來設定及檢視監視資料。

監視方法

有數種方式可以監視 Azure Data Factory。

Azure Data Factory Studio

您可以在 Azure Data Factory Studio 中原生監視所有的 Data Factory 管線執行。 若要開啟監視體驗，請從 Azure 入口網站中的 Data Factory 頁面選取 [啟動 Studio]，然後在 Azure Data Factory Studio 中，從左側功能表選取 [監視]。

如需關於在 Azure Data Factory Studio 中進行監視的詳細資訊，請參閱下列文章：

Azure 入口網站

您也可以直接從 Azure 入口網站監視 Azure Data Factory。 Data Factory 的 Azure 入口網站 [概觀] 頁面上會出現數個計量圖形。 在左側側邊欄功能表上，您可以從 [監視] 區段存取 Azure [活動記錄]，或選取 [警示]、[計量]、[診斷設定] 或 [記錄]。

以程式設計方式監視

您可以使用 .NET、PowerShell、Python 或 REST API，以程式設計方式監視 Data Factory 管線。 如需詳細資訊，請參閱下列文章：

資源類型

Azure 會使用資源類型和識別碼的概念來識別訂用帳戶中的所有內容。 資源類型也是 Azure 中所執行每個資源的資源識別碼組成部分。 例如，虛擬機器的一種資源類型是 Microsoft.Compute/virtualMachines。 如需服務及其相關聯資源類型的清單，請參閱資源提供者 (機器翻譯)。

Azure 監視器同樣會依據資源類型將核心監視資料組織成計量和記錄，也稱為命名空間。 不同的計量和記錄適用於不同的資源類型。 您的服務可能會與多個資源類型相關聯。

如需 Azure Data Factory 的資源類型相關詳細資訊，請參閱 Data Factory 監視資料參考。

資料存放區

對於 Azure 監視器：

  • 計量資料會儲存在 Azure 監視器計量資料庫中。
  • 記錄資料會儲存在 Azure 監視器記錄存放區中。 Log Analytics 是可查詢此存放區的 Azure 入口網站工具。
  • Azure 活動記錄是個單獨存放區，其介面位於 Azure 入口網站。

您可選擇性地將計量和活動記錄資料路由傳送至 Azure 監視器記錄存放區。 然後，可以使用 Log Analytics 來查詢資料，並將其與其他記錄資料相互關聯。

許多服務可以使用診斷設定，將計量和記錄資料傳送至 Azure 監視器以外的其他儲存位置。 範例包括 Azure 儲存體、託管的合作夥伴系統以及使用事件中樞的非 Azure 合作夥伴系統。

如需進一步了解 Azure 監視器如何儲存資料，請參閱 Azure 監視器資料平台。

儲存 Data Factory 管線執行資料

Data Factory 只會儲存管線執行資料 45 天。 如果您要讓資料保持更長的時間，請使用 Azure 監視器來路由診斷記錄。

如果您要使用複雜的查詢來分析資料、建立自訂警示，或跨資料處理站監視資料，請將資料路由傳送至 Log Analytics。 您可以將多個資料處理站的資料路由傳送至單一 Log Analytics 工作區。

您可以使用不在發出記錄的資源訂用帳戶中的儲存體帳戶或事件中樞命名空間。 設定此設定的使用者，必須具有針對這兩種訂閱的適當 Azure 角色型存取控制 (Azure RBAC) 存取權。

Azure 監視器平台計量

Azure 監視器為大多數服務提供平台計量。 這些計量包括：

  • 針對每個命名空間個別定義。
  • 儲存在 Azure 監視器時間序列計量資料庫中。
  • 輕量且能支援近即時警示。
  • 用來追蹤資源效能的長期變化。

收集：Azure 監視器會自動收集平台計量。 不需要組態。

路由： 您也可以將某些平臺計量路由傳送至 Azure 監視器記錄/Log Analytics，以便使用其他記錄數據來查詢它們。 檢查每個計量的 DS 匯出 設定，以查看您是否可以使用診斷設定將計量路由傳送至 Azure 監視器記錄/Log Analytics。

如需 Azure 監視器中所有資源可收集的計量完整清單，請參閱 Azure 監視器中所支援的計量。

如需 Data Factory 可用計量的清單，請參閱 Data Factory 監視資料參考。

Azure 監視器資源記錄

資源記錄提供對 Azure 資源所完成作業的深入解析。 系統會自動產生記錄，但您必須將其路由傳送至 Azure 監視器記錄，才能儲存或查詢這些記錄。 按類別組織記錄。 指定的命名空間可能會有多個資源記錄類別。

收集：您必須先建立「診斷設定」，並將記錄路由傳送至一個或多個位置，才會開始收集和儲存資源記錄。 在建立診斷設定時，您可以指定要收集的記錄類別。 有多種方式可以建立和維護診斷設定，包括透過 Azure 入口網站、程式設計方式，以及 Azure 原則。

路由傳送：建議的預設設定是將資源記錄路由傳送至 Azure 監視器記錄，以便與其他記錄資料一同查詢。 您也可以使用其他位置，例如 Azure 儲存體、Azure 事件中樞及特定 Microsoft 監視合作夥伴。 如需詳細資訊，請參閱 Azure 資源記錄 (機器翻譯) 和資源記錄目的地 (機器翻譯)。

如需收集、儲存及路由傳送資源記錄的詳細資訊，請參閱 Azure 監視器中的診斷設定 (機器翻譯)。

如需 Azure 監視器中所有可用資源記錄類別的清單，請參閱 Azure 監視器中支援的資源記錄 (機器翻譯)。

Azure 監視器中的所有資源記錄都有相同的標頭欄位，後面接著服務特定的欄位。 一般結構描述如 Azure 監視器資源記錄結構描述中所述。

Azure 活動記錄 (部分機器翻譯)

活動記錄包含訂用帳戶層級事件，用於追蹤每個 Azure 資源外部可見的作業；例如，建立新的資源或啟動虛擬機器。

收集：活動記錄事件會自動產生並收集至個別存放區中，以便使用者在 Azure 入口網站中檢視。

路由：您可以將活動記錄資料傳送至 Azure 監視器記錄，以便與其他記錄資料一起分析。 您也可以使用其他位置，例如 Azure 儲存體、Azure 事件中樞及特定 Microsoft 監視合作夥伴。 如需進一步了解如何路由傳送活動記錄，請參閱 Azure 活動記錄概觀 (機器翻譯)。

監視整合執行階段

整合執行階段是 Data Factory 所使用的計算基礎結構，可提供跨不同網路環境的資料整合功能。 Data Factory 提供數種類型的整合執行階段：

  • Azure 整合執行階段
  • 自我裝載整合執行階段
  • Azure-SQL Server Integration Services (SSIS) 整合執行階段
  • Apache Airflow 整合執行階段

Azure 監視器會收集所有類型整合執行階段的計量和診斷記錄。 如需監視整合執行階段的詳細指示，請參閱下列文章：

分析監視資料

有許多工具可用來分析監視資料。

Azure 監視器工具

Azure 監視器支援下列基本工具：

支援更複雜視覺效果的工具包括：

  • 儀表板 (機器翻譯) 可讓您將不同類型的資料合併到 Azure 入口網站中的單一窗格。
  • 活頁簿 (機器翻譯) 是能在 Azure 入口網站中建立的可自訂報表。 活頁簿可以包含文字、計量及記錄查詢。
  • Grafana 是在操作儀表板中表現相當出色的開放平台工具。 您可以使用 Grafana 來建立儀表板，納入 Azure 監視器以外多個來源的資料。
  • Power BI (機器翻譯) 是一項商務分析服務，可提供跨各種資料來源的互動式視覺效果。 你可以將 Power BI 設定為自動從 Azure 監視器匯入記錄資料，以利用這些視覺效果。

Azure 監視器匯出工具

您可以使用下列方法將資料從 Azure 監視器中提取至其他工具：

若要開始使用適用於 Azure 監視器的 REST API，請參閱 Azure 監視 REST API 逐步解說 (機器翻譯)。

如需使用 REST API 設定診斷記錄的詳細指示，請參閱透過 Azure 監視器 REST API 設定診斷記錄。

Kusto 查詢

您可以使用 Kusto 查詢語言 (KQL) 分析 Azure 監視器記錄/Log Analytics 存放區中的監視資料。

重要

當您從入口網站的服務功能表中選取 [記錄] 時，Log Analytics 會隨即開啟，並將查詢範圍設定為目前的服務。 此範圍表示記錄查詢只會包含該資源類型的資料。 如果您想要執行包含其他 Azure 服務資料的查詢，請從 [Azure 監視器] 功能表中選取 [記錄]。 如需詳細資訊，請參閱 Azure 監視器 Log Analytics 中的記錄查詢範圍和時間範圍。

如需各項服務的常見查詢清單，請參閱 Log Analytics 查詢介面 (機器翻譯)。

例如，在 Azure 入口網站的 Data Factory 頁面左側導覽中，選取 [監視] 底下的 [記錄]，然後選取 [查詢] 索引標籤。下列為一些範例查詢：

PipelineRuns 可用性：提供管線執行的可用性。

ADFPipelineRun
| where Status != 'InProgress' and Status != 'Queued'
| where FailureType != 'UserError'
| summarize availability = 100.00 - (100.00*countif(Status != 'Succeeded') / count())  by bin(TimeGenerated, 1h)), _ResourceId
| order by TimeGenerated asc
| render timechart

活動執行前 5 個失敗：傳回前五個因系統錯誤而失敗的活動。

ADFActivityRun 
| where TimeGenerated >= ago(24h)
| where Status != 'InProgress' and Status != 'Queued'
| where FailureType != 'UserError'
| where ActivityName  in (name)
| summarize failureCount = countif(Status != 'Succeeded') by bin(TimeGenerated, 1h), ActivityName
| top 5 by failureCount desc nulls last
| order by TimeGenerated asc
| render timechart

管線執行最新狀態：傳回管線執行的最新狀態。

ADFPipelineRun
| summarize argmax(TimeGenerated, * ) by RunId, Status, _ResourceId

警示

在監視資料中發現特定狀況時，Azure 監視器警示會主動通知您。 警示可讓您在客戶發現系統發生問題前，就先及早識別和解決問題。 如需詳細資訊，請參閱 Azure 監視器警示。

Azure 資源的常見警示有許多來源。 如需 Azure 資源的常見警示範例，請參閱記錄警示查詢範例 (機器翻譯)。 Azure 監視器基準警示 (AMBA) 網站提供半自動化方法來實作重要的平台計量警示、儀表板和指導方針。 此網站適用於持續擴充的 Azure 服務子集，包括屬於 Azure 登陸區域 (ALZ) 的所有服務。

常見的警示結構描述會將 Azure 監視器警示通知的使用量標準化。 如需詳細資訊，請參閱一般警示結構描述 (機器翻譯)。

警示類型

您可以針對在 Azure 監視器資料平台中的任何計量或記錄資料來源發出警示。 警示有許多不同的類型，具體取決於您監視的服務以及所收集的監視資料。 不同類型的警示各有優缺點。 如需詳細資訊，請參閱選擇正確的監視警示類型 (機器翻譯)。

下列清單介紹可建立的 Azure 監視器警示類型：

  • 計量警示 (機器翻譯) 會定期評估資源計量。 這些計量可以是平台計量、自訂計量、Azure 監視器轉換成計量的記錄，或 Application Insights 計量。 計量警示還可以套用多個條件和動態閾值。
  • 記錄警示 (機器翻譯) 可讓使用者使用 Log Analytics 查詢，以預先定義的頻率評估資源記錄。
  • 活動記錄警示 (機器翻譯) 會在發生符合定義條件的新活動記錄事件時觸發。 資源健康狀態警示和服務健康情況警示是報告服務和資源健康狀態的活動記錄警示。

某些 Azure 服務也支援智慧偵測警示、Prometheus 警示或建議的警示規則。

對於某些服務，若要進行大規模監控，您可以將同一計量警示規則套用至相同 Azure 區域中存在的多個同類型資源。 系統會針對每個受監視的資源傳送個別通知。 如需支援的 Azure 服務和雲端，請參閱使用一個警示規則監視多個資源 (機器翻譯)。

Data Factory 警示規則

若要建立及管理警示，請在 Azure 入口網站的 Data Factory 頁面左側導覽中，選取 [監視] 底下的 [警示]。

下表列出 Data Factory 的熱門警示規則。 這只是建議的清單。 您可以為 Data Factory 監視資料參考中列出的任何計量、記錄專案或活動記錄項目設定警示。

警示類型 Condition 描述
計量 失敗的管線執行計量 每當失敗的管線執行計量總計大於 0 時
計量 實體計數總計 每當實體計數總計上限大於 1700000 時
計量 允許的實體計數上限 每當處理站大小 (GB 單位) 總計上限大於 6 時

通知會在管線執行期間或之後提供主動式警示。

Advisor 建議

對於一些服務，如果在資源作業期間發生重大狀況或有即將到來的變更，入口網站的服務 [概觀] 頁面上會顯示警示。 您可以在左側功能表中 [監視] 底下的 [Advisor 建議] 中找到警示的詳細資訊和建議的修正。 在正常作業期間，不會顯示 Advisor 建議。

如需 Azure Advisor 的詳細資訊，請參閱 Azure Advisor 概觀 (機器翻譯)。

相關內容