共用方式為


將資料從 SQL Server 資料庫複製到 Azure Blob 儲存體

適用於:Azure Data Factory Azure Synapse Analytics

提示

試用 Microsoft Fabric 中的 Data Factory,這是適用於企業的全方位分析解決方案。 Microsoft Fabric 涵蓋從資料移動到資料科學、即時分析、商業智慧和報告的所有項目。 了解如何免費開始新的試用

在此教學課程中,您會使用 Azure Data Factory 使用者介面 (UI) 來建立資料處理站管線,以將資料從 SQL Server 資料庫複製到 Azure Blob 儲存體。 您要建立及使用自我裝載的整合執行階段,其會在內部部署與雲端資料存放區之間移動資料。

注意

本文不提供 Data Factory 的詳細簡介。 如需詳細資訊,請參閱 Data Factory 簡介

在本教學課程中,您會執行下列步驟:

  • 建立資料處理站。
  • 建立自我裝載整合執行階段。
  • 建立 SQL Server 和 Azure 儲存體連結的服務。
  • 建立 SQL Server 和 Azure Blob 資料集。
  • 建立具有複製活動的管線來移動資料。
  • 啟動管線執行。
  • 監視管道執行。

必要條件

Azure 訂用帳戶

開始之前,如果您還沒有 Azure 訂用帳戶,請建立免費帳戶

Azure 角色

若要建立資料處理站執行個體,您用來登入 Azure 的使用者帳戶必須具備「參與者」或「擁有者」角色,或必須是 Azure 訂用帳戶的「管理員」

若要檢視您在訂用帳戶中擁有的權限,請前往 Azure 入口網站。 在右上角中,選取使用者名稱,然後選取 [權限]。 如果您有多個訂用帳戶的存取權,請選取適當的訂用帳戶。 如需如何將使用者新增至角色的範例指示,請參閱使用 Azure 入口網站來指派 Azure 角色

SQL Server 2014、2016 和 2017

在此教學課程中,您會使用 SQL Server 資料庫作為「來源」資料存放區。 您在此教學課程中於資料處理站中建立的管線會將資料從此 SQL Server 資料庫 (來源) 複製到 Blob 儲存體 (接收)。 然後在 SQL Server 資料庫中建立名為 emp 的資料表,並在資料表中插入幾個範例項目。

  1. 啟動 SQL Server Management Studio。 如果它尚未安裝在機器上,請移至下載 SQL Server Management Studio

  2. 使用您的認證連線到 SQL Server 執行個體。

  3. 建立範例資料庫。 在樹狀檢視中,以滑鼠右鍵按一下 [資料庫],然後選取 [新增資料庫]

  4. 在 [新增資料庫] 視窗中,輸入資料庫的名稱,然後選取 [確定]

  5. 若要建立 emp 資料表並在其中插入一些範例資料,請針對資料庫執行下列查詢指令碼。 在樹狀檢視中,以滑鼠右鍵按一下您建立的資料庫,然後選取 [新增查詢]

     CREATE TABLE dbo.emp
     (
         ID int IDENTITY(1,1) NOT NULL,
         FirstName varchar(50),
         LastName varchar(50)
     )
     GO
    
     INSERT INTO emp (FirstName, LastName) VALUES ('John', 'Doe')
     INSERT INTO emp (FirstName, LastName) VALUES ('Jane', 'Doe')
     GO
    

Azure 儲存體帳戶

在本教學課程中,您可以使用一般用途的 Azure 儲存體帳戶 (特別是 Blob 儲存體) 作為目的地/接收資料存放區。 如果您沒有一般用途的 Azure 儲存體帳戶,請參閱建立儲存體帳戶戶。 您在此教學課程中於資料處理站中建立的管線會將資料從 SQL Server 資料庫 (來源) 複製到 Blob 儲存體 (接收)。

取得儲存體帳戶名稱和帳戶金鑰

您會在此教學課程中使用儲存體帳戶的名稱和金鑰。 採取下列步驟,以取得儲存體帳戶的名稱和金鑰:

  1. 使用您的使用者名稱和密碼登入 Azure 入口網站

  2. 在左側窗格中,選取 [所有服務]。 使用 Storage 關鍵字進行篩選,然後選取 [儲存體帳戶]

    記憶體帳戶搜尋

  3. 在儲存體帳戶清單中,篩選您的儲存體帳戶 (如有需要)。 然後選取您的儲存體帳戶。

  4. 在 [儲存體帳戶] 視窗中,選取 [存取金鑰]

  5. 在 [儲存體帳戶名稱] 和 [金鑰1] 方塊中複製值,然後將它們貼到 [記事本] 或另一個編輯器中,以供稍後在教學課程中使用。

建立 adftutorial 容器

在這一節中,您會在 Blob 儲存體中建立一個名為 adftutorial 的 Blob 容器。

  1. 在 [儲存體帳戶] 視窗中,移至 [概觀],然後選取 [容器]

    選取 Blob 選項

  2. 在 [容器] 視窗中,選取 [+ 容器] 以建立新的容器。

  3. 在 [新增容器] 視窗中的 [名稱] 下,輸入 adftutorial。 然後選取建立

  4. 在容器清單中選取您剛才建立的 [adftutorial]

  5. 保留 [容器] 視窗以供 adftutorial 開啟。 您可以在本快速入門結尾處使用它來確認輸出。 Data Factory 會在此容器中自動建立輸出資料夾,因此您不需要建立輸出資料夾。

建立資料處理站

在此步驟中,您可以建立資料處理站,並啟動 Data Factory 使用者介面,在資料處理站中建立管線。

  1. 開啟 Microsoft EdgeGoogle Chrome 網頁瀏覽器。 目前,只有 Microsoft Edge 和 Google Chrome 網頁瀏覽器支援 Data Factory UI。

  2. 在左側功能表上,選取 [建立資源]>[整合]>[Data Factory]

    Data Factory 在 & quot 中選取專案;New”窗 格

  3. 在 [新增資料處理站] 頁面的 [名稱] 下,輸入 ADFTutorialDataFactory

    資料處理站的名稱必須是「全域唯一」的名稱。 如果您在 [名稱] 欄位看到下列錯誤訊息,請變更資料處理站的名稱 (例如 yournameADFTutorialDataFactory)。 如需 Data Factory 成品的命名規則,請參閱 Data Factory 命名規則

    重複名稱的新數據處理站錯誤訊息。

  4. 選取您要在其中建立資料處理站的 Azure 訂用帳戶

  5. 針對 [資源群組],採取下列其中一個步驟︰

    • 選取 [使用現有的] ,然後從下拉式清單選取現有的資源群組。

    • 選取 [建立新的] ,然後輸入資源群組的名稱。

      若要了解資源群組,請參閱使用資源群組管理您的 Azure 資源

  6. 在 [版本] 下,選取 [V2]

  7. 在 [位置] 下,選取資料處理站的位置。 只有受到支援的位置會顯示在下拉式清單中。 Data Factory 所使用的資料存放區 (例如儲存體和 SQL Database) 和計算 (例如 Azure HDInsight) 可位於其他區域。

  8. 選取 建立

  9. 建立完成之後,您會看到如圖中所示的 [Data Factory] 頁面:

    Azure Data Factory 的首頁,具有 [開啟 Azure Data Factory Studio] 圖格。

  10. 在 [開啟 Azure Data Factory Studio] 圖格上選取 [開啟],以在個別的索引標籤中啟動 Data Factory UI。

建立新管線

  1. 在 Azure Data Factory 的首頁上選取 [協調]。 系統會自動為您建立管線。 您會在樹狀檢視中看到管線及其開啟的編輯器。

    顯示 Data Factory 首頁的螢幕快照,其中已醒目提示 Orchestrate 按鈕。

  2. 在 [一般] 面板中的 [屬性] 下,針對 [名稱] 指定 SQLServerToBlobPipeline。 然後按一下右上角的 [屬性] 圖示來摺疊面板。

  3. 在 [活動] 工具箱中,展開 [移動和轉換]。 將 [複製] 活動拖放至管線設計介面。 將這個活動的名稱設定為 CopySqlServerToAzureBlobActivity

  4. 在 [屬性] 視窗中,移至 [來源] 索引標籤,然後選取 [+ 新增]

  5. 在 [新增資料集] 對話方塊中,搜尋 SQL Server。 選取 SQL Server,然後選取 [繼續]新的 SqlServer 數據集

  6. 在 [設定屬性] 對話方塊中,於 [名稱] 底部輸入 SqlServerDataset。 在 [連結服務] 底下選取 [+ 新增]。 您會在此步驟中建立來源資料存放區 (SQL Server 資料庫) 的連線。

  7. 在 [新增連結服務] 對話方塊中,新增 SqlServerLinkedService 作為 [名稱]。 在 [透過整合執行階段連線] 下,選取 [+ 新增]。 在本節中,您可以建立自我裝載整合執行階段,並使用 SQL Server 資料庫將它與內部部署電腦產生關聯。 自我裝載的整合執行階段是一項元件,可將資料從您機器上的 SQL Server 資料庫複製到 Blob 儲存體。

  8. 在 [整合執行階段設定] 對話方塊中,選取 [自我裝載],然後選取 [繼續]

  9. 在名稱底下,輸入 TutorialIntegrationRuntime。 然後選取建立

  10. 在 [設定] 中,選取 [按一下這裡啟動此電腦的快速安裝]。 此動作會在您的機器上安裝整合執行階段,並使用 Data Factory 進行註冊。 或者,您可以使用手動安裝選項來下載安裝檔案、執行它,並使用金鑰來註冊整合執行階段。 整合執行階段設定

  11. 在 [Integration Runtime (自我裝載) 快速安裝] 視窗中,於程序完成時選取 [關閉]

    整合運行時間 (自我裝載) 快速設定

  12. 在 [新增連結服務 (SQL Server)] 對話方塊中,確認已在 [透過整合執行階段連線] 下選取 [TutorialIntegrationRuntime]。 然後採取下列步驟:

    a. 在 [名稱] 下輸入 SqlServerLinkedService

    b. 在 [伺服器名稱] 下,輸入 SQL Server 執行個體的名稱。

    c. 在 [資料庫名稱] 下,輸入具有 emp 資料表的資料庫名稱。

    d. 在 [驗證類型] 下,選取適當的驗證類型供 Data Factory 用來連線到 SQL Server 資料庫。

    e. 在 [使用者名稱] 和 [密碼] 下,輸入使用者名稱和密碼。 如有需要,請使用 mydomain\myuser 作為使用者名稱。

    f. 選取測試連線。 此步驟是為了確認 Data Factory 可以使用您建立的自我裝載整合執行階段,連線到 SQL Server 資料庫。

    .g 若要儲存連結服務,請選取 [建立]

    新的連結服務 (SQL Server)

  13. 連結服務建立好之後,您會回到 SqlServerDataset 的 [設定屬性] 頁面。 執行下列步驟:

    a. 在 [連結服務] 中,確認您有看到 SqlServerLinkedService

    b. 在 [資料表名稱] 底下,選取 [[dbo].[emp]]

    c. 選取 [確定]。

  14. 移至 SQLServerToBlobPipeline 的索引標籤,或在樹狀檢視中選取 [SQLServerToBlobPipeline]

  15. 移至 [屬性] 視窗底部的 [接收] 索引標籤,並選取 [+ 新增]

  16. 在 [新增資料集] 對話方塊中選取 [Azure Blob 儲存體]。 然後選取 [繼續]

  17. 在 [選取格式] 對話方塊中,選擇您資料的格式類型。 然後選取 [繼續]

    數據格式選取

  18. 在 [設定屬性] 對話方塊中,輸入 AzureBlobDataset 作為 [名稱]。 在 [連結服務] 文字方塊旁,選取 [+ 新增]

  19. 在 [新增連結服務 (Azure Blob 儲存體)] 對話方塊中輸入 AzureStorageLinkedService 作為名稱,然後從 [儲存體帳戶名稱] 清單中選取您的儲存體帳戶。 測試連線,然後選取 [建立] 以部署連結服務。

  20. 建立連結服務之後,您會回到 [設定屬性] 頁面。 選取 [確定]。

  21. 開啟接收資料集。 在 [連線] 索引標籤上,採取下列步驟:

    a. 在 [連結服務] 中確認已選取 [AzureStorageLinkedService]

    b. 在 [檔案路徑] 中,為 [容器/目錄] 部分輸入 adftutorial/fromonprem。 如果在 adftutorial 容器中輸出資料夾不存在,Data Factory 會自動建立該輸出資料夾。

    c. 為 [檔案] 部分,選取 [新增動態內容]解析檔名的動態表達式

    d. 新增 @CONCAT(pipeline().RunId, '.txt'),然後選取 [完成]。 此動作會將檔案重新命名為 PipelineRunID.txt。

  22. 移至已開啟管線的索引標籤,或選取樹狀檢視中的管線。 在 [接收資料集] 中確認已選取 [AzureBlobDataset]

  23. 若要驗證管線設定,選取管線工具列上的 [驗證]。 若要關閉 [管道驗證輸出],請選取 [>>] 圖示。 驗證管線

  24. 若要將您建立的實體發佈至 Data Factory,請選取 [全部發佈]

  25. 請等候,直到您看見 [發佈完成] 快顯訊息。 若要檢查發佈的狀態,請選取視窗頂端的 [顯示通知] 連結。 請選取 [關閉] 來關閉通知視窗。

觸發管線執行

在管線的工具列上選取 [新增觸發程序],然後選取 [立即觸發]

監視管道執行

  1. 移至 [監視] 索引標籤。您會看到您在上一個步驟中手動觸發的管線。

  2. 若要檢視與管線執行相關聯的活動執行,請選取 [管線名稱] 底下的 [SQLServerToBlobPipeline] 連結。 監視管線執行

  3. 在 [活動執行] 頁面上,選取 [詳細資料] (眼鏡圖示) 連結以查看關於複製作業的詳細資料。 若要回到 [管線執行] 檢視,請選取頂端的 [所有管線執行]

驗證輸出

管道會自動在 adftutorial Blob 容器中建立名為 fromonprem 的輸出資料夾。 確認您在輸出資料夾中看到 [pipeline().RunId].txt 檔案。

此範例中的管線會在Blob 儲存體中的不同位置之間複製資料。 您已了解如何︰

  • 建立資料處理站。
  • 建立自我裝載整合執行階段。
  • 建立 SQL Server 和儲存體連結的服務。
  • 建立 SQL Server 和 Blob 儲存體資料集。
  • 建立具有複製活動的管線來移動資料。
  • 啟動管線執行。
  • 監視管道執行。

如需 Data Factory 所支援的資料存放區清單,請參閱支援的資料存放區

若要了解如何將大量資料從來源複製到目的地,請進入下列教學課程: