使用 Azure Data Factory 或 Synapse Analytics 從 MySQL 複製數據

適用於:Azure Data Factory Azure Synapse Analytics

提示

試用 Microsoft Fabric 中的 Data Factory,這是適用於企業的全方位分析解決方案。 Microsoft Fabric 涵蓋從資料移動到資料科學、即時分析、商業智慧和報告的所有項目。 了解如何免費啟動新的試用版

本文概述如何使用 Azure Data Factory 中的「複製活動」和 Synapse Analytics 管線,從 MySQL 資料庫複製數據。 本文是根據複製活動概觀一文,該文提供複製活動的一般概觀。

支援的功能

下列功能支援此 MySQL 連接器:

支援的功能 IR
複製活動 (來源/-) (1) (2)
查閱活動 (1) (2)

① Azure 整合執行階段 ② 自我裝載整合執行階段

如需複製活動所支援作為來源/接收器的資料存放區清單,請參閱支援的資料存放區表格。

此連接器支援舊版驅動程式版本 v2 和 5.6、5.7、8.0、8.1 和 8.2 版下的 MySQL 5.5、5.7 和 8.0 版。

必要條件

如果您的資料存放區位於內部部署網路、Azure 虛擬網路或 Amazon 虛擬私人雲端中,則必須設定自我裝載整合執行階段以與其連線。

如果您的資料存放區是受控雲端資料服務,則可使用 Azure Integration Runtime。 如果只能存取防火牆規則中核准的 IP,您可以將 Azure Integration Runtime IP 新增至允許清單。

您也可以使用 Azure Data Factory 中的受控虛擬網路整合執行階段功能來存取內部部署網路,而不需要安裝和設定自我裝載整合執行階段。

如需 Data Factory 支援的網路安全性機制和選項的詳細資訊,請參閱資料存取策略

Integration Runtime 提供從 3.7 版開始的內建 MySQL 驅動程式,因此您不需要手動安裝任何驅動程式。

開始使用

若要透過管線執行複製活動,您可以使用下列其中一個工具或 SDK:

使用 UI 建立連結服務至 MySQL

使用下列步驟,在 Azure 入口網站 UI 中建立 MySQL 的鏈接服務。

  1. 前往 Azure Data Factory 或 Synapse 工作區的 [管理] 索引標籤,選取 [連結服務],然後按一下 [新增]:

  2. 搜尋 MySQL,然後選取 MySQL 連接器。

    選取 MySQL 連接器。

  3. 設定服務詳細資料,測試連線,然後建立新的連結服務。

    設定 MySQL 的連結服務。

連接器設定詳細資料

下列各節提供屬性的相關詳細數據,這些屬性是用來定義 MySQL 連接器專屬的 Data Factory 實體。

連結服務屬性

如果您使用建議的驅動程式版本,MySQL 連結服務支援下列屬性:

屬性 描述 必要
type type 屬性必須設定為: MySql Yes
driverVersion 當您選取建議的驅動程式版本時,驅動程式版本。 值為 v2。 Yes
伺服器 MySQL 伺服器的名稱。 Yes
port 要連線到 MySQL 伺服器的埠號碼。 No
database 您的 MySQL 資料庫名稱。 Yes
username 您的用戶名稱。 Yes
password 用戶名稱的密碼。 將此欄位標記為 SecureString 以將其安全地儲存。 或者,可以參考 Azure Key Vault 中儲存的認證 Yes
sslMode 這個選項會指定驅動程式在連線到 MySQL 時是否使用 TLS 加密和驗證。 SSLMode=<0/1/2/3/4>例如
選項:DISABLED (0) / PREFERRED (1) (預設值) / 必要 (2) / VERIFY_CA (3) / VERIFY_IDENTITY (4)
Yes
useSystemTrustStore 此選項會指定是否要使用來自系統信任存放區的 CA 憑證,或從指定的 PEM 檔案使用 CA 憑證。 例如 ; UseSystemTrustStore=<0/1>
選項:已啟用 (1) / 已停用 (0) (預設)
No
connectVia 用於連線到資料存放區的 Integration Runtime。 深入了解必要條件一節。 如果未指定,就會使用預設的 Azure Integration Runtime。 No

範例:

{
    "name": "MySQLLinkedService",
    "properties": {
        "type": "MySql",
        "typeProperties": {
             "server": "<server>",
             "port": 3306,
             "database": "<database>",
             "username": "<username>",
             "password": {
                "type": "SecureString",
                "value": "<password>"
             },
             "sslmode": <sslmode>,
             "usesystemtruststore": <UseSystemTrustStore>,
             "driverVersion": "v2"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

範例:在 Azure Key Vault 中儲存密碼

{
    "name": "MySQLLinkedService",
    "properties": {
        "type": "MySql",
        "typeProperties": {
            "server": "<server>",
            "port": 3306,
            "database": "<database>",
            "username": "<username>",
            "sslmode": <sslmode>,
            "usesystemtruststore": <UseSystemTrustStore>,
            "password": { 
                "type": "AzureKeyVaultSecret", 
                "store": { 
                    "referenceName": "<Azure Key Vault linked service name>", 
                    "type": "LinkedServiceReference" 
                }, 
                "secretName": "<secretName>" 
            },
            "driverVersion": "v2"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

如果您使用舊版驅動程式,支援下列屬性:

屬性 描述 必要
type type 屬性必須設定為: MySql Yes
connectionString 指定連接到 適用於 MySQL 的 Azure 資料庫 實例所需的資訊。
您也可以將密碼放在 Azure Key Vault 中,並從連接字串中提取 password 組態。 請參閱下列範例和在 Azure Key Vault 中儲存認證一文中的更多詳細資料。
Yes
connectVia 用於連線到資料存放區的 Integration Runtime。 深入了解必要條件一節。 如果未指定,就會使用預設的 Azure Integration Runtime。 No

典型的 連接字串 為 Server=<server>;Port=<port>;Database=<database>;UID=<username>;PWD=<password>。 您可以根據案例設定更多屬性:

屬性 描述 必要
sslMode 這個選項會指定驅動程式在連線到 MySQL 時是否使用 TLS 加密和驗證。 SSLMode=<0/1/2/3/4>例如
選項:DISABLED (0) / PREFERRED (1) (預設值) / 必要 (2) / VERIFY_CA (3) / VERIFY_IDENTITY (4)
Yes
SSLCert .pem 檔案的完整路徑和名稱,其中包含用來證明用戶端身分識別的 SSL 憑證。
若要在將憑證傳送至伺服器之前指定用來加密此憑證的私鑰,請使用 SSLKey 屬性。
是,如果使用雙向SSL驗證。
SSLKey 檔案的完整路徑和名稱,其中包含在雙向 SSL 驗證期間用來加密用戶端憑證的私鑰。 是,如果使用雙向SSL驗證。
useSystemTrustStore 此選項會指定是否要使用來自系統信任存放區的 CA 憑證,或從指定的 PEM 檔案使用 CA 憑證。 例如 ; UseSystemTrustStore=<0/1>
選項:已啟用 (1) / 已停用 (0) (預設)
No

範例:

{
    "name": "MySQLLinkedService",
    "properties": {
        "type": "MySql",
        "typeProperties": {
            "connectionString": "Server=<server>;Port=<port>;Database=<database>;UID=<username>;PWD=<password>"
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

資料集屬性

如需可用來定義資料集的區段和屬性完整清單,請參閱資料集一文。 本節提供 MySQL 數據集所支持的屬性清單。

若要從 MySQL 複製資料,支援下列屬性:

屬性 描述 必要
type 數據集的類型屬性必須設定為: MySqlTable Yes
tableName MySQL 資料庫中數據表的名稱。 否 (如果已指定活動來源中的「查詢」)

範例

{
    "name": "MySQLDataset",
    "properties":
    {
        "type": "MySqlTable",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<MySQL linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

如果您使用 RelationalTable 具型別資料集,雖然仍照現狀支援,但建議您往後使用新的版本。

複製活動屬性

如需可用來定義活動的區段和屬性完整清單,請參閱管線一文。 本節提供 MySQL 來源所支持的屬性清單。

MySQL 作為來源

若要從 MySQL 複製資料,複製活動 來源 區段中支援下列屬性:

屬性 描述 必要
type 複製活動來源的類型屬性必須設定為: MySqlSource Yes
query 使用自訂 SQL 查詢來讀取資料。 例如: "SELECT * FROM MyTable" 否 (如果已指定資料集中的 "tableName")

範例:

"activities":[
    {
        "name": "CopyFromMySQL",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<MySQL input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "MySqlSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

如果您使用 RelationalSource 具型別來源,雖然仍照現狀支援,但建議您往後使用新的版本。

MySQL 的數據類型對應

從 MySQL 複製數據時,下列對應會從 MySQL 數據類型使用到服務內部使用的過渡數據類型。 請參閱 架構和數據類型對應 ,以瞭解複製活動如何將來源架構和數據類型對應至接收。

MySQL 數據類型 過渡期服務資料類型 過渡期服務資料類型(適用於舊版驅動程式版本)
bigint Int64 Int64
bigint unsigned Decimal Decimal
bit(1) UInt64 Boolean
bit(M), M>1 UInt64 Byte[]
blob Byte[] Byte[]
bool Boolean
(If TreatTinyAsBoolean=false, it is mapped as SByte.TreatTinyAsBoolean 預設為 true )
Int16
char String String
date Datetime Datetime
datetime Datetime Datetime
decimal Decimal Decimal, String
double Double Double
double precision Double Double
enum String String
float Single Single
int Int32 Int32
int unsigned Int64 Int64
integer Int32 Int32
integer unsigned Int64 Int64
JSON String -
long varbinary Byte[] Byte[]
long varchar String String
longblob Byte[] Byte[]
longtext String String
mediumblob Byte[] Byte[]
mediumint Int32 Int32
mediumint unsigned Int64 Int64
mediumtext String String
numeric Decimal Decimal
real Double Double
set String String
smallint Int16 Int16
smallint unsigned Int32 Int32
text String String
time TimeSpan TimeSpan
timestamp Datetime Datetime
tinyblob Byte[] Byte[]
tinyint SByte Int16
tinyint unsigned Int16 Int16
tinytext String String
varchar String String
year Int Int

查閱活動屬性

若要了解屬性的詳細資料,請參閱查閱活動

升級 MySQL 驅動程式版本

以下是可協助您升級 MySQL 驅動程式版本的步驟:

  1. 在 [編輯鏈接服務] 頁面中,選取 [驅動程式版本] 底下的 [建議],並參考鏈接的服務屬性設定連結的服務。

  2. 最新 MySQL 連結服務的數據類型對應與舊版的數據類型對應不同。 若要瞭解最新的數據類型對應,請參閱 MySQL 的數據類型對應。

  3. 最新的驅動程式版本 v2 支援更多 MySQL 版本。 如需詳細資訊,請參閱 支援的功能

下表顯示使用建議的驅動程式版本與舊版驅動程式版本之 MySQL 連接器之間的數據類型對應差異。

MySQL 數據類型 過渡期服務資料類型(使用建議的驅動程式版本) 過渡期服務資料類型 (使用舊版驅動程式版本)
bit(1) UInt64 布林值
bit(M), M>1 UInt64 Byte[]
bool 布林值 Int16
JSON String Byte[]

如需複製活動支援作為來源和接收器的資料存放區清單,請參閱支援的資料存放區