Azure Data Factory 또는 Synapse Analytics를 사용하여 Impala에서 데이터 복사

적용 대상: Azure Data Factory Azure Synapse Analytics

팁

기업용 올인원 분석 솔루션인 Microsoft Fabric의 Data Factory를 사용해 보세요. Microsoft Fabric은 데이터 이동부터 데이터 과학, 실시간 분석, 비즈니스 인텔리전스 및 보고에 이르기까지 모든 것을 다룹니다. 무료로 새 평가판을 시작하는 방법을 알아봅니다!

이 문서에서는 Azure Data Factory 또는 Synapse Analytics 파이프라인에서 복사 작업을 사용하여 Impala에서 데이터를 복사하는 방법을 간략하게 설명합니다. 이 문서는 복사 작업에 대한 일반적인 개요를 제공하는 복사 작업 개요 문서를 기반으로 합니다.

중요합니다

Impala 커넥터 버전 2.0(미리 보기)은 향상된 네이티브 Impala 지원을 제공합니다. 솔루션에서 Impala 커넥터 버전 1.0을 사용하는 경우 2025년 9월 30일 이전에 Impala 커넥터를 업그레이드하세요. 버전 2.0(미리 보기)과 버전 1.0의 차이점에 대한 자세한 내용은 이 섹션 을 참조하세요.

지원되는 기능

이 Impala 커넥터는 다음과 같은 기능에 지원됩니다.

지원되는 기능	적외선
복사 작업(원본/-)	3,4
조회 작업	3,4

① Azure 통합 런타임 ② 자체 호스팅 통합 런타임

복사 작업의 원본 또는 싱크로 지원되는 데이터 저장소 목록은 지원되는 데이터 저장소 표를 참조하세요.

이 서비스는 연결을 사용하도록 설정하는 기본 제공 드라이버를 제공합니다. 따라서 이 커넥터를 사용하기 위해 드라이버를 수동으로 설치할 필요가 없습니다.

필수 조건

데이터 저장소가 온-프레미스 네트워크, Azure 가상 네트워크 또는 Amazon Virtual Private Cloud 내에 있는 경우 자체 호스팅된 통합 런타임을 구성하여 연결해야 합니다.

데이터 저장소가 관리형 클라우드 데이터 서비스인 경우 Azure Integration Runtime을 사용할 수 있습니다. 액세스가 방화벽 규칙에서 승인된 IP로 제한되는 경우 허용 목록에 Azure Integration Runtime IP를 추가할 수 있습니다.

또한 Azure Data Factory의 관리형 가상 네트워크 통합 런타임 기능을 사용하면 자체 호스팅 통합 런타임을 설치하고 구성하지 않고도 온-프레미스 네트워크에 액세스할 수 있습니다.

Data Factory에서 지원하는 네트워크 보안 메커니즘 및 옵션에 대한 자세한 내용은 데이터 액세스 전략을 참조하세요.

시작하기

파이프라인에 복사 작업을 수행하려면 다음 도구 또는 SDK 중 하나를 사용하면 됩니다.

• 데이터 복사 도구
• Azure Portal
• .NET SDK
• Python SDK
• Azure PowerShell
• REST API
• Azure Resource Manager 템플릿

UI를 사용하여 Impala에 연결된 서비스 만들기

다음 단계를 사용하여 Azure Portal UI에서 Impala에 연결된 서비스를 생성합니다.

1. Azure Data Factory 또는 Synapse 작업 영역에서 관리 탭으로 이동하여 연결된 서비스를 선택하고 새로 만들기를 클릭합니다.

   Azure Data Factory

   

   Azure Synapse

   

2. Impala를 검색하고 Impala 커넥터를 선택합니다.

   

3. 서비스 세부 정보를 구성하고, 연결을 테스트하고, 새로운 연결된 서비스를 만듭니다.

   

커넥터 구성 세부 정보

다음 섹션에서는 Impala 커넥터에 한정된 Data Factory 엔터티를 정의하는 데 사용되는 속성에 대해 자세히 설명합니다.

연결된 서비스 속성

Impala 커넥터는 이제 버전 2.0(미리 보기)을 지원합니다. 버전 1.0에서 Impala 커넥터 버전을 업그레이드하려면 이 섹션 을 참조하세요. 속성 세부 정보는 해당 섹션을 참조하세요.

• 버전 2.0(미리 보기)
• 버전 1.0

버전 2.0(미리 보기)

Impala 연결된 서비스는 버전 2.0(미리 보기)을 적용할 때 다음 속성을 지원합니다.

속성	설명	필수
유형	형식 속성은 Impala로 설정됩니다.	예
버전	지정한 버전입니다. 값은 2.0입니다.	예
주최자 / 호스트	Impala 서버의 IP 주소 또는 호스트 이름입니다(즉, 192.168.222.160).	예
항구	Impala 서버가 클라이언트 연결을 수신하는 데 사용하는 TCP 포트입니다. 기본값은 21050입니다.	아니요
thrift트랜스포트프로토콜	Thrift 계층에서 사용할 전송 프로토콜입니다. 허용되는 값은 이진, HTTP입니다. 기본값은 Binary입니다.	예
인증유형	사용할 인증 유형입니다. 허용되는 값은 Anonymous 및 UsernameAndPassword입니다.	예
사용자 이름	Impala 서버에 액세스하는 데 사용되는 사용자 이름입니다.	아니요
암호	UsernameAndPassword를 사용할 때 사용자 이름에 해당하는 암호입니다. 이 필드를 SecureString으로 표시하여 안전하게 저장하거나, Azure Key Vault에 저장된 비밀을 참조합니다.	아니요
enableSsl (SSL 활성화)	서버에 대한 연결이 TLS를 사용하여 암호화되는지 여부를 지정합니다. 기본값은 true입니다.	아니요
서버 인증서 유효성 검사를 활성화하다	연결할 때 서버 SSL 인증서 유효성 검사를 사용하도록 설정할지 여부를 지정합니다. 항상 시스템 신뢰 저장소를 사용합니다. 기본값은 true입니다.	아니요
커넥트비아	데이터 저장소에 연결하는 데 사용할 통합 런타임입니다. 필수 구성 요소 섹션에서 자세히 알아보세요. 지정하지 않으면 기본 Azure Integration Runtime을 사용합니다.	아니요

예제:

{
    "name": "ImpalaLinkedService",
    "properties": {
        "type": "Impala",
        "version": "2.0",
        "typeProperties": {
            "host" : "<host>",
            "port" : "<port>",
            "authenticationType" : "UsernameAndPassword",
            "username" : "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            },
            "enableSsl": true,
            "thriftTransportProtocol": "Binary",
            "enableServerCertificateValidation": true
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

버전 1.0

버전 1.0을 적용할 때 Impala 연결된 서비스에 다음 속성이 지원됩니다.

다음은 Impala 연결된 서비스에 대해 지원되는 속성입니다.

속성	설명	필수
유형	형식 속성은 Impala로 설정됩니다.	예
주최자 / 호스트	Impala 서버의 IP 주소 또는 호스트 이름입니다(즉, 192.168.222.160).	예
항구	Impala 서버가 클라이언트 연결을 수신하는 데 사용하는 TCP 포트입니다. 기본값은 21050입니다.	아니요
인증유형	사용할 인증 유형입니다. 허용되는 값은 Anonymous, SASLUsername 및 UsernameAndPassword입니다.	예
사용자 이름	Impala 서버에 액세스하는 데 사용되는 사용자 이름입니다. SASLUsername을 사용하는 경우 기본값은 익명입니다.	아니요
암호	UsernameAndPassword를 사용할 때 사용자 이름에 해당하는 암호입니다. 이 필드를 SecureString으로 표시하여 안전하게 저장하거나, Azure Key Vault에 저장된 비밀을 참조합니다.	아니요
enableSsl (SSL 활성화)	서버에 대한 연결이 TLS를 사용하여 암호화되는지 여부를 지정합니다. 기본값은 false입니다.	아니요
신뢰할 수 있는 인증서 경로	TLS를 통한 연결 시 서버를 확인하는 데 사용되는 신뢰할 수 있는 CA 인증서를 포함하는 .pem 파일의 전체 경로. 자체 호스팅 통합 런타임에서 TLS를 사용할 때만 이 속성을 설정할 수 있습니다. 기본값은 통합 런타임과 함께 설치된 cacerts.pem 파일입니다.	아니요
시스템 신뢰 저장소 사용	시스템 신뢰 저장소 또는 지정된 PEM 파일의 CA 인증서를 사용할지 여부를 지정합니다. 기본값은 false입니다.	아니요
호스트 이름 CN 불일치 허용	TLS를 통해 연결할 때 CA 발급 TLS/SSL 인증서 이름이 서버의 호스트 이름과 일치해야 하는지 여부를 지정합니다. 기본값은 false입니다.	아니요
자체 서명 서버 인증서 허용	서버의 자체 서명된 인증서를 허용할지 여부를 지정합니다. 기본값은 false입니다.	아니요
커넥트비아	데이터 저장소에 연결하는 데 사용할 통합 런타임입니다. 필수 구성 요소 섹션에서 자세히 알아보세요. 지정하지 않으면 기본 Azure Integration Runtime을 사용합니다.	아니요

예제:

{
    "name": "ImpalaLinkedService",
    "properties": {
        "type": "Impala",
        "typeProperties": {
            "host" : "<host>",
            "port" : "<port>",
            "authenticationType" : "UsernameAndPassword",
            "username" : "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            }
        },
        "connectVia": {
            "referenceName": "<name of Integration Runtime>",
            "type": "IntegrationRuntimeReference"
        }
    }
}

데이터 세트 속성

데이터 세트 정의에 사용할 수 있는 섹션 및 속성의 전체 목록은 데이터 세트 문서를 참조하세요. 이 섹션에서는 Impala 데이터 세트에서 지원하는 속성의 목록을 제공합니다.

Impala에서 데이터를 복사하려면 데이터 세트의 type 속성을 ImpalaObject로 설정합니다. 다음과 같은 속성이 지원됩니다.

속성	설명	필수
유형	데이터 세트의 type 속성을 ImpalaObject로 설정해야 합니다.	예
schema(스키마)	스키마의 이름입니다.	아니요(작업 원본에서 "query"가 지정된 경우)
테이블	테이블 이름입니다.	아니요(작업 원본에서 "query"가 지정된 경우)
테이블 이름	스키마가 있는 테이블의 이름입니다. 이 속성은 이전 버전과의 호환성을 위해 지원됩니다. 새 워크로드의 경우 schema 및 table를 사용합니다.	아니요(작업 원본에서 "query"가 지정된 경우)

예제

{
    "name": "ImpalaDataset",
    "properties": {
        "type": "ImpalaObject",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<Impala linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

복사 작업 속성

작업 정의에 사용할 수 있는 섹션 및 속성의 전체 목록은 파이프라인 문서를 참조하세요. 이 섹션에서는 Impala 원본 형식에서 지원하는 속성의 목록을 제공합니다.

원본 유형인 Impala

Impala에서 데이터를 복사하려면 복사 작업의 원본 형식을 ImpalaSource로 설정합니다. 복사 작업 원본 섹션에서 지원되는 속성은 다음과 같습니다.

속성	설명	필수
유형	복사 작업 원본의 형식 속성은 ImpalaSource로 설정되어야 합니다.	예
문의	사용자 지정 SQL 쿼리를 사용하여 데이터를 읽습니다. 예제는 "SELECT * FROM MyTable"입니다.	아니요(데이터 세트의 "tableName"이 지정된 경우)

예제:

"activities":[
    {
        "name": "CopyFromImpala",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<Impala input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "ImpalaSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Impala에 대한 데이터 형식 매핑

Impala에서 데이터를 복사하는 경우 서비스 내에서 다음과 같은 중간 데이터 형식 매핑이 사용됩니다. 복사 활동에서 원본 스키마와 데이터 형식을 싱크에 매핑하는 방법에 대한 자세한 내용은 스키마 및 데이터 형식 매핑을 참조하세요.

Impala 데이터 형식	중간 서비스 데이터 형식(버전 2.0(미리 보기))	중간 서비스 데이터 형식(버전 1.0의 경우)
배열	문자열	문자열
BIGINT	Int64	Int64
불리언	불리언 (Boolean)	불리언 (Boolean)
문자	문자열	문자열
날짜	날짜와 시간	날짜와 시간
십진법	십진수	십진수
두 배	두 배	두 배
공중에 뜨다	싱글	싱글
INT	Int32	Int32
지도	문자열	문자열
스몰인트 (SMALLINT)	Int16	Int16
스트링	문자열	문자열
구조	문자열	문자열
타임 스탬프	DateTimeOffset (날짜 및 시간 오프셋)	날짜와 시간
TINYINT (타이니인트)	S바이트 (SByte)	Int16
VARCHAR	문자열	문자열

조회 작업 속성

속성에 대한 자세한 내용을 보려면 조회 작업을 확인하세요.

Impala 커넥터 업그레이드

Impala 커넥터를 업그레이드하는 데 도움이 되는 단계는 다음과 같습니다.

1. 연결된 서비스 편집 페이지에서 버전 2.0(미리 보기)을 선택하고 연결된 서비스 속성 버전 2.0을 참조하여 연결된 서비스를 구성합니다.

2. Impala 연결된 서비스 버전 2.0(미리 보기)에 대한 데이터 형식 매핑은 버전 1.0의 데이터 형식 매핑과 다릅니다. 최신 데이터 형식 매핑을 알아보려면 Impala에 대한 데이터 형식 매핑을 참조하세요.

Impala 버전 2.0(미리 보기)과 버전 1.0의 차이점

Impala 커넥터 버전 2.0(미리 보기)은 새로운 기능을 제공하며 버전 1.0의 대부분의 기능과 호환됩니다. 다음 표에서는 버전 2.0(미리 보기)과 버전 1.0 간의 기능 차이점을 보여 줍니다.

버전 2.0(미리 보기)	버전 1.0
SASLUsername 인증 유형은 지원되지 않습니다.	SASLUsername 인증 유형을 지원합니다.
기본값 enableSSL 은 true입니다. trustedCertPath, useSystemTrustStore및 allowHostNameCNMismatchallowSelfSignedServerCert 지원되지 않습니다. enableServerCertificateValidation이 지원됩니다.	기본값 enableSSL 은 false입니다. trustedCertPath, useSystemTrustStore및 allowHostNameCNMismatchallowSelfSignedServerCert 지원됩니다. enableServerCertificateValidation 지원되지 않습니다.
Impala 데이터 형식에서 중간 서비스 데이터 형식으로의 매핑은 다음과 같습니다. TIMESTAMP -> 날짜시간오프셋 (DateTimeOffset) TINYINT -> SByte (타이니인트 - S바이트)	Impala 데이터 형식에서 중간 서비스 데이터 형식으로의 매핑은 다음과 같습니다. TIMESTAMP -> 날짜 및 시간 TINYINT -> Int16

관련 콘텐츠

복사 작업에서 원본 및 싱크로 지원되는 데이터 저장소 목록은 지원되는 데이터 저장소를 참조하세요.