Növekményes módon betölti az adatokat egy forrásadattárból egy céladattárba

A következőkre vonatkozik: Azure Data Factory Azure Synapse Analytics

Tipp

Egyszerű módot keres az adatok áthelyezésére? A Másolási feladat a Microsoft Fabricben egyszerű, méretezhető módot kínál az adatok folyamat létrehozása nélküli betöltésére. Megtudhatja, hogyan hozhat létre egyet.

Adatintegrációs megoldások esetében gyakran használt forgatókönyv az adatok növekményes (vagy delta-) betöltése egy kezdeti, teljes adatbetöltést követően. A jelen szakaszban található oktatóanyagokból különböző módszereket ismerhet meg az adatok növekményes betöltésére vonatkozóan az Azure Data Factory használatával.

Változásadatok betöltése adatbázisból vízjel használatával

Ebben az esetben a forrásadatbázisban meghatároz egy vízjelet. A vízjel egy olyan oszlop, amely az utoljára frissített időbélyeget vagy egy növekvő kulcsot tartalmaz. A delta betöltési megoldás keretében a rendszer azokat az adatokat tölti be, amelyek megváltoztak egy régi és egy új vízjel között. A jelen megközelítés munkafolyamatának ábrázolása a következő diagramon látható:

Vízjel használatának munkafolyamata

A részletes utasításokhoz tekintse meg a következő oktatóanyagokat:

A sablonokért tekintse meg a következőket:

Delta adatok betöltése SQL adatbázisból a Változáskövetés technológia használatával.

A változáskövetési technológia az SQL Server és az Azure SQL Database szolgáltatás egyik egyszerű megoldása, amely hatékony változáskövetési mechanizmust biztosít az alkalmazások számára. Lehetővé teszi az alkalmazások számára a beszúrt, frissített vagy törölt adatok egyszerű azonosítását.

A jelen megközelítés munkafolyamatának ábrázolása a következő diagramon látható:

A változáskövetés használatának munkafolyamata

Részletes útmutatásért tekintse meg az alábbi oktatóanyagot:

Új és módosított fájlok betöltése csak a LastModifiedDate használatával

Az új és módosított fájlokat csak a LastModifiedDate használatával másolhatja a céltárba. Az ADF megvizsgálja a forrástár összes fájlját, alkalmazza a fájlszűrőt a LastModifiedDate szerint, és csak az új és frissített fájlt másolja a legutóbbi időpont óta a céltárolóba. Ha lehetővé teszi, hogy az ADF nagy mennyiségű fájlt vizsgáljon, de csak néhány fájlt másoljon a célhelyre, ez a fájlvizsgálati folyamat miatt még sok időt vesz igénybe.

Részletes útmutatásért tekintse meg az alábbi oktatóanyagot:

A sablonokért tekintse meg a következőket:

Új fájlok betöltése csak idő particionált mappa vagy fájlnév használatával

Csak új fájlokat másolhat, ahol a fájlok vagy mappák időbélyeggel vannak particionálva a fájl vagy mappanév részeként (például /yyyy/mm/dd/file.csv). Ez a leghatékonyabb módszer az új fájlok növekményes betöltéséhez.

Részletes útmutatásért tekintse meg az alábbi oktatóanyagot:

Haladjon tovább a következő oktatóanyaghoz.