Snowflake tükrözése a Microsoft Fabricben

A Fabric tükrözési funkciója egyszerű megoldást nyújt az összetett ETL (kivonás, átalakítás, betöltés) elkerülésére, és integrálhatja meglévő Snowflake raktáradatait a Microsoft Fabric többi adatával. A meglévő Snowflake-adatokat folyamatosan replikálhatja közvetlenül a Fabric OneLake-be. Az Inside Fabricben hatékony üzleti intelligenciát, mesterséges intelligenciát, adatmérnöki, adatelemzési és adatmegosztási forgatókönyveket oldhat meg.

A Snowflake-adatbázis Microsoft Fabric környezetben való tükrözéséhez szükséges konfigurálásról a Tutorial: Configure Microsoft Fabric mirrored databases from Snowflake című útmutatóban olvashat.

Miért érdemes tükrözést használni a Fabric hálózatban?

A Tükrözés a Hálóban szolgáltatással nem kell több gyártótól származó különböző szolgáltatásokat egyesítenie. Ehelyett élvezheti a nagymértékben integrált, végponttól végpontig tartó és könnyen használható terméket, amely leegyszerűsíti elemzési igényeit, és a Microsoft, a Snowflake, valamint a több ezer technológiai megoldás közötti nyitottság és együttműködés érdekében készült, amelyek képesek olvasni a nyílt forráskódú Delta Lake táblázatformátumot.

Milyen elemzési szolgáltatások épülnek fel?

A tükrözött adatbázisok a Fabric Data Warehousing azon elemei, amelyek eltérnek a Warehouse és az SQL Analytics végpontjától.

Fabric adatbázis tükrözésének diagramja a Snowflake számára.

A tükrözés az alábbi elemeket hozza létre a Fabric munkaterületen:

  • A tükrözött adatbáziselem. Ez lehetővé teszi a további forgatókönyveket, mint az adatfeldolgozás, adattudomány és egyebek. A tükrözés az alábbiakat kezeli:
    • A felügyelt táblák és nézetek adatainak replikálása a OneLake-be, valamint Parquet formátumba történő konvertálása, elemzésre kész formátumban.
    • Az Iceberg-tábla metaadatainak a OneLake-be történő replikálása a Iceberg-táblákat tartalmazó tárolóra mutató billentyűparancsokkal és átalakítással. A OneLake automatikusan Delta Lake formátumú táblákká alakítja ezeket az Iceberg-táblákat a Fabric-számítási feladatokhoz.
  • SQL Analytics-végpont

Fontos

Iceberg-tábla támogatása: Ha Iceberg-táblák tükrözése mellett dönt, meg kell adnia egy tárolókapcsolatot a mögöttes tárolóhoz, amely az Iceberg-tábla adatait tartalmazza. Csak az azonos tárolási kapcsolaton keresztül elérhető Iceberg-táblák tükrözhetők együtt. Egy Iceberg-tábla tárolási helyének megkereséséhez futtassa a SYSTEM$GET_ICEBERG_TABLE_INFORMATION rendszerfüggvényt a Snowflake-ben. További információ: Oktatóanyag: Microsoft Fabric tükrözött adatbázisok konfigurálása a Snowflake-ből.

Minden tükrözött adatbázis rendelkezik egy automatikusan létrehozott SQL Analytics-végponttal , amely gazdag elemzési élményt nyújt a tükrözési folyamat által létrehozott Delta-táblákon. A felhasználók hozzáférhetnek az ismert T-SQL parancsokhoz, amelyek adatobjektumokat definiálhatnak és lekérdezhetnek, de nem módosíthatják az adatokat az SQL Analytics végponton, mivel az csak olvasható másolat. Az SQL Analytics-végponton a következő műveleteket hajthatja végre:

  • Ismerkedjen meg a Snowflake-ből származó Delta Lake-táblák adataira hivatkozó táblákkal.
  • Kódlekérdezések és nézetek nélkül hozhat létre kódlekérdezéseket és -nézeteket, és vizuálisan vizsgálhat meg adatokat kódsor írása nélkül.
  • SQL-nézetek, beágyazott TVF-ek (táblaértékű függvények) és tárolt eljárások fejlesztése a szemantika és az üzleti logika T-SQL-ben való beágyazásához.
  • Az objektumok engedélyeinek kezelése.
  • Adatok lekérdezése ugyanazon a munkaterületen található többi raktárban és Lakehouse-ban.

A SQL-lekérdezésszerkesztőn kívül, széles körű eszközrendszer áll rendelkezésre az SQL Analytics-végpont lekérdezésére, beleértve a SQL Server Management Studio (SSMS), az MSSQL-bővítményt a Visual Studio Code és még GitHub Copilot is.

Támogatott Snowflake-objektumtípusok

Az alábbi táblázat felsorolja, hogy mely Snowflake objektumtípusok támogatottak a tükrözéshez:

Objektumtípus Támogatott Notes
Felügyelt táblák Yes A replikáció teljes mértékben támogatott
Iceberg-táblák Yes A mögöttes Iceberg-táblatárolóhoz tárolókapcsolat szükséges. Csak olyan Iceberg-táblák tükrözhetők, amelyek ugyanazon a tárolási kapcsolaton keresztül érhetők el.
Views Yes 12 óránként támogatott szinkronizálás
Materializált nézetek Yes 12 óránként támogatott szinkronizálás
Külső táblák No Nem támogatott
Átmeneti táblák No Nem támogatott
ideiglenes táblák No Nem támogatott
Dinamikus táblák No Nem támogatott

Biztonsági szempontok

A Hálótükrözés engedélyezéséhez felhasználói engedélyekre lesz szüksége a Snowflake-adatbázishoz, amely a következő engedélyeket tartalmazza:

  • CREATE STREAM
  • SELECT table
  • SHOW tables
  • DESCRIBE tables

További információért lásd a Snowflake dokumentációt a Streaming táblák hozzáférés-vezérlés jogosultságairól és a streamekhez szükséges engedélyekről.

Fontos

A forrás Snowflake-raktárban létrehozott részletes biztonsági beállításokat újra kell konfigurálni a Microsoft Fabric tükrözött adatbázisában. További információért lásd: SQL részletes engedélyek a Microsoft Fabricban.

Támogatott hitelesítési módszerek

Az alábbi táblázat felsorolja, hogy mely hitelesítési módszerek támogatottak a Snowflake tükrözésében:

Hitelesítési módszer Támogatott Notes
Felhasználónév és jelszó Yes Snowflake natív hitelesítés
Microsoft Entra ID (egyszeri bejelentkezés) Yes Egyszeri bejelentkezés Entra ID-val
Kulcspárok hitelesítése Yes RSA-kulcspár szolgáltatásfiók-forgatókönyvekhez
Munkaterület identitása No Jelenleg nem támogatott a Snowflake esetén.

Snowflake tükrözése tűzfal mögött

Ellenőrizze a hálózatkezelési követelményeket a Snowflake-adatforrás eléréséhez. Ha a Snowflake-adatforrás nem érhető el nyilvánosan, és magánhálózaton belül van, hozzon létre egy virtuális hálózati adatátjárót , vagy telepítsen egy helyszíni adatátjárót az adatok tükrözéséhez. Az Azure Virtual Network vagy az átjárógép hálózatának privát végponton keresztül kell csatlakoznia a Snowflake-példányhoz, vagy a tűzfalszabály engedélyezze. Első lépésként tekintse meg a Tutorial: Microsoft Fabric tükrözött adatbázisok konfigurálása a Snowflake szolgáltatásból.

Private Link és munkaterület identitása:

  • Private Link: A Fabric munkaterület és a Snowflake közötti közvetlen Private Link kapcsolat még nem támogatott. Ideiglenesen használjon virtuális hálózati adatátjárót vagy helyszíni adatátjárót a privát kapcsolatokhoz.
  • Munkaterület identitása: A munkaterületi identitás hitelesítése jelenleg nem támogatott a Snowflake tükrözés esetében.

Tükrözött hópehely költség szempontjai

Az adatok Fabric OneLake-be való replikálásához használt hálószámítás ingyenes. A tükrözési tárolási költség a kapacitástól függően legfeljebb korlátig ingyenes. További információ: Tükrözési költségek és Microsoft Fabric Díjszabás. Az SQL, Power BI vagy Spark használatával történő adatbekérdezés számítása rendszeres díjakkal történik.

A Fabric nem számít fel hálózati adatforgalmi díjakat a OneLake-be történő tükrözés során.

A Snowflake számítási és felhőbeli lekérdezési költségei az adatok tükrözésekor merülnek fel: a virtuális raktár számítása és a felhőszolgáltatások számítása.

  • Snowflake virtuális raktár számítási költségei:
    • A számítási díjakat a Snowflake oldalán számítják fel, ha a Snowflake-ben adatváltozások történnek, és ezek a Fabric-ben tükröződnek.
    • Az adatváltozások ellenőrzéséhez a színfalak mögött futó metaadat-lekérdezések semmilyen Snowflake-számításért nem kerülnek felszámításra; azonban az olyan lekérdezések, amelyek adatokat állítanak elő, például SELECT * a Snowflake-raktárt felébresztik, és a számítási költségek felszámításra kerülnek.
  • Snowflake-szolgáltatások számítási költségei:
    • Bár a színfalak mögötti feladatok, például a létrehozás, a metaadat-lekérdezések, a hozzáférés-vezérlés, az adatváltozások megjelenítése és még a DDL-lekérdezések esetében sem merülnek fel számítási költségek, ezekhez a lekérdezésekhez felhőköltségek tartoznak.
    • Attól függően, hogy milyen típusú Snowflake kiadással rendelkezik, a felhőszolgáltatások költségeinek megfelelő kreditekért kell fizetnie.

Az alábbi képernyőképen láthatja a Fabricbe tükrözött Snowflake-adatbázishoz tartozó virtuális raktár számítási és felhőszolgáltatás számítási költségeit. Ebben a forgatókönyvben a felhőszolgáltatások számítási költségeinek többsége (sárga színnel) az adatváltozási lekérdezésekből származik a korábban említett pontok alapján. A virtuális raktár számítási díjai (kék színnel) szigorúan a Snowflake-ből beolvasott és a Fabricbe tükrözött adatváltozásokból származnak.

Képernyőkép a Snowflake költséggráfról.

Költségoptimalizálási javaslatok

A tükrözésből eredő Snowflake-számítási költségek minimalizálása érdekében érdemes követni az alábbi bevált gyakorlatokat:

  • Meglévő raktár újrafelhasználása. Ahelyett, hogy dedikált adattárházat hoz létre a tükrözéshez, konfigurálja a tükrözést úgy, hogy ugyanazt a raktárt használja, amelyet az alkalmazások már használnak a forrástáblák frissítéséhez. Ez a megközelítés elkerüli a felesleges raktár-ébresztési és automatikus felfüggesztési ciklusokat. Amikor az alkalmazás frissít egy táblát, a tükrözési replikátor szinte azonnal felveszi a módosításokat, miközben a raktár még aktív, így nem kell külön raktárat felébresztenie. Egyes szervezetek inkább egy dedikált raktárat szeretnének a költségvetés elkülönítéséhez. Ez a előny a költségmegtakarítás és a költségvetés részletessége közötti kompromisszum.
  • Csak azokat a táblákat tükrözze, amelyekre szüksége van. A teljes adatbázis tükrözése váratlanul magas Snowflake-fogyasztást és Fabric kapacitásnövekedést okozhat. Először csak az elemzési forgatókönyvekhez szükséges táblákat válassza ki. Szükség szerint később is hozzáadhat táblákat.
  • Figyelje a váratlan újrainicializálásokat. A reseed (teljes adatok újrabetöltése) feldolgozza a teljes táblát, és a tábla méretével arányos számítási költséget von maga után. A sémamódosítások – beleértve az olyan eszközök, mint a DBT által kiváltott módosításokat is – folyamatos újrainicializálást okozhatnak. Figyelje meg a Tükrözés állapota lapot az ismétlődő kezdeti másolási viselkedést mutató táblák esetében, és tekintse át az alábbi Újrakezdés szakaszt az eseményindítókhoz és a hibaelhárítási útmutatóhoz.
  • Ne feledje, hogy a tükrözés folyamatosan működik. A tükrözés jelenleg nem támogatja az ütemezési vagy replikációs ablakokat. A replikátor folyamatosan kérdezi le a változásokat, ami folyamatos Snowflake számítási használatot eredményez. Tervezze meg a Snowflake-költségvetéseket ennek megfelelően.

A Snowflake-specifikus felhőlekérdezési költségekkel kapcsolatos további információkért lásd: Snowflake docs: Understanding overall cost.

Következő lépés