Připojení ke zdrojům dat a externím službám

Tato stránka obsahuje doporučení pro správce a výkonné uživatele, kteří konfigurují připojení mezi Azure Databricks a externími zdroji dat a službami.

Svůj Azure Databricks účet můžete připojit ke zdrojům dat, jako jsou cloudové úložiště objektů, systémy pro správu relačních databází, streamované datové služby a podnikové platformy, jako jsou CRM. Svůj účet Azure Databricks můžete také připojit k externím službám, které nejsou úložištěm.

Konfigurace připojení ke cloudovému úložišti objektů

Většina dat používaných úlohami Azure Databricks se ukládá do cloudového úložiště objektů, jako je Azure Data Lake Storage nebo AWS S3. Přístup ke cloudovému úložišti objektů můžete spravovat pomocí některého z následujících způsobů:

Připojení ke katalogu „Unity Catalog“

Připojení katalogu Unity je zabezpečitelný objekt, který ukládá koncový bod a přihlašovací údaje potřebné pro přístup k externímu systému. Připojení poskytují řízený způsob správy ověřování a konfigurace externích datových systémů, včetně federace, spravovaného příjmu dat, JDBC a HTTP. Přehled všech typů připojení a způsob jejich výběru najdete v tématu Připojení katalogu Unity.

Konfigurace připojení k externím datovým systémům

Databricks nabízí několik možností konfigurace připojení k externím datovým systémům. Následující tabulka obsahuje základní přehled těchto možností:

Option Description
Dotazování federačních konektorů Federace dotazů poskytuje přístup k externím relačním databázím jen pro čtení tím, že odesílá dotazy z katalogu Unity přes JDBC. Mezi podporované zdroje patří PostgreSQL, MySQL, SQL Server, Snowflake a další.
Konektory federace katalogů Federace katalogu propojuje platformy externího katalogu, jako je Metastore Hive nebo Snowflake Horizon Catalog, takže se můžete dotazovat na jejich data přímo v úložišti souborů bez přesunu dat.
Konektory pro spravovaný příjem dat Lakeflow Connect umožňuje správcům vytvořit připojení a spravovaný kanál příjmu dat současně v uživatelském rozhraní pro příjem dat. Viz Spravované konektory v Lakeflow Connect.
Pokud budou uživatelé, kteří mají vytvářet datové kanály, nebýt administrátory nebo plánují používat rozhraní API Databricks, sady SDK Databricks, rozhraní příkazového řádku Databricks nebo deklarativní balíčky automatizace, musí správce nejprve vytvořit připojení v Průzkumník katalogu. Tato rozhraní vyžadují, aby uživatelé při vytváření kanálu zadali existující připojení. Viz Připojení ke spravovaným zdrojům příjmu dat.
Konektory streamování Azure Databricks poskytuje optimalizované konektory pro mnoho streamovaných datových systémů.
Pro všechny streamované zdroje dat musíte vygenerovat přihlašovací údaje, které poskytují přístup a načítají tyto přihlašovací údaje do Azure Databricks. Databricks doporučuje ukládat přihlašovací údaje pomocí tajných kódů, protože tajné kódy můžete používat pro všechny možnosti konfigurace a ve všech režimech přístupu.
Všechny datové konektory pro zdroje streamování podporují předávání přihlašovacích údajů pomocí možností při definování dotazů streamování. Viz standardní konektory v Lakeflow Connect.
Integrace třetích stran Pomocí nástrojů třetích stran se připojte k externím zdrojům dat a automatizujte příjem dat do jezera. Některá řešení také zahrnují reverzní ETL a přímý přístup k datům lakehouse z externích systémů. Podívejte se na Co je Databricks Partner Connect?
Rozhraní API zdroje dat Sparku Rozhraní API zdroje dat Sparku slouží ke čtení a zápisu do externích databází. Databricks Runtime obsahuje sbalené konektory pro běžné zdroje. Můžete také použít připojení katalogu Unity s vlastním souborem JAR ovladače JDBC, nainstalovat konektory třetích stran na vyhrazené clustery nebo vytvářet vlastní konektory pomocí rozhraní API PySpark DataSource. Viz zdroje dat Sparku.
Pro přístup jen pro čtení doporučuje Databricks federaci Lakehouse.
JDBC Připojte se k externím databázím pomocí JDBC s připojením katalogu Unity pro řízení přístupu, izolaci přihlašovacích údajů a podporu křížového výpočetního prostředí. Viz připojení JDBC.
Informace o starších konfiguracích JDBC bez zásad správného řízení katalogu Unity najdete v tématu Dotazování databází pomocí JDBC.
Pro federaci dotazů jen pro čtení je vždy upřednostňovaná federace Lakehouse.

Konfigurace připojení ke cloudovým službám mimo úložiště

Katalog Unity řídí přístup ke cloudovým službám, které nejsou úložiště, pomocí zabezpečitelného objektu označovaného jako přihlašovací údaje služby. Přihlašovací údaje služby zahrnují dlouhodobé cloudové přihlašovací údaje, které poskytují přístup k neúložné cloudové službě, k níž se uživatelé potřebují připojit z Azure Databricks. Viz Připojení k externím cloudovým službám pomocí katalogu Unity.

Správa a vyžádání přístupu ke zdrojům dat a externím službám

Většina metod připojení vyžaduje zvýšená oprávnění pro externí zdroj dat nebo službu i pracovní prostor Azure Databricks. V typických organizacích má málo uživatelů dostatečná oprávnění buď v Azure Databricks, nebo u externích poskytovatelů dat a úložišť, aby si mohli sami konfigurovat datová připojení.

Vaše organizace už možná nakonfigurovala přístup ke zdroji dat nebo službě pomocí některého ze vzorů popsaných v článcích propojených z této stránky. Pokud má vaše organizace dobře definovaný proces pro vyžádání přístupu k datům a službám třetích stran, doporučuje Databricks tento proces sledovat. Pokud si nejste jistí, jak získat přístup ke zdroji dat, může vám tento postup pomoct:

  1. Pomocí Průzkumníka katalogu můžete zobrazit tabulky a svazky, ke kterým máte přístup. Viz Co je Průzkumník katalogu?
  2. Zeptejte se členů týmu nebo manažerů na zdroje dat, ke kterým mají přístup.
    • Většina organizací používá skupiny synchronizované ze svého zprostředkovatele identity (například Okta nebo Microsoft Entra ID) ke správě oprávnění pro uživatele pracovního prostoru. Pokud mají ostatní členové vašeho týmu přístup ke zdrojům dat, ke kterým potřebujete přístup, požádejte správce pracovního prostoru, aby vám udělil přístup do správné skupiny.
    • Pokud určitou tabulku, svazek nebo zdroj dat nakonfiguroval spolupracovník, měl by vám tento jednotlivec udělit přístup k datům.

Některé organizace připojují přístupová oprávnění k datům ke konkrétním výpočetním clusterům a skladům SQL. Jedná se o starší model zásad správného řízení, ale pokud ho vaše organizace používá a chcete zjistit, které zdroje dat jsou dostupné pro konkrétní výpočetní prostředek, obraťte se na tvůrce výpočetních prostředků uvedený na kartě Compute .