Ingérer des données dans Lakeflow Designer

Vous pouvez importer toutes les données accessibles via Azure Databricks dans une préparation de données visuelles dans Lakeflow Designer.

L’ingestion de données dans le Concepteur commence par l’opérateur Source . Lorsque vous ouvrez le volet de configuration d’un opérateur source, vous disposez des options suivantes.

Parcourir les tables existantes

Cliquez sur Parcourir l’existant pour ouvrir le sélecteur de ressources et parcourir les tables et les volumes dans Unity Catalog. Utilisez cette option lorsque vos données sont déjà en Azure Databricks.

Vous pouvez également sélectionner une vue de métrique du catalogue Unity en tant que source. Lorsque vous sélectionnez une vue de métrique, sélectionnez les dimensions et les mesures à inclure, et le Concepteur génère la requête agrégée.

Ingérer un dossier ou un volume

Au lieu d’un fichier individuel, l’opérateur Source peut cibler l’intégralité d’un volume ou d’un chemin de dossier du catalogue Unity. Le concepteur détecte le format des fichiers dans le dossier et les charge dans une seule table :

  • Pour les formats de fichiers structurés tels que CSV, JSON, Excel et Parquet, Le Concepteur lit tous les fichiers et combine leurs lignes dans une table.
  • Pour les fichiers de document tels que les fichiers PDF, Le Concepteur lit chaque fichier sous la forme d’une seule ligne. Vous obtenez donc une ligne par fichier.

Glisser-déplacer un fichier local

Faites glisser un fichier CSV ou Excel à partir de votre ordinateur local directement sur le canevas. Le concepteur charge le fichier dans un volume dans le catalogue Unity et crée automatiquement un opérateur Source.

Note

Le glisser-déposer des fichiers Excel nécessite que le support du format de fichier Excel soit activé. Voir Lire et diffuser des fichiers Excel en continu.

Créer une table à partir d’un fichier

Sélectionnez Create table à partir du fichier dans le volet De configuration source pour charger un fichier CSV ou Excel local et créer une table de catalogue Unity à partir de celle-ci. Utilisez cette option lorsque vous souhaitez que les données soient conservées en tant que table managée plutôt que stockées dans un volume. En outre, pour de grandes quantités de données, cela offre les meilleures performances. Les fichiers chargés sont soumis à la limite de taille de fichier de volume du catalogue Unity. Consultez Utiliser des fichiers dans les volumes de Unity Catalog.

Importer à partir de Google Drive

Pour importer un fichier à partir de Google Drive :

  1. Dans le volet De configuration source, sélectionnez Importer à partir de Google Drive.
  2. Sélectionnez une connexion de catalogue Unity qui a accès à Google Drive.
  3. Indiquez l’URL du fichier.

Cela nécessite une connexion de catalogue Unity configurée pour l’accès à Google Drive. Consultez Ingérer des fichiers depuis Google Drive pour savoir comment configurer des connexions.

Import à partir de SharePoint

Pour importer un fichier à partir de SharePoint :

  1. Dans le volet Configuration source, sélectionnez Importer à partir de SharePoint.
  2. Sélectionnez une connexion de catalogue Unity qui a accès à votre site SharePoint.
  3. Fournissez le lien de fichier direct.

Avertissement

Pour obtenir l’URL correcte, cliquez avec le bouton droit sur le fichier dans SharePoint, sélectionnez Preview et copiez l’URL dans la barre d’adresses du navigateur. N’utilisez pas de lien de partage.

Cela nécessite une connexion de catalogue Unity configurée pour l’accès SharePoint. Pour savoir comment établir des connexions, consultez Ingestion de fichiers depuis SharePoint.

Utiliser Lakeflow Connect pour des sources supplémentaires

Si une source de données n’est pas disponible directement dans le Concepteur, check Lakeflow Connect pour un connecteur managé. Lakeflow Connect prend en charge l’ingestion à partir d’applications SaaS (Salesforce, Workday, HubSpot, etc.), de bases de données, de stockage cloud et de sources de streaming. Après avoir ingéré des données avec Lakeflow Connect dans une table de catalogue Unity, vous pouvez l’utiliser comme source dans le concepteur.

Ressources supplémentaires