Začínáme: Import a vizualizace dat CSV z poznámkového bloku
Tento článek vás provede použitím poznámkového bloku Azure Databricks k importu dat ze souboru CSV obsahujícího data názvu dítěte z health.data.ny.gov do svazku katalogu Unity pomocí Pythonu, Scaly a R. Naučíte se také upravovat název sloupce, vizualizovat data a ukládat je do tabulky.
Požadavky
K dokončení úkolů v tomto článku musíte splňovat následující požadavky:
- Váš pracovní prostor musí mít povolený katalog Unity. Informace o tom, jak začít s katalogem Unity, najdete v tématu Nastavení a správa katalogu Unity.
- Musíte mít oprávnění k používání existujícího výpočetního prostředku nebo k vytvoření nového výpočetního prostředku. Viz Začínáme: Nastavení účtu a pracovního prostoru nebo se obraťte na správce Databricks.
Tip
Dokončený poznámkový blok pro tento článek najdete v tématu Import a vizualizace datových poznámkových bloků.
Krok 1: Vytvoření nového poznámkového bloku
Vytvoření poznámkového bloku v pracovním prostoru:
- Na bočním panelu klikněte na Nový a potom klikněte na Poznámkový blok.
- Na stránce Vytvořit poznámkový blok:
- Zadejte jedinečný název poznámkového bloku.
- Nastavte výchozí jazyk poznámkového bloku a po zobrazení výzvy klikněte na Potvrdit .
- Klikněte na Připojit a vyberte výpočetní prostředek. Pokud chcete vytvořit nový výpočetní prostředek, přečtěte si téma Použití výpočetních prostředků.
Další informace o vytváření a správě poznámkových bloků najdete v tématu Správa poznámkových bloků.
Krok 2: Definování proměnných
V tomto kroku definujete proměnné pro použití v ukázkovém poznámkovém bloku, který vytvoříte v tomto článku.
Zkopírujte a vložte následující kód do nové prázdné buňky poznámkového bloku. Nahraďte
<catalog-name>
katalog,<volume-name>
<schema-name>
schéma a názvy svazků pro svazek katalogu Unity. Nahraďte<table_name>
zvoleným názvem tabulky. Data jména dítěte uložíte do této tabulky dále v tomto článku.Stisknutím spustíte
Shift+Enter
buňku a vytvoříte novou prázdnou buňku.Python
catalog = "<catalog_name>" schema = "<schema_name>" volume = "<volume_name>" download_url = "https://health.data.ny.gov/api/views/jxy9-yhdk/rows.csv" file_name = "baby_names.csv" table_name = "baby_names" path_volume = "/Volumes/" + catalog + "/" + schema + "/" + volume path_table = catalog + "." + schema print(path_table) # Show the complete path print(path_volume) # Show the complete path
Scala
val catalog = "<catalog_name>" val schema = "<schema_name>" val volume = "<volume_name>" val downloadUrl = "https://health.data.ny.gov/api/views/jxy9-yhdk/rows.csv" val fileName = "baby_names.csv" val tableName = "baby_names" val pathVolume = s"/Volumes/${catalog}/${schema}/${volume}" val pathTable = s"${catalog}.${schema}" print(pathVolume) // Show the complete path print(pathTable) // Show the complete path
R
catalog <- "<catalog_name>" schema <- "<schema_name>" volume <- "<volume_name>" download_url <- "https://health.data.ny.gov/api/views/jxy9-yhdk/rows.csv" file_name <- "baby_names.csv" table_name <- "baby_names" path_volume <- paste("/Volumes/", catalog, "/", schema, "/", volume, sep = "") path_table <- paste(catalog, ".", schema, sep = "") print(path_volume) # Show the complete path print(path_table) # Show the complete path
Krok 3: Import souboru CSV
V tomto kroku naimportujete soubor CSV obsahující data názvu dítěte z health.data.ny.gov do svazku katalogu Unity.
Zkopírujte a vložte následující kód do nové prázdné buňky poznámkového bloku. Tento kód zkopíruje
rows.csv
soubor z health.data.ny.gov do svazku katalogu Unity pomocí příkazu Databricks dbutuils .Stisknutím klávesy
Shift+Enter
spusťte buňku a přejděte na další buňku.Python
dbutils.fs.cp(f"{download_url}", f"{path_volume}" + "/" + f"{file_name}")
Scala
dbutils.fs.cp(downloadUrl, s"${pathVolume}/${fileName}")
R
dbutils.fs.cp(download_url, paste(path_volume, "/", file_name, sep = ""))
Krok 4: Načtení dat CSV do datového rámce
V tomto kroku vytvoříte datový rámec s názvem df
ze souboru CSV, který jste dříve načetli do svazku Katalogu Unity pomocí metody spark.read.csv .
Zkopírujte a vložte následující kód do nové prázdné buňky poznámkového bloku. Tento kód načte data názvu dítěte do datového rámce
df
ze souboru CSV.Stisknutím klávesy
Shift+Enter
spusťte buňku a přejděte na další buňku.Python
df = spark.read.csv(f"{path_volume}/{file_name}", header=True, inferSchema=True, sep=",")
Scala
val df = spark.read .option("header", "true") .option("inferSchema", "true") .option("delimiter", ",") .csv(s"${pathVolume}/${fileName}")
R
# Load the SparkR package that is already preinstalled on the cluster. library(SparkR) df <- read.df(paste(path_volume, "/", file_name, sep=""), source="csv", header = TRUE, inferSchema = TRUE, delimiter = ",")
Můžete načíst data z mnoha podporovaných formátů souborů.
Krok 5: Vizualizace dat z poznámkového bloku
V tomto kroku použijete display()
metodu k zobrazení obsahu datového rámce v tabulce v poznámkovém bloku a následné vizualizaci dat ve wordovém cloudovém grafu v poznámkovém bloku.
Zkopírujte a vložte následující kód do nové prázdné buňky poznámkového bloku a potom kliknutím na tlačítko Spustit buňku zobrazte data v tabulce.
Python
display(df)
Scala
display(df)
R
display(df)
Zkontrolujte výsledky v tabulce.
Vedle karty Tabulka klikněte a + potom klikněte na Vizualizace.
V editoru vizualizací klikněte na Typ vizualizace a ověřte, že je vybraný wordový cloud .
Ve sloupci Slova ověřte, že
First Name
je vybraná.V limitu četností klepněte na tlačítko
35
.Klikněte na Uložit.
Krok 6: Uložení datového rámce do tabulky
Důležité
Pokud chcete datový rámec uložit v katalogu Unity, musíte mít CREATE
oprávnění k tabulce v katalogu a schématu. Informace o oprávněních v katalogu Unity naleznete v tématu Oprávnění a zabezpečitelné objekty v Katalogu Unity a Správa oprávnění v Katalogu Unity a Spravovat oprávnění v Katalogu Unity.
Zkopírujte a vložte následující kód do prázdné buňky poznámkového bloku. Tento kód nahradí mezeru v názvu sloupce. Speciální znaky, například mezery, nejsou povoleny v názvech sloupců. Tento kód používá metodu Apache Spark
withColumnRenamed()
.Python
df = df.withColumnRenamed("First Name", "First_Name") df.printSchema
Scala
val dfRenamedColumn = df.withColumnRenamed("First Name", "First_Name") // when modifying a DataFrame in Scala, you must assign it to a new variable dfRenamedColumn.printSchema()
R
df <- withColumnRenamed(df, "First Name", "First_Name") printSchema(df)
Zkopírujte a vložte následující kód do prázdné buňky poznámkového bloku. Tento kód uloží obsah datového rámce do tabulky v katalogu Unity pomocí proměnné názvu tabulky, kterou jste definovali na začátku tohoto článku.
Python
df.write.mode("overwrite").saveAsTable(f"{path_table}" + "." + f"{table_name}")
Scala
dfRenamedColumn.write.mode("overwrite").saveAsTable(s"${pathTable}.${tableName}")
R
saveAsTable(df, paste(path_table, ".", table_name), mode = "overwrite")
Chcete-li ověřit, zda byla tabulka uložena, kliknutím na katalog na levém bočním panelu otevřete uživatelské rozhraní Průzkumníka katalogů. Otevřete katalog a pak schéma ověřte, že se zobrazí tabulka.
Kliknutím na tabulku zobrazíte schéma tabulky na kartě Přehled .
Kliknutím na Ukázková data zobrazíte z tabulky 100 řádků dat.
Import a vizualizace datových poznámkových bloků
K provedení kroků v tomto článku použijte jeden z následujících poznámkových bloků.
Python
Import dat ze souboru CSV pomocí Pythonu
Scala
Import dat ze souboru CSV pomocí scaly
R
Import dat ze souboru CSV pomocí R
Další kroky
- Další informace o přidání dalších dat do existující tabulky ze souboru CSV najdete v tématu Začínáme: Ingestování a vložení dalších dat.
- Další informace o čištění a vylepšení dat najdete v tématu Začínáme: Vylepšení a čištění dat.
Další materiály
Váš názor
https://aka.ms/ContentUserFeedback.
Připravujeme: V průběhu roku 2024 budeme postupně vyřazovat problémy z GitHub coby mechanismus zpětné vazby pro obsah a nahrazovat ho novým systémem zpětné vazby. Další informace naleznete v tématu:Odeslat a zobrazit názory pro