Kolumna metadanych pliku

Uwaga

Dostępne w środowisku Databricks Runtime 10.5 lub nowszym.

Informacje o metadanych dla plików wejściowych można uzyskać za pomocą kolumny _metadata . Kolumna _metadata jest ukrytą kolumną i jest dostępna dla wszystkich formatów plików wejściowych. Aby dołączyć kolumnę _metadata do zwróconej ramki danych, musisz jawnie odwołać się do niej w zapytaniu.

Jeśli źródło danych zawiera kolumnę o nazwie _metadata, zapytania będą zwracać kolumnę ze źródła danych, a nie metadane pliku.

Ostrzeżenie

Nowe pola mogą zostać dodane do kolumny _metadata w przyszłych wersjach. Aby zapobiec błędom ewolucji schematu w przypadku _metadata zaktualizowania kolumny, usługa Databricks zaleca wybranie określonych pól z kolumny w zapytaniach. Zobacz przykłady.

Obsługiwane metadane

Kolumna _metadata zawiera STRUCT następujące pola:

Nazwa Typ Opis Przykład
file_path STRING Ścieżka pliku wejściowego. file:/tmp/f0.csv
Nazwa_pliku STRING Nazwa pliku wejściowego wraz z jego rozszerzeniem. f0.csv
file_size LONG Długość pliku wejściowego w bajtach. 628
file_modification_time TIMESTAMP Znacznik czasu ostatniej modyfikacji pliku wejściowego. 2021-12-20 20:05:21

Przykłady

Używanie w podstawowym czytniku źródeł danych opartym na plikach

Python

df = spark.read \
  .format("csv") \
  .schema(schema) \
  .load("dbfs:/tmp/*") \
  .select("*", "_metadata")

display(df)

'''
Result:
+---------+-----+----------------------------------------------------+
|   name  | age |                 _metadata                          |
+=========+=====+====================================================+
|         |     | {                                                  |
|         |     |    "file_path": "dbfs:/tmp/f0.csv",                |
| Debbie  | 18  |    "file_name": "f0.csv",                          |
|         |     |    "file_size": 12,                                |
|         |     |    "file_modification_time": "2021-07-02 01:05:21" |
|         |     | }                                                  |
+---------+-----+----------------------------------------------------+
|         |     | {                                                  |
|         |     |    "file_path": "dbfs:/tmp/f1.csv",                |
| Frank   | 24  |    "file_name": "f1.csv",                          |
|         |     |    "file_size": 12,                                |
|         |     |    "file_modification_time": "2021-12-20 02:06:21" |
|         |     | }                                                  |
+---------+-----+----------------------------------------------------+
'''

Scala

val df = spark.read
  .format("csv")
  .schema(schema)
  .load("dbfs:/tmp/*")
  .select("*", "_metadata")

display(df_population)

/* Result:
+---------+-----+----------------------------------------------------+
|   name  | age |                 _metadata                          |
+=========+=====+====================================================+
|         |     | {                                                  |
|         |     |    "file_path": "dbfs:/tmp/f0.csv",                |
| Debbie  | 18  |    "file_name": "f0.csv",                          |
|         |     |    "file_size": 12,                                |
|         |     |    "file_modification_time": "2021-07-02 01:05:21" |
|         |     | }                                                  |
+---------+-----+----------------------------------------------------+
|         |     | {                                                  |
|         |     |    "file_path": "dbfs:/tmp/f1.csv",                |
| Frank   | 24  |    "file_name": "f1.csv",                          |
|         |     |    "file_size": 10,                                |
|         |     |    "file_modification_time": "2021-12-20 02:06:21" |
|         |     | }                                                  |
+---------+-----+----------------------------------------------------+
*/

Wybieranie określonych pól

Python

spark.read \
  .format("csv") \
  .schema(schema) \
  .load("dbfs:/tmp/*") \
  .select("_metadata.file_name", "_metadata.file_size")

Scala

spark.read
  .format("csv")
  .schema(schema)
  .load("dbfs:/tmp/*")
  .select("_metadata.file_name", "_metadata.file_size")

Używanie w filtrach

Python

spark.read \
  .format("csv") \
  .schema(schema) \
  .load("dbfs:/tmp/*") \
  .select("*") \
  .filter(col("_metadata.file_name") == lit("test.csv"))

Scala

spark.read
  .format("csv")
  .schema(schema)
  .load("dbfs:/tmp/*")
  .select("*")
  .filter(col("_metadata.file_name") === lit("test.csv"))

Używanie w funkcji COPY INTO

COPY INTO my_delta_table
FROM (
  SELECT *, _metadata FROM 'abfss://my-bucket/csvData'
)
FILEFORMAT = CSV

Używanie w automatycznym ładowaniu

Python

spark.readStream \
  .format("cloudFiles") \
  .option("cloudFiles.format", "csv") \
  .schema(schema) \
  .load("abfss://my-bucket/csvData") \
  .select("*", "_metadata") \
  .writeStream \
  .format("delta") \
  .option("checkpointLocation", checkpointLocation) \
  .start(targetTable)

Scala

spark.readStream
  .format("cloudFiles")
  .option("cloudFiles.format", "csv")
  .schema(schema)
  .load("abfss://my-bucket/csvData")
  .select("*", "_metadata")
  .writeStream
  .format("delta")
  .option("checkpointLocation", checkpointLocation)
  .start(targetTable)