parquet (DataStreamReader)

載入 Parquet 檔案串流,並將結果以 DataFrame 回傳。

語法

parquet(path, **options)

參數

參數 類型 說明
path str 路徑,適用於任何支援 Hadoop 的檔案系統。

退貨

DataFrame

Examples

從臨時 Parquet 檔案載入串流:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="parquet") as d:
    spark.range(10).write.mode("overwrite").format("parquet").save(d)
    q = spark.readStream.schema(
        "id LONG").parquet(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()