從資料來源載入資料串流,並以 DataFrame 格式回傳。
語法
load(path=None, format=None, schema=None, **options)
參數
| 參數 | 類型 | 說明 |
|---|---|---|
path |
力量,選用 | 檔案系統支援資料來源的路徑。 |
format |
力量,選用 | 資料來源格式。 預設為 'parquet'。 |
schema |
結構類型或力量,選用 | 輸入資料的結構模式(Schema)為 StructType 或 DDL 格式的字串(例如 col0 INT, col1 DOUBLE)。 |
**options |
其他所有弦線選項。 |
退貨
DataFrame
Examples
從暫存的 JSON 檔案載入串流:
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
spark.createDataFrame(
[(100, "Hyukjin Kwon"),], ["age", "name"]
).write.mode("overwrite").format("json").save(d)
q = spark.readStream.schema(
"age INT, name STRING"
).format("json").load(d).writeStream.format("console").start()
time.sleep(3)
q.stop()