从数据源加载数据流,并将其作为数据帧返回。
Syntax
load(path=None, format=None, schema=None, **options)
参数
| 参数 | 类型 | 说明 |
|---|---|---|
path |
str,可选 | 文件系统支持的数据源的路径。 |
format |
str,可选 | 数据源的格式。 默认为 'parquet'。 |
schema |
StructType 或 str,可选 | 输入数据的架构(例如 col0 INT, col1 DOUBLE,结构类型或 DDL 格式的字符串)。 |
**options |
所有其他字符串选项。 |
退货
DataFrame
示例
从临时 JSON 文件加载流:
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
spark.createDataFrame(
[(100, "Hyukjin Kwon"),], ["age", "name"]
).write.mode("overwrite").format("json").save(d)
q = spark.readStream.schema(
"age INT, name STRING"
).format("json").load(d).writeStream.format("console").start()
time.sleep(3)
q.stop()