load (DataStreamReader)

从数据源加载数据流,并将其作为数据帧返回。

Syntax

load(path=None, format=None, schema=None, **options)

参数

参数 类型 说明
path str,可选 文件系统支持的数据源的路径。
format str,可选 数据源的格式。 默认为 'parquet'
schema StructType 或 str,可选 输入数据的架构(例如 col0 INT, col1 DOUBLE,结构类型或 DDL 格式的字符串)。
**options 所有其他字符串选项。

退货

DataFrame

示例

从临时 JSON 文件加载流:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
    spark.createDataFrame(
        [(100, "Hyukjin Kwon"),], ["age", "name"]
    ).write.mode("overwrite").format("json").save(d)
    q = spark.readStream.schema(
        "age INT, name STRING"
    ).format("json").load(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()