parquet (DataStreamReader)

加载 Parquet 文件流,并将结果作为数据帧返回。

Syntax

parquet(path, **options)

参数

参数 类型 说明
path str 任何 Hadoop 支持的文件系统中的路径。

退货

DataFrame

示例

从临时 Parquet 文件加载流:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="parquet") as d:
    spark.range(10).write.mode("overwrite").format("parquet").save(d)
    q = spark.readStream.schema(
        "id LONG").parquet(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()