加载 Parquet 文件流,并将结果作为数据帧返回。
Syntax
parquet(path, **options)
参数
| 参数 | 类型 | 说明 |
|---|---|---|
path |
str | 任何 Hadoop 支持的文件系统中的路径。 |
退货
DataFrame
示例
从临时 Parquet 文件加载流:
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="parquet") as d:
spark.range(10).write.mode("overwrite").format("parquet").save(d)
q = spark.readStream.schema(
"id LONG").parquet(d).writeStream.format("console").start()
time.sleep(3)
q.stop()