加载 CSV 文件流,并将结果作为数据帧返回。 如果 inferSchema 已启用,该函数将经历一次输入以确定架构。 若要避免此传递,请使用显式禁用 inferSchema 或指定架构 schema。
Syntax
csv(path, schema=None, **options)
参数
| 参数 | 类型 | 说明 |
|---|---|---|
path |
str | CSV 输入的路径。 |
schema |
StructType 或 str,可选 | 架构为结构类型或 DDL 格式的字符串(例如)。 col0 INT, col1 DOUBLE |
退货
DataFrame
示例
从临时 CSV 文件加载流:
import tempfile
import time
with tempfile.TemporaryDirectory(prefix="csv") as d:
spark.createDataFrame([(1, "2"),]).write.mode("overwrite").format("csv").save(d)
q = spark.readStream.schema(
"col0 INT, col1 STRING"
).format("csv").load(d).writeStream.format("console").start()
time.sleep(3)
q.stop()