csv (DataStreamReader)

Načte datový proud souboru CSV a vrátí výsledek jako datový rámec. Pokud inferSchema je povoleno, funkce prochází vstupem jednou za účelem určení schématu. Chcete-li se tomuto průchodu vyhnout, zakažte inferSchema nebo zadejte schéma explicitně pomocí schema.

Syntaxe

csv(path, schema=None, **options)

Parametry

Parameter Typ Description
path str Cesta pro vstup sdíleného svazku clusteru
schema StructType nebo str, volitelné Schéma jako řetězec ve formátu StructType nebo DDL (například col0 INT, col1 DOUBLE).

Návraty

DataFrame

Příklady

Načtení datového proudu z dočasného souboru CSV:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="csv") as d:
    spark.createDataFrame([(1, "2"),]).write.mode("overwrite").format("csv").save(d)
    q = spark.readStream.schema(
        "col0 INT, col1 STRING"
    ).format("csv").load(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()