schema (DataStreamReader)

Určuje vstupní schéma. Některé zdroje dat (například JSON) můžou odvodit vstupní schéma automaticky z dat. Zadáním schématu sem můžete zdroj dat přeskočit odvozování schématu a zrychlit načítání dat.

Syntaxe

schema(schema)

Parametry

Parameter Typ Description
schema StructType nebo str Objekt StructType nebo řetězec ve formátu DDL (například col0 INT, col1 DOUBLE).

Návraty

DataStreamReader

Příklady

from pyspark.sql.types import StructField, StructType, StringType
spark.readStream.schema(StructType([StructField("data", StringType(), True)]))
# <...streaming.readwriter.DataStreamReader object ...>
spark.readStream.schema("col0 INT, col1 DOUBLE")
# <...streaming.readwriter.DataStreamReader object ...>

Zadejte jiné schéma pro soubor CSV:

import tempfile
with tempfile.TemporaryDirectory(prefix="schema") as d:
    spark.readStream.schema("col0 INT, col1 STRING").format("csv").load(d).printSchema()
    # root
    #  |-- col0: integer (nullable = true)
    #  |-- col1: string (nullable = true)