load (DataStreamReader)

Загружает поток данных из источника данных и возвращает его в виде кадра данных.

Синтаксис

load(path=None, format=None, schema=None, **options)

Параметры

Параметр	Тип	Описание
path	str, необязательный	Путь к источникам данных, поддерживаемым файловой системой.
format	str, необязательный	Формат источника данных. По умолчанию — 'parquet'.
schema	StructType или str, необязательный	Схема входных данных в виде строки в формате StructType или DDL (например, col0 INT, col1 DOUBLE).
**options		Все остальные параметры строки.

Возвраты

DataFrame

Примеры

Загрузите поток из временного JSON-файла:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="load") as d:
    spark.createDataFrame(
        [(100, "Hyukjin Kwon"),], ["age", "name"]
    ).write.mode("overwrite").format("json").save(d)
    q = spark.readStream.schema(
        "age INT, name STRING"
    ).format("json").load(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()