json (DataStreamReader)

Ładuje strumień plików JSON i zwraca wyniki jako ramkę danych. Linie JSON (nowy kod JSON rozdzielany wierszami) są domyślnie obsługiwane. W przypadku formatu JSON z jednym rekordem multiLine na plik ustaw opcję true. Jeśli schema nie zostanie określony, schemat wejściowy zostanie wywnioskowany z danych.

Składnia

json(path, schema=None, **options)

Parametry

Parameter Typ Opis
path str Ścieżka do zestawu danych JSON.
schema Typ struktury lub str, opcjonalny Schemat jako ciąg w formacie StructType lub DDL (na przykład col0 INT, col1 DOUBLE).

Zwroty

DataFrame

Examples

Załaduj strumień z tymczasowego pliku JSON:

import tempfile
import time
with tempfile.TemporaryDirectory(prefix="json") as d:
    spark.createDataFrame(
        [(100, "Hyukjin Kwon"),], ["age", "name"]
    ).write.mode("overwrite").format("json").save(d)
    q = spark.readStream.schema(
        "age INT, name STRING"
    ).json(d).writeStream.format("console").start()
    time.sleep(3)
    q.stop()