from_json

A JSON-sztringet MapTypeStringType tartalmazó oszlopot kulcstípusú StructType vagy ArrayType a megadott sémába elemzi. A visszaadott nullértéket egy nem elemezhető sztring esetén adja vissza.

Szemantika

from pyspark.sql import functions as sf

sf.from_json(col, schema, options=None)

Paraméterek

Paraméter	Típus	Description
col	pyspark.sql.Column vagy str	Egy oszlop vagy oszlop neve JSON formátumban.
schema	DataType vagy str	StructType, ArrayType vagy Python-sztringkonstans DDL formátumú sztringgel a json oszlop elemzésekor.
options	diktálás, nem kötelező	Elemzés vezérlésének beállításai. Ugyanazokat a beállításokat fogadja el, mint a json-adatforrás.

Visszatérítések

pyspark.sql.Column: egy összetett típusú új oszlop adott JSON-objektumból.

Példák

1. példa: JSON elemzése megadott sémával

import pyspark.sql.functions as sf
from pyspark.sql.types import StructType, StructField, IntegerType
schema = StructType([StructField("a", IntegerType())])
df = spark.createDataFrame([(1, '''{"a": 1}''')], ("key", "value"))
df.select(sf.from_json(df.value, schema).alias("json")).show()

+----+
|json|
+----+
| {1}|
+----+

2. példa: JSON elemzése DDL formátumú sztringgel

import pyspark.sql.functions as sf
df = spark.createDataFrame([(1, '''{"a": 1}''')], ("key", "value"))
df.select(sf.from_json(df.value, "a INT").alias("json")).show()

+----+
|json|
+----+
| {1}|
+----+

3. példa: JSON elemzése MapType-fájlba

import pyspark.sql.functions as sf
df = spark.createDataFrame([(1, '''{"a": 1}''')], ("key", "value"))
df.select(sf.from_json(df.value, "MAP<STRING,INT>").alias("json")).show()

+--------+
|    json|
+--------+
|{a -> 1}|
+--------+

4. példa: JSON elemzése a StructType tömbtípusába

import pyspark.sql.functions as sf
from pyspark.sql.types import ArrayType, StructType, StructField, IntegerType
schema = ArrayType(StructType([StructField("a", IntegerType())]))
df = spark.createDataFrame([(1, '''[{"a": 1}]''')], ("key", "value"))
df.select(sf.from_json(df.value, schema).alias("json")).show()

+-----+
| json|
+-----+
|[{1}]|
+-----+

5. példa: JSON elemzése Tömbtípusba

import pyspark.sql.functions as sf
from pyspark.sql.types import ArrayType, IntegerType
schema = ArrayType(IntegerType())
df = spark.createDataFrame([(1, '''[1, 2, 3]''')], ("key", "value"))
df.select(sf.from_json(df.value, schema).alias("json")).show()

+---------+
|     json|
+---------+
|[1, 2, 3]|
+---------+

6. példa: JSON elemzése megadott beállításokkal

import pyspark.sql.functions as sf
df = spark.createDataFrame([(1, '''{a:123}'''), (2, '''{"a":456}''')], ("key", "value"))
parsed1 = sf.from_json(df.value, "a INT")
parsed2 = sf.from_json(df.value, "a INT", {"allowUnquotedFieldNames": "true"})
df.select("value", parsed1, parsed2).show()

+---------+----------------+----------------+
|    value|from_json(value)|from_json(value)|
+---------+----------------+----------------+
|  {a:123}|          {NULL}|           {123}|
|{"a":456}|           {456}|           {456}|
+---------+----------------+----------------+