from_json

Анализирует столбец, содержащий строку JSON в MapTypeStringType виде типа ключей или StructTypeArrayType с указанной схемой. Возвращает , nullв случае неуправляемой строки.

Синтаксис

from pyspark.sql import functions as sf

sf.from_json(col, schema, options=None)

Параметры

Параметр	Тип	Description
col	pyspark.sql.Column или str	Имя столбца или столбца в формате JSON.
schema	DataType или str	Строковый литерал StructType, ArrayType of StructType или Python со строкой в формате DDL, используемой при анализе столбца JSON.
options	дикт, необязательный	Параметры для управления синтаксический анализ. Принимает те же параметры, что и источник данных JSON.

Возвраты

pyspark.sql.Column: новый столбец сложного типа из заданного объекта JSON.

Примеры

Пример 1. Анализ JSON с указанной схемой

import pyspark.sql.functions as sf
from pyspark.sql.types import StructType, StructField, IntegerType
schema = StructType([StructField("a", IntegerType())])
df = spark.createDataFrame([(1, '''{"a": 1}''')], ("key", "value"))
df.select(sf.from_json(df.value, schema).alias("json")).show()

+----+
|json|
+----+
| {1}|
+----+

Пример 2. Анализ JSON с помощью строки с форматированием DDL

import pyspark.sql.functions as sf
df = spark.createDataFrame([(1, '''{"a": 1}''')], ("key", "value"))
df.select(sf.from_json(df.value, "a INT").alias("json")).show()

+----+
|json|
+----+
| {1}|
+----+

Пример 3. Анализ JSON в MapType

import pyspark.sql.functions as sf
df = spark.createDataFrame([(1, '''{"a": 1}''')], ("key", "value"))
df.select(sf.from_json(df.value, "MAP<STRING,INT>").alias("json")).show()

+--------+
|    json|
+--------+
|{a -> 1}|
+--------+

Пример 4. Анализ JSON в ArrayType объекта StructType

import pyspark.sql.functions as sf
from pyspark.sql.types import ArrayType, StructType, StructField, IntegerType
schema = ArrayType(StructType([StructField("a", IntegerType())]))
df = spark.createDataFrame([(1, '''[{"a": 1}]''')], ("key", "value"))
df.select(sf.from_json(df.value, schema).alias("json")).show()

+-----+
| json|
+-----+
|[{1}]|
+-----+

Пример 5. Анализ JSON в ArrayType

import pyspark.sql.functions as sf
from pyspark.sql.types import ArrayType, IntegerType
schema = ArrayType(IntegerType())
df = spark.createDataFrame([(1, '''[1, 2, 3]''')], ("key", "value"))
df.select(sf.from_json(df.value, schema).alias("json")).show()

+---------+
|     json|
+---------+
|[1, 2, 3]|
+---------+

Пример 6. Анализ JSON с указанными параметрами

import pyspark.sql.functions as sf
df = spark.createDataFrame([(1, '''{a:123}'''), (2, '''{"a":456}''')], ("key", "value"))
parsed1 = sf.from_json(df.value, "a INT")
parsed2 = sf.from_json(df.value, "a INT", {"allowUnquotedFieldNames": "true"})
df.select("value", parsed1, parsed2).show()

+---------+----------------+----------------+
|    value|from_json(value)|from_json(value)|
+---------+----------------+----------------+
|  {a:123}|          {NULL}|           {123}|
|{"a":456}|           {456}|           {456}|
+---------+----------------+----------------+