map_concat

Vrátí sjednocení všech daných map. U duplicitních klíčů ve vstupních mapách se zpracování řídí spark.sql.mapKeyDedupPolicy. Ve výchozím nastavení vyvolá výjimku. Pokud je nastavená hodnota LAST_WIN, použije hodnotu poslední mapy.

Syntaxe

from pyspark.sql import functions as sf

sf.map_concat(*cols)

Parametry

Parameter Typ Description
cols pyspark.sql.Column nebo str Názvy sloupců nebo sloupec

Návraty

pyspark.sql.Column: Mapa sloučených položek z jiných map.

Examples

Příklad 1: Základní použití map_concat

from pyspark.sql import functions as sf
df = spark.sql("SELECT map(1, 'a', 2, 'b') as map1, map(3, 'c') as map2")
df.select(sf.map_concat("map1", "map2")).show(truncate=False)
+------------------------+
|map_concat(map1, map2)  |
+------------------------+
|{1 -> a, 2 -> b, 3 -> c}|
+------------------------+

Příklad 2: map_concat se třemi mapami

from pyspark.sql import functions as sf
df = spark.sql("SELECT map(1, 'a') as map1, map(2, 'b') as map2, map(3, 'c') as map3")
df.select(sf.map_concat("map1", "map2", "map3")).show(truncate=False)
+----------------------------+
|map_concat(map1, map2, map3)|
+----------------------------+
|{1 -> a, 2 -> b, 3 -> c}    |
+----------------------------+

Příklad 3: map_concat s prázdnou mapou

from pyspark.sql import functions as sf
df = spark.sql("SELECT map(1, 'a', 2, 'b') as map1, map() as map2")
df.select(sf.map_concat("map1", "map2")).show(truncate=False)
+----------------------+
|map_concat(map1, map2)|
+----------------------+
|{1 -> a, 2 -> b}      |
+----------------------+

Příklad 4: map_concat s hodnotami null

from pyspark.sql import functions as sf
df = spark.sql("SELECT map(1, 'a', 2, 'b') as map1, map(3, null) as map2")
df.select(sf.map_concat("map1", "map2")).show(truncate=False)
+---------------------------+
|map_concat(map1, map2)     |
+---------------------------+
|{1 -> a, 2 -> b, 3 -> NULL}|
+---------------------------+