posexplode

Zwraca nowy wiersz dla każdego elementu z pozycją w danej tablicy lub mapie. Używa domyślnej nazwy pos kolumny dla pozycji oraz col elementów w tablicy i keyvalue dla elementów na mapie, chyba że określono inaczej.

Składnia

from pyspark.sql import functions as sf

sf.posexplode(col)

Parametry

Parameter	Typ	Description
col	pyspark.sql.Column lub nazwa kolumny	Kolumna docelowa do pracy.

Zwraca

pyspark.sql.Column: jeden wiersz na element tablicy lub wartość klucza mapy, w tym pozycje jako oddzielna kolumna.

Przykłady

Przykład 1. Eksplodowanie kolumny tablicy

from pyspark.sql import functions as sf
df = spark.sql('SELECT * FROM VALUES (1,ARRAY(1,2,3,NULL)), (2,ARRAY()), (3,NULL) AS t(i,a)')
df.show()

+---+---------------+
|  i|              a|
+---+---------------+
|  1|[1, 2, 3, NULL]|
|  2|             []|
|  3|           NULL|
+---+---------------+

df.select('*', sf.posexplode('a')).show()

+---+---------------+---+----+
|  i|              a|pos| col|
+---+---------------+---+----+
|  1|[1, 2, 3, NULL]|  0|   1|
|  1|[1, 2, 3, NULL]|  1|   2|
|  1|[1, 2, 3, NULL]|  2|   3|
|  1|[1, 2, 3, NULL]|  3|NULL|
+---+---------------+---+----+

Przykład 2. Eksplodowanie kolumny mapy

from pyspark.sql import functions as sf
df = spark.sql('SELECT * FROM VALUES (1,MAP(1,2,3,4,5,NULL)), (2,MAP()), (3,NULL) AS t(i,m)')
df.show(truncate=False)

+---+---------------------------+
|i  |m                          |
+---+---------------------------+
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|
|2  |{}                         |
|3  |NULL                       |
+---+---------------------------+

df.select('*', sf.posexplode('m')).show(truncate=False)

+---+---------------------------+---+---+-----+
|i  |m                          |pos|key|value|
+---+---------------------------+---+---+-----+
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|0  |1  |2    |
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|1  |3  |4    |
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|2  |5  |NULL |
+---+---------------------------+---+---+-----+