posexplode_outer

Zwraca nowy wiersz dla każdego elementu z pozycją w danej tablicy lub mapie. W przeciwieństwie do funkcji posexplode, jeśli tablica/mapa ma wartość null lub jest pusta, zostanie wygenerowany wiersz (null, null). Używa domyślnej nazwy pos kolumny dla pozycji oraz col elementów w tablicy i keyvalue dla elementów na mapie, chyba że określono inaczej.

Składnia

from pyspark.sql import functions as sf

sf.posexplode_outer(col)

Parametry

Parameter	Typ	Description
col	pyspark.sql.Column lub nazwa kolumny	Kolumna docelowa do pracy.

Zwraca

pyspark.sql.Column: jeden wiersz na element tablicy lub wartość klucza mapy, w tym pozycje jako oddzielna kolumna.

Przykłady

Przykład 1. Używanie kolumny tablicy

from pyspark.sql import functions as sf
df = spark.sql('SELECT * FROM VALUES (1,ARRAY(1,2,3,NULL)), (2,ARRAY()), (3,NULL) AS t(i,a)')
df.select('*', sf.posexplode_outer('a')).show()

+---+---------------+----+----+
|  i|              a| pos| col|
+---+---------------+----+----+
|  1|[1, 2, 3, NULL]|   0|   1|
|  1|[1, 2, 3, NULL]|   1|   2|
|  1|[1, 2, 3, NULL]|   2|   3|
|  1|[1, 2, 3, NULL]|   3|NULL|
|  2|             []|NULL|NULL|
|  3|           NULL|NULL|NULL|
+---+---------------+----+----+

Przykład 2: Używanie kolumny mapy

from pyspark.sql import functions as sf
df = spark.sql('SELECT * FROM VALUES (1,MAP(1,2,3,4,5,NULL)), (2,MAP()), (3,NULL) AS t(i,m)')
df.select('*', sf.posexplode_outer('m')).show(truncate=False)

+---+---------------------------+----+----+-----+
|i  |m                          |pos |key |value|
+---+---------------------------+----+----+-----+
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|0   |1   |2    |
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|1   |3   |4    |
|1  |{1 -> 2, 3 -> 4, 5 -> NULL}|2   |5   |NULL |
|2  |{}                         |NULL|NULL|NULL |
|3  |NULL                       |NULL|NULL|NULL |
+---+---------------------------+----+----+-----+