array_agg

Devuelve una lista de objetos con duplicados.

Syntax

from pyspark.sql import functions as sf

sf.array_agg(col)

Parámetros

Parámetro	Tipo	Description
col	pyspark.sql.Column o nombre de columna	Columna de destino en la que se va a calcular.

Devoluciones

pyspark.sql.Column: lista de objetos con duplicados.

Examples

Ejemplo 1: Uso de array_agg función en una columna int

from pyspark.sql import functions as sf
df = spark.createDataFrame([[1],[1],[2]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show()

+-----------+
|sorted_list|
+-----------+
|  [1, 1, 2]|
+-----------+

Ejemplo 2: Uso de array_agg función en una columna de cadena

from pyspark.sql import functions as sf
df = spark.createDataFrame([["apple"],["apple"],["banana"]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show(truncate=False)

+----------------------+
|sorted_list           |
+----------------------+
|[apple, apple, banana]|
+----------------------+

Ejemplo 3: Uso de array_agg función en una columna con valores NULL

from pyspark.sql import functions as sf
df = spark.createDataFrame([[1],[None],[2]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show()

+-----------+
|sorted_list|
+-----------+
|     [1, 2]|
+-----------+

Ejemplo 4: Uso de array_agg función en una columna con distintos tipos de datos

from pyspark.sql import functions as sf
df = spark.createDataFrame([[1],["apple"],[2]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show()

+-------------+
|  sorted_list|
+-------------+
|[1, 2, apple]|
+-------------+