array_agg

Возвращает список объектов с дубликатами.

Синтаксис

from pyspark.sql import functions as sf

sf.array_agg(col)

Параметры

Параметр	Тип	Description
col	pyspark.sql.Column или имя столбца	Целевой столбец для вычисления.

Возвраты

pyspark.sql.Column: список объектов с дубликатами.

Примеры

Пример 1. Использование функции array_agg в столбце int

from pyspark.sql import functions as sf
df = spark.createDataFrame([[1],[1],[2]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show()

+-----------+
|sorted_list|
+-----------+
|  [1, 1, 2]|
+-----------+

Пример 2. Использование функции array_agg в строковом столбце

from pyspark.sql import functions as sf
df = spark.createDataFrame([["apple"],["apple"],["banana"]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show(truncate=False)

+----------------------+
|sorted_list           |
+----------------------+
|[apple, apple, banana]|
+----------------------+

Пример 3. Использование функции array_agg в столбце со значениями NULL

from pyspark.sql import functions as sf
df = spark.createDataFrame([[1],[None],[2]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show()

+-----------+
|sorted_list|
+-----------+
|     [1, 2]|
+-----------+

Пример 4. Использование функции array_agg в столбце с различными типами данных

from pyspark.sql import functions as sf
df = spark.createDataFrame([[1],["apple"],[2]], ["c"])
df.agg(sf.sort_array(sf.array_agg('c')).alias('sorted_list')).show()

+-------------+
|  sorted_list|
+-------------+
|[1, 2, apple]|
+-------------+