string_agg_distinct

Funkcja agregacji: zwraca łączenie unikatowych wartości wejściowych innych niż null oddzielone ogranicznikiem. Alias elementu listagg_distinct.

Składnia

import pyspark.sql.functions as sf

sf.string_agg_distinct(col=<col>)

# With delimiter
sf.string_agg_distinct(col=<col>, delimiter=<delimiter>)

Parametry

Parameter	Typ	Description
col	pyspark.sql.Column lub str	Kolumna docelowa do obliczenia.
delimiter	pyspark.sql.Column, str lub bytes	Opcjonalny. Ogranicznik rozdziela wartości. Wartość domyślna to Brak.

Zwraca

pyspark.sql.Column: kolumna dla obliczonych wyników.

Przykłady

Przykład 1: Używanie funkcji string_agg_distinct.

import pyspark.sql.functions as sf
df = spark.createDataFrame([('a',), ('b',), (None,), ('c',), ('b',)], ['strings'])
df.select(sf.string_agg_distinct('strings')).show()

+----------------------------------+
|string_agg(DISTINCT strings, NULL)|
+----------------------------------+
|                               abc|
+----------------------------------+

Przykład 2: Używanie funkcji string_agg_distinct z ogranicznikiem.

import pyspark.sql.functions as sf
df = spark.createDataFrame([('a',), ('b',), (None,), ('c',), ('b',)], ['strings'])
df.select(sf.string_agg_distinct('strings', ', ')).show()

+--------------------------------+
|string_agg(DISTINCT strings, , )|
+--------------------------------+
|                         a, b, c|
+--------------------------------+

Przykład 3: Używanie funkcji string_agg_distinct z kolumną binarną i ogranicznikiem.

import pyspark.sql.functions as sf
df = spark.createDataFrame([(b'\x01',), (b'\x02',), (None,), (b'\x03',), (b'\x02',)],
                           ['bytes'])
df.select(sf.string_agg_distinct('bytes', b'\x42')).show()

+---------------------------------+
|string_agg(DISTINCT bytes, X'42')|
+---------------------------------+
|                 [01 42 02 42 03]|
+---------------------------------+

Przykład 4: Używanie funkcji string_agg_distinct w kolumnie ze wszystkimi wartościami None.

import pyspark.sql.functions as sf
from pyspark.sql.types import StructType, StructField, StringType
schema = StructType([StructField("strings", StringType(), True)])
df = spark.createDataFrame([(None,), (None,), (None,), (None,)], schema=schema)
df.select(sf.string_agg_distinct('strings')).show()

+----------------------------------+
|string_agg(DISTINCT strings, NULL)|
+----------------------------------+
|                              NULL|
+----------------------------------+