array_distinct

Eltávolítja az ismétlődő értékeket a tömbből.

Szemantika

from pyspark.sql import functions as sf

sf.array_distinct(col)

Paraméterek

Paraméter	Típus	Description
col	pyspark.sql.Column vagy str	Oszlop vagy kifejezés neve

Visszatérítések

pyspark.sql.Column: Egy új oszlop, amely a bemeneti oszlop egyedi értékeinek tömbje.

Példák

1. példa: Ismétlődő értékek eltávolítása egyszerű tömbből

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 2],)], ['data'])
df.select(sf.array_distinct(df.data)).show()

+--------------------+
|array_distinct(data)|
+--------------------+
|           [1, 2, 3]|
+--------------------+

2. példa: Ismétlődő értékek eltávolítása több tömbből

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 2],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_distinct(df.data)).show()

+--------------------+
|array_distinct(data)|
+--------------------+
|           [1, 2, 3]|
|              [4, 5]|
+--------------------+

3. példa: Ismétlődő értékek eltávolítása egy tömbből az összes azonos értékkel

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_distinct(df.data)).show()

+--------------------+
|array_distinct(data)|
+--------------------+
|                 [1]|
+--------------------+

4. példa: Ismétlődő értékek eltávolítása ismétlődő értékek nélküli tömbből

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_distinct(df.data)).show()

+--------------------+
|array_distinct(data)|
+--------------------+
|           [1, 2, 3]|
+--------------------+

5. példa: Ismétlődő értékek eltávolítása üres tömbből

from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
  StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_distinct(df.data)).show()

+--------------------+
|array_distinct(data)|
+--------------------+
|                  []|
+--------------------+