Freigeben über


array_remove

Entfernen Sie alle Elemente, die dem Element des angegebenen Arrays entsprechen.

Syntax

from pyspark.sql import functions as sf

sf.array_remove(col, element)

Die Parameter

Parameter Typ Description
col pyspark.sql.Column oder str Name der Spalte mit Array
element Beliebig Element oder ein Spaltenausdruck, der aus dem Array entfernt werden soll

Rückkehr

pyspark.sql.Column: Eine neue Spalte, die ein Array ist, das den angegebenen Wert aus der Eingabespalte ausschließt.

Examples

Beispiel 1: Entfernen eines bestimmten Werts aus einem einfachen Array

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()
+---------------------+
|array_remove(data, 1)|
+---------------------+
|               [2, 3]|
+---------------------+

Beispiel 2: Entfernen eines bestimmten Werts aus mehreren Arrays

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_remove(df.data, 5)).show()
+---------------------+
|array_remove(data, 5)|
+---------------------+
|      [1, 2, 3, 1, 1]|
|               [4, 4]|
+---------------------+

Beispiel 3: Entfernen eines Werts, der im Array nicht vorhanden ist

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_remove(df.data, 4)).show()
+---------------------+
|array_remove(data, 4)|
+---------------------+
|            [1, 2, 3]|
+---------------------+

Beispiel 4: Entfernen eines Werts aus einem Array mit allen identischen Werten

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()
+---------------------+
|array_remove(data, 1)|
+---------------------+
|                   []|
+---------------------+

Beispiel 5: Entfernen eines Werts aus einem leeren Array

from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
  StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_remove(df.data, 1)).show()
+---------------------+
|array_remove(data, 1)|
+---------------------+
|                   []|
+---------------------+

Beispiel 6: Entfernen des Werts einer Spalte aus einem einfachen Array

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1], 1)], ['data', 'col'])
df.select(sf.array_remove(df.data, df.col)).show()
+-----------------------+
|array_remove(data, col)|
+-----------------------+
|                 [2, 3]|
+-----------------------+