array_remove

Supprimez tous les éléments qui sont égaux à l’élément du tableau donné.

Syntaxe

from pyspark.sql import functions as sf

sf.array_remove(col, element)

Paramètres

Paramètre	Type	Descriptif
col	pyspark.sql.Column ou str	Nom de colonne contenant le tableau
element	N'importe lequel	Élément ou expression column à supprimer du tableau

Retours

pyspark.sql.Column: nouvelle colonne qui est un tableau à l’exclusion de la valeur donnée de la colonne d’entrée.

Examples

Exemple 1 : Suppression d’une valeur spécifique d’un tableau simple

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()

+---------------------+
|array_remove(data, 1)|
+---------------------+
|               [2, 3]|
+---------------------+

Exemple 2 : Suppression d’une valeur spécifique de plusieurs tableaux

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1],), ([4, 5, 5, 4],)], ['data'])
df.select(sf.array_remove(df.data, 5)).show()

+---------------------+
|array_remove(data, 5)|
+---------------------+
|      [1, 2, 3, 1, 1]|
|               [4, 4]|
+---------------------+

Exemple 3 : Suppression d’une valeur qui n’existe pas dans le tableau

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3],)], ['data'])
df.select(sf.array_remove(df.data, 4)).show()

+---------------------+
|array_remove(data, 4)|
+---------------------+
|            [1, 2, 3]|
+---------------------+

Exemple 4 : Suppression d’une valeur d’un tableau avec toutes les valeurs identiques

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 1, 1],)], ['data'])
df.select(sf.array_remove(df.data, 1)).show()

+---------------------+
|array_remove(data, 1)|
+---------------------+
|                   []|
+---------------------+

Exemple 5 : Suppression d’une valeur d’un tableau vide

from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([
  StructField("data", ArrayType(IntegerType()), True)
])
df = spark.createDataFrame([([],)], schema)
df.select(sf.array_remove(df.data, 1)).show()

+---------------------+
|array_remove(data, 1)|
+---------------------+
|                   []|
+---------------------+

Exemple 6 : Suppression de la valeur d’une colonne d’un tableau simple

from pyspark.sql import functions as sf
df = spark.createDataFrame([([1, 2, 3, 1, 1], 1)], ['data', 'col'])
df.select(sf.array_remove(df.data, df.col)).show()

+-----------------------+
|array_remove(data, col)|
+-----------------------+
|                 [2, 3]|
+-----------------------+