array_except

Возвращает новый массив, содержащий элементы, присутствующих в col1, но не в col2, без дубликатов.

Синтаксис

from pyspark.sql import functions as sf

sf.array_except(col1, col2)

Параметры

Параметр	Тип	Description
col1	pyspark.sql.Column или str	Имя столбца, содержащего первый массив.
col2	pyspark.sql.Column или str	Имя столбца, содержащего второй массив.

Возвраты

pyspark.sql.Column: новый массив, содержащий элементы, присутствующих в col1, но не в col2.

Примеры

Пример 1. Базовое использование

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["b", "a", "c"], c2=["c", "d", "a", "f"])])
df.select(sf.array_except(df.c1, df.c2)).show()

+--------------------+
|array_except(c1, c2)|
+--------------------+
|                 [b]|
+--------------------+

Пример 2. За исключением общих элементов

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["b", "a", "c"], c2=["d", "e", "f"])])
df.select(sf.sort_array(sf.array_except(df.c1, df.c2))).show()

+--------------------------------------+
|sort_array(array_except(c1, c2), true)|
+--------------------------------------+
|                             [a, b, c]|
+--------------------------------------+

Пример 3. Кроме всех общих элементов

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["a", "b", "c"], c2=["a", "b", "c"])])
df.select(sf.array_except(df.c1, df.c2)).show()

+--------------------+
|array_except(c1, c2)|
+--------------------+
|                  []|
+--------------------+

Пример 4. Кроме значений NULL

from pyspark.sql import Row, functions as sf
df = spark.createDataFrame([Row(c1=["a", "b", None], c2=["a", None, "c"])])
df.select(sf.array_except(df.c1, df.c2)).show()

+--------------------+
|array_except(c1, c2)|
+--------------------+
|                 [b]|
+--------------------+

Пример 5. Кроме пустых массивов

from pyspark.sql import Row, functions as sf
from pyspark.sql.types import ArrayType, StringType, StructField, StructType
data = [Row(c1=[], c2=["a", "b", "c"])]
schema = StructType([
  StructField("c1", ArrayType(StringType()), True),
  StructField("c2", ArrayType(StringType()), True)
])
df = spark.createDataFrame(data, schema)
df.select(sf.array_except(df.c1, df.c2)).show()

+--------------------+
|array_except(c1, c2)|
+--------------------+
|                  []|
+--------------------+