array_insert

Insere um item em uma determinada matriz em um índice de matriz especificado. Os índices de matriz começam em 1 ou começam a partir do final, se o índice for negativo. O índice acima do tamanho da matriz acrescenta a matriz ou acrescenta a matriz se o índice for negativo, com elementos 'null'.

Sintaxe

from pyspark.sql import functions as sf

sf.array_insert(arr, pos, value)

Parâmetros

Parâmetro	Tipo	Description
arr	pyspark.sql.Column ou str	Nome da coluna que contém uma matriz
pos	pyspark.sql.Column, str ou int	Nome da coluna de tipo numérico indicando a posição da inserção (começando no índice 1, a posição negativa é um início da parte de trás da matriz)
value	Qualquer	Um valor literal ou uma expressão Column.

Devoluções

pyspark.sql.Column: uma matriz de valores, incluindo o novo valor especificado

Exemplos

Exemplo 1: inserir um valor em uma posição específica

from pyspark.sql import functions as sf
df = spark.createDataFrame([(['a', 'b', 'c'],)], ['data'])
df.select(sf.array_insert(df.data, 2, 'd')).show()

+------------------------+
|array_insert(data, 2, d)|
+------------------------+
|            [a, d, b, c]|
+------------------------+

Exemplo 2: Inserindo um valor em uma posição negativa

from pyspark.sql import functions as sf
df = spark.createDataFrame([(['a', 'b', 'c'],)], ['data'])
df.select(sf.array_insert(df.data, -2, 'd')).show()

+-------------------------+
|array_insert(data, -2, d)|
+-------------------------+
|             [a, b, d, c]|
+-------------------------+

Exemplo 3: Inserir um valor em uma posição maior que o tamanho da matriz

from pyspark.sql import functions as sf
df = spark.createDataFrame([(['a', 'b', 'c'],)], ['data'])
df.select(sf.array_insert(df.data, 5, 'e')).show()

+------------------------+
|array_insert(data, 5, e)|
+------------------------+
|      [a, b, c, NULL, e]|
+------------------------+

Exemplo 4: Inserindo um valor NULL

from pyspark.sql import functions as sf
df = spark.createDataFrame([(['a', 'b', 'c'],)], ['data'])
df.select(sf.array_insert(df.data, 2, sf.lit(None))).show()

+---------------------------+
|array_insert(data, 2, NULL)|
+---------------------------+
|            [a, NULL, b, c]|
+---------------------------+

Exemplo 5: Inserindo um valor em uma matriz NULL

from pyspark.sql import functions as sf
from pyspark.sql.types import ArrayType, IntegerType, StructType, StructField
schema = StructType([StructField("data", ArrayType(IntegerType()), True)])
df = spark.createDataFrame([(None,)], schema=schema)
df.select(sf.array_insert(df.data, 1, 5)).show()

+------------------------+
|array_insert(data, 1, 5)|
+------------------------+
|                    NULL|
+------------------------+