matriz

Cria uma nova coluna de array a partir das colunas fornecidas ou dos nomes das colunas.

Sintaxe

from pyspark.sql import functions as sf

sf.array(*cols)

Parâmetros

Parâmetro	Tipo	Description
cols	pyspark.sql.Column ou str	Nomes de coluna ou objetos Column que têm o mesmo tipo de dados.

Devoluções

pyspark.sql.Column: uma nova coluna do tipo de matriz, em que cada valor é uma matriz que contém os valores correspondentes das colunas de entrada.

Exemplos

Exemplo 1: uso básico da função de matriz com nomes de coluna.

from pyspark.sql import functions as sf
df = spark.createDataFrame([("Alice", "doctor"), ("Bob", "engineer")],
    ("name", "occupation"))
df.select(sf.array('name', 'occupation')).show()

+-----------------------+
|array(name, occupation)|
+-----------------------+
|        [Alice, doctor]|
|        [Bob, engineer]|
+-----------------------+

Exemplo 2: Uso da função de matriz com objetos Column.

from pyspark.sql import functions as sf
df = spark.createDataFrame([("Alice", "doctor"), ("Bob", "engineer")],
    ("name", "occupation"))
df.select(sf.array(df.name, df.occupation)).show()

+-----------------------+
|array(name, occupation)|
+-----------------------+
|        [Alice, doctor]|
|        [Bob, engineer]|
+-----------------------+

Exemplo 3: argumento único como lista de nomes de coluna.

from pyspark.sql import functions as sf
df = spark.createDataFrame([("Alice", "doctor"), ("Bob", "engineer")],
    ("name", "occupation"))
df.select(sf.array(['name', 'occupation'])).show()

+-----------------------+
|array(name, occupation)|
+-----------------------+
|        [Alice, doctor]|
|        [Bob, engineer]|
+-----------------------+

Exemplo 4: Uso da função de matriz com colunas de diferentes tipos.

from pyspark.sql import functions as sf
df = spark.createDataFrame(
    [("Alice", 2, 22.2), ("Bob", 5, 36.1)],
    ("name", "age", "weight"))
df.select(sf.array(['age', 'weight'])).show()

+------------------+
|array(age, weight)|
+------------------+
|       [2.0, 22.2]|
|       [5.0, 36.1]|
+------------------+

Exemplo 5: função de matriz com uma coluna que contém valores nulos.

from pyspark.sql import functions as sf
df = spark.createDataFrame([("Alice", None), ("Bob", "engineer")],
    ("name", "occupation"))
df.select(sf.array('name', 'occupation')).show()

+-----------------------+
|array(name, occupation)|
+-----------------------+
|          [Alice, NULL]|
|        [Bob, engineer]|
+-----------------------+