Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
Aplica una función a cada par clave-valor de un mapa y devuelve un mapa con los resultados de esas aplicaciones como los nuevos valores de los pares. Soporta Spark Connect.
Para obtener la función SQL de Databricks correspondiente, consulte transform_values function.
Syntax
from pyspark.databricks.sql import functions as dbf
dbf.transform_values(col=<col>, f=<f>)
Parámetros
| Parámetro | Tipo | Description |
|---|---|---|
col |
pyspark.sql.Column o str |
Nombre de columna o expresión. |
f |
function |
Una función binaria. |
Devoluciones
pyspark.sql.Column: un nuevo mapa de entradas en las que se calcularon nuevos valores aplicando la función dada a cada argumento de valor de clave.
Examples
from pyspark.databricks.sql import functions as dbf
df = spark.createDataFrame([(1, {"IT": 10.0, "SALES": 2.0, "OPS": 24.0})], ("id", "data"))
row = df.select(dbf.transform_values(
"data", lambda k, v: dbf.when(k.isin("IT", "OPS"), v + 10.0).otherwise(v)
).alias("new_data")).head()
sorted(row["new_data"].items())
[('IT', 20.0), ('OPS', 34.0), ('SALES', 2.0)]