UserDefinedFunction (ПользовательскаяФункция)

Определяемая пользователем функция в Python.

Конструктор этого класса не должен вызываться напрямую. Используйте pyspark.sql.functions.udf или pyspark.sql.functions.pandas_udf создайте экземпляр.

Синтаксис

from pyspark.sql.functions import udf
from pyspark.sql.types import StringType

my_udf = udf(lambda x: x.upper(), StringType())

Свойства

Недвижимость	Описание
returnType	Возвращаемый тип определяемой пользователем функции как DataType.

Методы

Метод	Описание
asNondeterministic()	Обновляет UserDefinedFunction на недетерминированное.

Примеры

from pyspark.sql.functions import udf
from pyspark.sql.types import StringType

upper_udf = udf(lambda x: x.upper(), StringType())
df = spark.createDataFrame([("alice",), ("bob",)], ["name"])
df.select(upper_udf("name")).show()

+-----------+
|<lambda>(name)|
+-----------+
|      ALICE|
|        BOB|
+-----------+

import random
from pyspark.sql.functions import udf
from pyspark.sql.types import IntegerType

random_udf = udf(lambda: random.randint(0, 100), IntegerType()).asNondeterministic()
random_udf.returnType

IntegerType()