count

Возвращает количество элементов в группе.

Синтаксис

from pyspark.sql import functions as sf

sf.count(col)

Параметры

Параметр	Тип	Description
col	pyspark.sql.Column или имя столбца	Целевой столбец для вычисления.

Возвраты

pyspark.sql.Column: столбец для вычисляемых результатов.

Примеры

Пример 1. Подсчет всех строк в кадре данных

from pyspark.sql import functions as sf
df = spark.createDataFrame([(None,), ("a",), ("b",), ("c",)], schema=["alphabets"])
df.select(sf.count(sf.expr("*"))).show()

+--------+
|count(1)|
+--------+
|       4|
+--------+

Пример 2. Подсчет непустых значений в определенном столбце

from pyspark.sql import functions as sf
df.select(sf.count(df.alphabets)).show()

+----------------+
|count(alphabets)|
+----------------+
|               3|
+----------------+

Пример 3. Подсчет всех строк в кадре данных с несколькими столбцами

from pyspark.sql import functions as sf
df = spark.createDataFrame(
    [(1, "apple"), (2, "banana"), (3, None)], schema=["id", "fruit"])
df.select(sf.count(sf.expr("*"))).show()

+--------+
|count(1)|
+--------+
|       3|
+--------+

Пример 4. Подсчет значений, отличных от NULL, в нескольких столбцах

from pyspark.sql import functions as sf
df.select(sf.count(df.id), sf.count(df.fruit)).show()

+---------+------------+
|count(id)|count(fruit)|
+---------+------------+
|        3|           2|
+---------+------------+