input_file_block_length

Возвращает длину считываемого блока или -1, если он недоступен.

Синтаксис

from pyspark.sql import functions as sf

sf.input_file_block_length()

Примеры

Пример 1. Получение длины блока входных файлов

from pyspark.sql import functions as sf
df = spark.read.text("python/test_support/sql/ages_newlines.csv", lineSep=",")
df.select(sf.input_file_block_length()).show()

+-------------------------+
|input_file_block_length()|
+-------------------------+
|                       87|
|                       87|
|                       87|
|                       87|
|                       87|
|                       87|
|                       87|
|                       87|
+-------------------------+