Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
Interfaz para construir la configuración de la sesión.
Syntax
builder
Methods
| Método | Descripción |
|---|---|
appName(name) |
Establece un nombre para la aplicación, que aparece en la interfaz web de Spark. |
create() |
Crea una nueva sparkSession. |
config(key, value, conf, map) |
Establece una opción de configuración. Las opciones se propagan automáticamente a la configuración propia de SparkConf y SparkSession. |
enableHiveSupport() |
Habilita la compatibilidad con Hive, incluida la conectividad a un metastore de Hive persistente. |
getOrCreate() |
Obtiene una sparkSession existente o, si no hay ninguna existente, crea una nueva basada en las opciones establecidas en este generador. |
master(master) |
Establece la dirección URL maestra de Spark a la que se va a conectar. |
remote(url) |
Establece la dirección URL remota de Spark para conectarse a través de Spark Connect. |
Examples
spark = (
SparkSession.builder
.master("local")
.appName("Word Count")
.config("spark.some.config.option", "some-value")
.getOrCreate()
)
spark.sql("SELECT * FROM range(10) where id > 7").show()
+---+
| id|
+---+
| 8|
| 9|
+---+
spark.createDataFrame([('Alice', 1)], ['name', 'age']).show()
+-----+---+
| name|age|
+-----+---+
|Alice| 1|
+-----+---+
spark.range(1, 7, 2).show()
+---+
| id|
+---+
| 1|
| 3|
| 5|
+---+