Formato de parquet en Data Factory en Microsoft Fabric

En este artículo se describe cómo configurar el formato Parquet en la canalización de datos de Data Factory en Microsoft Fabric.

Funcionalidades admitidas

El formato Parquet es compatible con las siguientes actividades y conectores como origen y destino.

Category Conector/Actividad
Conector compatible Amazon S3
Azure Blob Storage
Azure Data Lake Storage Gen1
Azure Data Lake Storage Gen2
Google Cloud Storage
HTTP
Actividad compatible Actividad de copia
Actividad de búsqueda
Actividad GetMetadata
Actividad de eliminación

Formato Parquet en la actividad de copia

Para configurar el formato de Parquet, elija la conexión en el origen o destino de la actividad de copia de la canalización de datos y, a continuación, seleccione Parquet en la lista desplegable de Formato de archivo . Seleccione Configuración para una configuración adicional de este formato.

Screenshot showing file format settings.

Formato Parquet como origen

Después de seleccionar Configuración en la sección Formato de archivo , se muestran las siguientes propiedades en el cuadro de diálogo emergente Configuración de formato de archivo .

Screenshot showing parquet file format source.

  • Tipo de compresión : elija el códec de compresión utilizado para leer los archivos de Parquet en la lista desplegable. Puede elegir entre Ninguno, gzip (.gz), snappy, lzo , Brotli (.br), Zstandard, lz4, lz4frame , bzip2 (.bz2) o lz4hadoop .

Formato Parquet como destino

Después de seleccionar Configuración, se muestran las siguientes propiedades en el cuadro de diálogo emergente Configuración de formato de archivo .

Screenshot showing parquet file format destination.

  • Tipo de compresión : elija el códec de compresión utilizado para escribir los archivos de Parquet en la lista desplegable. Puede elegir entre Ninguno, gzip (.gz), snappy, lzo , Brotli (.br), Zstandard, lz4, lz4frame , bzip2 (.bz2) o lz4hadoop .

  • Usar V-Order : habilite una optimización del tiempo de escritura en el formato de archivo de parquet. Para obtener más información, consulte Optimización de la tabla de Delta Lake yV-Order . Está habilitada de forma predeterminada.

En la configuración Avanzada de la ficha Destino, se muestran las siguientes propiedades relacionadas con el formato de Parquet.

  • Máximo de filas por archivo: al escribir datos en una carpeta, puede elegir escribir en varios archivos y especificar el máximo de filas por archivo. Especifique las filas máximas que desea escribir por archivo.
  • Prefijo de nombre de archivo: aplicable cuando se configura Número máximo de filas por archivo. Especifique el prefijo de nombre de archivo al escribir datos en varios archivos, lo que da como resultado este patrón: <fileNamePrefix>_00000.<fileExtension>. Si no se especifica, el prefijo de nombre de archivo se genera automáticamente. Esta propiedad no se aplica cuando el origen es un almacén basado en archivos o una opción de partición habilitada para el almacén de datos.

Resumen de tabla

Parquet como origen

Las siguientes propiedades se admiten en la sección Origen de la actividad de copia cuando se utiliza el formato Parquet.

Nombre Descripción Value Obligatorio Propiedad de script JSON
Formato de archivo El formato de archivo que quiere usar. Parquet tipo (en datasetSettings):
Parquet
Tipo de compresión El códec de compresión utilizado para leer los archivos de Parquet. Elija entre las siguientes opciones:
Ninguna
gzip (.gz)
snappy
lzo
Brotli (.br)
Zstandard
lz4
lz4frame
bzip2 (.bz2)
lz4hadoop
No compressionCodec:

gzip
snappy
lzo
brotli
zstd
lz4
lz4frame
bz2
lz4hadoop

Parquet como destino

Las siguientes propiedades se admiten en la sección Destino de la actividad de copia cuando se utiliza el formato Parquet.

Nombre Descripción Value Obligatorio Propiedad de script JSON
Formato de archivo El formato de archivo que quiere usar. Parquet tipo (en datasetSettings):
Parquet
Usar V-Order Optimización del tiempo de escritura en el formato de archivo parquet. seleccionado o no seleccionado No enableVertiParquet
Tipo de compresión El códec de compresión utilizado para escribir archivos Parquet. Elija entre las siguientes opciones:
Ninguna
gzip (.gz)
snappy
lzo
Brotli (.br)
Zstandard
lz4
lz4frame
bzip2 (.bz2)
lz4hadoop
No compressionCodec:

gzip
snappy
lzo
brotli
zstd
lz4
lz4frame
bz2
lz4hadoop
Número máximo de filas por archivo Al escribir datos en una carpeta, puede optar por escribir en varios archivos y especificar el número máximo de filas por archivo. Especifique las filas máximas que desea escribir por archivo. <las filas máximas por archivo> No maxRowsPerFile
Prefijo de nombre de archivo Se aplica cuando Número máximo de filas por archivo está configurado. Especifique el prefijo de nombre de archivo al escribir datos en varios archivos, lo que da como resultado este patrón: <fileNamePrefix>_00000.<fileExtension>. Si no se especifica, el prefijo de nombre de archivo se genera automáticamente. Esta propiedad no se aplica cuando el origen es un almacén basado en archivos o una opción de partición habilitada para el almacén de datos. < el prefijo del nombre de archivo > No fileNamePrefix