ai_extract

Extrai dados estruturados de uma coluna de documento usando IA/LLM.

Para a função SQL do Databricks correspondente, consulte a função ai_extract.

Sintaxe

from pyspark.sql import functions as dbf

dbf.ai_extract(col=<col>, schema=<schema>, options=<options>)

Parameters

Parâmetro Tipo Descrição
col pyspark.sql.Column ou str Uma coluna que contém o conteúdo do documento do qual extrair.
schema dict ou list Um ditado Python (nome do campo para {"type": ..., "description": ...}) ou uma lista de cadeias de caracteres de nome de campo. Serializado para um literal JSON automaticamente.
options dictopcional Um dicionário de opções para controlar o comportamento de extração.

Returns

pyspark.sql.Column: uma nova coluna de VariantType que contém os campos extraídos.

Exemplos

df.select(ai_extract("text", {"name": {"type": "string", "description": "Name"}}))
df.select(ai_extract("text", ["name", "age"]))