使用Genie代码进行智能文档处理

Genie Code 通过协调解析、分类、提取和验证,构建文档处理流程的端到端。 指向非结构化PDF、合同或发票,它会根据标签数据评估质量并不断改进,这样你就能判断流水线是否已准备好生产。

要求

使用 Genie Code 处理文档:

  • 满足 Genie Code 智能体功能要求。
  • 满足 AI功能的要求。 文档处理函数(ai_parse_document、 ai_extract和 ai_classify)运行在无服务器计算或支持区域的SQL仓库上。
  • 让Unity Catalog能访问源文档的卷和结果的模式。

用Genie Code构建文档处理流水线

  1. 在“作业与管道”页面或SQL编辑器中打开Genie Code。
  2. 陈述你的目标并指向你的资料来源。 参考你的卷、表格和文件。
  3. 让它慢慢积累。 当 Genie Code 有足够的信息可供处理后,它会遵循最佳实践构建 Lakeflow 作业。
  4. 复习后立即行动。 查看生成的SQL和任务,编辑任何你想编辑的内容,准备好了再运行作业。
  5. 从小处开始,然后逐步扩大。 先对样本运行,审查输出,评估质量,并在处理完整数据集前反复迭代。

Genie Code 可以提供哪些帮助?

构建端到端的文档处理作业

描述预期结果,Genie Code 就会生成一个完整的 Lakeflow 作业,并且仅包含实现您的目标所需的阶段:

  • 发现卷中的源文件,并跟踪其标识及更改。
  • 将文档解析为带有ai_parse_document的结构化内容(文本、表格、图形和页面布局)。
  • 将每份文档归类到您自定义的标签下ai_classify(例如,联盟合作、营销或咨询合同)。
  • 针对 具有 ai_extract的模式提取结构化字段,包括引用次数和信心评分。
  • 发布干净、结构化的输出到 Unity Catalog 表中。

每个AI功能都是独立任务,所以工作保持模块化,你可以以后重新运行、补填或编辑。

通过评估和爬坡提升萃取质量

Genie Code把质量当作衡量标准,而不是猜测。 给定一个带标签的预期输出表,它运行现场级评估,然后闭合循环:

  • 度量。 逐场对当前提取场进行评分,这样你就能准确看到哪些场较弱。
  • 改进。 Genie Code 提出修正方案,通常是更清晰的字段描述,显示为可审核的差异,需你批准后才应用。
  • 重新评估。 每一次接受的变更都会重新运行评估集,并显示前后对比结果,因此改进和回归都可见。

这个循环会一直重复,直到质量达到你的标准,所以你判断准备度是基于分数和信心,而不是看起来合理的输出。

验证结果并转交异常

Genie Code 将质量门禁嵌入流程中。 它结合确定性检查(架构、必填字段、总计)、模型置信度和业务规则,据此判定哪些记录可以通过,并让未通过的行保持可见。

可视化调试你的文档

Genie Code 打开 文档解析界面 ,显示渲染页面与解析内容和提取字段并列。 用它来定位错误的结果:如果解析输出中缺少或文字混乱,问题出在解析或源文件。 如果文本已解析成功,但某个字段有误,那么问题出在提取环节。 无论哪种情况,在大规模推广之前,先在真实文档上进行验证。

检查并排查现有管道

Genie Code适用于你已有的管道,而不仅仅是新的。 它可以解释工作,审查设计和成本而不做任何更改,找出失败或缓慢阶段的根本原因,并在保持工作部件不动的情况下进行最小的修复。

示例提示

构建端到端的管道

  • 合同将显示在 @my_catalog.raw.contracts 中。 创建一个每日作业,将每份合同分类为联盟营销、营销、咨询、主机托管和第三方托管;提取每种合同类型中重要的字段;并写入黄金表。
  • “我有一大批扫描的发票。@my_catalog.raw.invoices 构建一个作业,解析这些数据,提取供应商、发票编号、明细和总计,并将结果写入表格。”

通过评估和爬山提升质量

  • 我怎么知道它是否足够好,能够处理数百万行数据? 根据我标注的表格 @my_catalog.default.eval_table 评估抽取结果,并告诉我哪些字段表现最差。
  • invoice_total 字段的准确性还可以更高。 迭代改进架构和指令,重新运行评估,并向我展示前后对比。
  • 根据评估结果为每个字段设置置信阈值,并将置信度低的行送交审核。

验证结果并转交异常

  • “添加验证功能,检查必需字段,并确保各项总和与发票总额相符,并保留失败的行。”
  • 将不符合业务规则(例如,已缴税款高于工资)的文档隔离到单独的表中,以供人工审核。

可视化调试你的文档

  • “把这些PDF的解析结果放到原始页面旁边,我好检查解析后的结果。”
  • “一些咨询合同的生效日期有误。 打开解析视图,让我判断是解析问题还是提取问题。”

检查并排查现有管道

  • “解释一下这份文件处理工作中的每个任务都做什么,结果写在哪里。”
  • “这个解析任务开始失败。 从最近的运行输出中找出原因,并建议最小的修复方案。”
  • “根据最佳实践审查这份文档处理流程设计,告诉我是否准备好在完整数据集上运行。”

其他资源