Genie Code 通过协调解析、分类、提取和验证,构建文档处理流程的端到端。 指向非结构化PDF、合同或发票,它会根据标签数据评估质量并不断改进,这样你就能判断流水线是否已准备好生产。
要求
使用 Genie Code 处理文档:
- 满足 Genie Code 智能体功能要求。
- 满足 AI功能的要求。 文档处理函数(
ai_parse_document、ai_extract和ai_classify)运行在无服务器计算或支持区域的SQL仓库上。 - 让Unity Catalog能访问源文档的卷和结果的模式。
用Genie Code构建文档处理流水线
- 在“作业与管道”页面或SQL编辑器中打开Genie Code。
- 陈述你的目标并指向你的资料来源。 参考你的卷、表格和文件。
- 让它慢慢积累。 当 Genie Code 有足够的信息可供处理后,它会遵循最佳实践构建 Lakeflow 作业。
- 复习后立即行动。 查看生成的SQL和任务,编辑任何你想编辑的内容,准备好了再运行作业。
- 从小处开始,然后逐步扩大。 先对样本运行,审查输出,评估质量,并在处理完整数据集前反复迭代。
Genie Code 可以提供哪些帮助?
构建端到端的文档处理作业
描述预期结果,Genie Code 就会生成一个完整的 Lakeflow 作业,并且仅包含实现您的目标所需的阶段:
- 发现卷中的源文件,并跟踪其标识及更改。
-
将文档解析为带有
ai_parse_document的结构化内容(文本、表格、图形和页面布局)。 - 将每份文档归类到您自定义的标签下
ai_classify(例如,联盟合作、营销或咨询合同)。 -
针对 具有
ai_extract的模式提取结构化字段,包括引用次数和信心评分。 - 发布干净、结构化的输出到 Unity Catalog 表中。
每个AI功能都是独立任务,所以工作保持模块化,你可以以后重新运行、补填或编辑。
通过评估和爬坡提升萃取质量
Genie Code把质量当作衡量标准,而不是猜测。 给定一个带标签的预期输出表,它运行现场级评估,然后闭合循环:
- 度量。 逐场对当前提取场进行评分,这样你就能准确看到哪些场较弱。
- 改进。 Genie Code 提出修正方案,通常是更清晰的字段描述,显示为可审核的差异,需你批准后才应用。
- 重新评估。 每一次接受的变更都会重新运行评估集,并显示前后对比结果,因此改进和回归都可见。
这个循环会一直重复,直到质量达到你的标准,所以你判断准备度是基于分数和信心,而不是看起来合理的输出。
验证结果并转交异常
Genie Code 将质量门禁嵌入流程中。 它结合确定性检查(架构、必填字段、总计)、模型置信度和业务规则,据此判定哪些记录可以通过,并让未通过的行保持可见。
可视化调试你的文档
Genie Code 打开 文档解析界面 ,显示渲染页面与解析内容和提取字段并列。 用它来定位错误的结果:如果解析输出中缺少或文字混乱,问题出在解析或源文件。 如果文本已解析成功,但某个字段有误,那么问题出在提取环节。 无论哪种情况,在大规模推广之前,先在真实文档上进行验证。
检查并排查现有管道
Genie Code适用于你已有的管道,而不仅仅是新的。 它可以解释工作,审查设计和成本而不做任何更改,找出失败或缓慢阶段的根本原因,并在保持工作部件不动的情况下进行最小的修复。
示例提示
构建端到端的管道
- 合同将显示在
@my_catalog.raw.contracts中。 创建一个每日作业,将每份合同分类为联盟营销、营销、咨询、主机托管和第三方托管;提取每种合同类型中重要的字段;并写入黄金表。 - “我有一大批扫描的发票。
@my_catalog.raw.invoices构建一个作业,解析这些数据,提取供应商、发票编号、明细和总计,并将结果写入表格。”
通过评估和爬山提升质量
- 我怎么知道它是否足够好,能够处理数百万行数据? 根据我标注的表格
@my_catalog.default.eval_table评估抽取结果,并告诉我哪些字段表现最差。 -
invoice_total字段的准确性还可以更高。 迭代改进架构和指令,重新运行评估,并向我展示前后对比。 - 根据评估结果为每个字段设置置信阈值,并将置信度低的行送交审核。
验证结果并转交异常
- “添加验证功能,检查必需字段,并确保各项总和与发票总额相符,并保留失败的行。”
- 将不符合业务规则(例如,已缴税款高于工资)的文档隔离到单独的表中,以供人工审核。
可视化调试你的文档
- “把这些PDF的解析结果放到原始页面旁边,我好检查解析后的结果。”
- “一些咨询合同的生效日期有误。 打开解析视图,让我判断是解析问题还是提取问题。”
检查并排查现有管道
- “解释一下这份文件处理工作中的每个任务都做什么,结果写在哪里。”
- “这个解析任务开始失败。 从最近的运行输出中找出原因,并建议最小的修复方案。”
- “根据最佳实践审查这份文档处理流程设计,告诉我是否准备好在完整数据集上运行。”