在Unity Catalog中存储、管理和处理非结构化文件,如文档、图片、音频和视频,以及结构化数据。
开始
试着用一个端到尾的例子,看看各个部分如何拼接在一起。
| 指南 | 说明 |
|---|---|
| FILE 函数快速启动 | 创建一个带有 FILE 列的表格,并用 FILE 函数处理文件。 |
| 非结构化数据教程 | 使用Unity Catalog卷存储、查询、处理和共享非结构化文件。 |
存储和参考文件
根据你是通过路径访问还是以表中的值访问,选择如何存储和引用文件。
| 方法 | 说明 |
|---|---|
| Unity Catalog 卷 | 管理非表格文件的存储。 通过路径上传、整理和访问卷内的文件。 |
| 文件类型 | 将引用文件及其元数据作为表中的一类值,其治理通过引用它们的行的访问权限实现。 关于类型定义,请参见 FILE 类型引用。 |
| 二进制数据源 | 将文件的原始字节存储在列 BINARY 中。 |
| 图像数据来源 | 将图像文件读取到DataFrame中。 |
进程文件
在你把文件存入 Unity 目录后,提取内容,运行自定义代码,构建管道。
| 任务 | 说明 |
|---|---|
| 解析文档 | 借助 ai_parse_document 和其他 AI 功能从文档中提取结构化内容。 |
| 带有UDF的进程文件 | 读取文件元数据和字节,并在 UDF 中使用你自己的代码生成新文件。 |
| 将文件作为 FILE 引用导入 | 将文件作为 FILE 引用加载到表中。 |
| 构建文件流水线 | 在管道中对文件进行端到端处理。 |
| 在卷中搜索文件 | 将文件卷中索引,方便用户和代理搜索。 |
治理文件
控制谁可以访问文件并管理其生命周期,使用 Unity Catalog。
| 能力 | 说明 |
|---|---|
| 音量访问控制 | 授予对卷的权限,以控制谁可以通过路径读取和写入文件。 |
| 文件管理生命周期 | 让 Azure Databricks 管理表所引用文件的存储和生命周期。 |
| FILE 列上的行筛选器 | 通过对引用文件的行应用行过滤器来限制访问文件。 |