介绍 Microsoft Fabric 实时中心
将数据引入实时中心
实时中心充当用于发现和控制流式处理数据流的网关。 它是一个动态目录,其中包括:
- 事件流:获取对 Fabric 中你可以查看的所有活动事件流的访问权限。
- Microsoft 源:快速查找和配置可用的流式处理源,例如 Azure 事件中心、Azure IoT 中心,以及 Azure SQL DB、Azure Cosmos DB 和 PostgreSQL DB 中的各种变更数据捕获 (CDC) 选项。
- Fabric 事件:使用事件驱动的功能进行即时通知和数据处理。 密切关注从 Fabric 工作区项到 Azure Blob 存储的事件,这些事件可以启动后续流程或工作流。 此操作可能涉及到启动数据管道或发送电子邮件警报。 此外,你还可以灵活地通过事件流将这些事件路由到不同的目标。 警报允许你选择 “设置警报”按钮,通过实时中心在工作区内部和外部进行交互。
所有这些信息都以易于理解的格式呈现,确保与 Fabric 工作负载无缝集成。
事件流溯源
使用 Microsoft Fabric 实时智能体验的事件流功能,可将实时事件无缝集成到 Fabric 中。 你可以创建事件流(Fabric 中的实例)、添加事件数据源、对数据应用可选的转换,并将其路由到各个目标,所有这些操作都不需要编写代码。 这种无代码方法简化了在 Fabric 中管理事件数据的过程。
处理事件流中的事件
拖放式界面提供了一种简单且用户友好的方法来构造事件数据工作流。 这包括处理、转换和路由,所有这些操作都不需要编写代码。 事件流的数据流图表清晰直观地表示了数据的旅程和结构。 此外,事件处理器编辑器的无代码环境允许你通过将元素拖放到适当位置,来方便地设计事件数据处理逻辑。
- 转换说明
创建启用增强功能的事件流时,所有目标都支持转换操作。 如果没有增强功能,转换仅适用于湖屋和 KQL 数据库目标,这些目标在引入之前会处理事件。
- 筛选:使用“筛选”转换可以根据输入中的字段值筛选事件。 根据数据类型(数字或文本),转换将保留与所选条件(例如
null
或is not null
)匹配的值。 - 管理字段:使用此转换可以添加、删除、更改数据类型,或重命名来自输入或其他转换的字段。
- 聚合:使用“聚合”转换可以在一段时间内每次发生新事件时计算聚合(总和、最小值、最大值或平均值)。 此操作还允许重命名这些计算列,并根据数据中的其他维度筛选或切片聚合。 在同一转换中可以有一个或多个聚合。
- 分组依据:使用分组依据转换来计算某个时间窗口内所有事件的聚合。 可以按一个或多个字段中的值进行分组。 就像聚合转换允许重命名列一样,但提供了更多聚合选项,并包含更复杂的时间窗口选项。 与“聚合”类似,你可以为每个转换添加多个聚合。
- 联合:使用“联合”转换可以连接两个或多个节点,并将具有共享字段(具有相同名称和数据类型)的事件添加到一个表中。 不匹配的字段将被删除,不包含在输出中。
- 扩展:使用此数组转换可为数组中的每个值创建一个新行。
- 联接:使用此转换可以根据两个流之间的匹配条件合并这两个流中的数据。
标准目标位置
我们可以看到,如果不选择增强功能,我们的目标就会受到限制。
目标 | 说明 |
---|---|
自定义应用 | 借助此功能,可将实时事件流量无缝定向到定制应用程序。 它可以将专有应用程序与事件流集成,从而可以立即使用事件数据。 如果你打算将实时数据传输到不是托管在 Microsoft Fabric 上的独立系统,此功能非常有利。 |
Lakehouse | 此目标使你能够在将实时事件引入湖屋之前对其进行预处理。 事件将转换为 Delta Lake 格式,然后存储在特定的湖屋表中,从而有助于满足数据仓储需求。 有关利用事件处理器进行实时数据处理的详细指导,请参阅“使用事件处理器编辑器处理事件数据”部分。 |
KQL 数据库 | 此目标提供将实时事件数据导入 KQL 数据库的功能,使你能够利用强大的 Kusto 查询语言 (KQL) 进行数据查询和分析。 将数据存放在 KQL 数据库中可以解锁对事件数据的增强理解以及创建综合报表和仪表板的潜力。 可以在两种数据引入方法之间灵活选择:直接引入,或者在引入之前对事件进行预处理。 |
Reflex | 此目标有助于将实时事件数据与 Reflex 直接关联。 Reflex 是一个智能实体,它配备了建立数据连接、监视特定条件和执行操作所需的所有详细信息。 当事件数据满足某些预定义条件或标识了特定模式时,Reflex 会自动启动适当的响应,例如通知用户或触发 Power Automate 工作流。 |
增强的目标位置
选择增强功能后,可以使用标准目标以及派生的流。
目标 | 说明 |
---|---|
派生流 | 派生的流是在将流操作(例如“筛选”或“管理字段”)应用于事件流后创建的专用目标。 它表示处理后更改的默认流,可以路由到 Fabric 中的各个目标并在实时中心进行监视。 |
现在可以同时连接到事件流中的多个目标,而不会相互影响或冲突。