剧集
分阶段 LSTM：加速长序列或基于事件的序列的循环网络训练
替换为 Daniel Niel
循环神经网络（RNN）已成为从时态序列中提取模式的最先进的选择。 当前的 RNN 模型不适合处理传感器或其他神经元连续生成的事件触发的异常采样数据。 例如，当输入来自新的事件驱动的人工传感器（生成稀疏、异步事件流或具有不同更新间隔的多个传统传感器）时，可能会发生此类数据。 在此工作中，我们将介绍分阶段 LSTM 模型，该模型通过添加新的时间门来扩展 LSTM 单元。 此门由参数化振荡控制，频率范围仅在周期的一小部分期间需要更新内存单元。 即使在振荡施加的稀疏更新的情况下，分阶段 LSTM 网络在需要学习长序列的任务上实现比常规 LSTM 更快的收敛速度。 该模型自然地集成来自任意采样率传感器的输入，从而打开了用于处理携带计时信息的异步传感器事件的新调查领域。 它还大大提高了标准 RNN 应用程序中 LSTM 的性能，并且计算数量级更少。
循环神经网络（RNN）已成为从时态序列中提取模式的最先进的选择。 当前的 RNN 模型不适合处理传感器或其他神经元连续生成的事件触发的异常采样数据。 例如，当输入来自新的事件驱动的人工传感器（生成稀疏、异步事件流或具有不同更新间隔的多个传统传感器）时，可能会发生此类数据。 在此工作中，我们将介绍分阶段 LSTM 模型，该模型通过添加新的时间门来扩展 LSTM 单元。 此门由参数化振荡控制，频率范围仅在周期的一小部分期间需要更新内存单元。 即使在振荡施加的稀疏更新的情况下，分阶段 LSTM 网络在需要学习长序列的任务上实现比常规 LSTM 更快的收敛速度。 该模型自然地集成来自任意采样率传感器的输入，从而打开了用于处理携带计时信息的异步传感器事件的新调查领域。 它还大大提高了标准 RNN 应用程序中 LSTM 的性能，并且计算数量级更少。
想提供反馈？ 在此处提交问题。