提出了一种用于中长期时间序列预测的自适应时频网络(ATFN)，它是一种融合深度学习网络和频繁模式的端到端混合模型。在ATFN框架内，利用增广序列到序列模型学习复杂非平稳时间序列的趋势特征，利用频域块捕捉时间序列数据的动态和复杂周期模式，利用全连接神经网络将趋势和周期特征结合起来产生最终的预测。设计了相位自适应、频率自适应和幅度自适应的频率机制，将当前滑动窗口的频谱映射到预测区间的频谱。多层神经网络进行类似于反离散傅里叶变换的变换来生成周期性特征预测。利用不同周期特征的合成数据和实际数据来评估模型的有效性。实验结果表明，ATFN在长期时间序列预测中具有良好的性能和较强的适应性
【时间序列聚类|Adaptive Temporal-Frequency Network for Time-Series Forecasting（TKDE）】ADAPTIVE TEMPORAL-FREQUENCY NETWORK
ATFN是一种端到端的混合模型，融合了时间和频率信息，并使用滑动窗口进行动态时间序列预测
The ATFN is composed of three blocks: a time-domain block, a frequency-domain block, and a fully connected fusion block.
在时域块中，利用深度学习模型学习预测序列的趋势特征。在频域块中，频率编码器将时间序列分解为频谱。随后，自适应频率译码器对频谱进行自适应调整，然后将微调后的频谱在时域内转换回预测序列的周期性特征。融合块结合趋势和周期特征，以产生最终的预测。
ATFN模型是基于预测区间的序列数据与最新滑动窗口的序列数据最相关的假设。在ATFN模型中，通过动态自适应机制将当前滑动窗口的频谱映射到预测区间的频谱，而不是直接外推数据，以获得更好的动态特性和预测性能。
文章图片
Time-Domain Block
时域块的作用是捕捉预测序列的趋势特征
文章图片
Frequency-Domain Block
设计了由频率编码器和自适应频率译码器组成的频域块，用于捕获时间序列的频率模式和周期性。设计了一种自适应频率机制来调整深度神经网络实现的ATFN模型的频谱。
1）FrequencyEncoder
频率编码器将输入序列数据转换成一组频率分量，并将它们保存在一个存储矩阵中。
文章图片
文章图片
2）Adaptive FrequencyDecoder
文章图片
A two-layer neural network structure is used to approximately implements the function of the iDFT of Eq. (9).
文章图片
The frequency adaption is implicitly implemented by the first NN
文章图片
Amplitude adaption is implicitly implemented by the second NN.
文章图片
Fusion Block
利用一层神经网络将时域块的趋势分量特征和频域块的周期分量特征合并，生成时间序列的最终预测结果
文章图片
EXPERIMENTS
文章图片
Case 1: Toy Example
合成数据实验为评价不同方法的性能和ATFN不同成分的贡献提供了一种直观的方法。
文章图片
文章图片
文章图片
Ablation Study of Different Components
由于ATFN是一个混合模型，由不同的组件和三种自适应机制组成，对样例进行烧蚀实验，以验证每个组件在ATFN中的贡献。
文章图片
文章图片
实验
文章图片
部分跳过（文中的实验部分采用case study的方式进行验证）
推荐阅读
- 神经网络|RBF神经网络理论与实现
- 机器学习|西瓜书第五章学习笔记——神经网络
- 机器学习|机器学习西瓜书——第05章神经网络
- 机器学习|西瓜书——第五章神经网络
- python|超简单教你用Python克隆声音(以卷福为例)
- 神经网络|对CTC、RNA、RNN-T的理解
- CVPaper|计算机视觉论文-2021-09-09
- c++|飞桨框架v2.3发布高可复用算子库PHI！重构开发范式，降本增效
- pytorch|pytorch学习笔记（六）——pytorch中搭建神经网络