PatchTST的官方实现:“一个时间序列抵得上64个词:基于Transformer的长期预测。”(ICLR 2023)https://arxiv.org/abs/2211.14730
PatchTST的官方实现:“一个时间序列抵得上64个词:基于Transformer的长期预测。”(ICLR 2023)https://arxiv.org/abs/2211.14730
:triangular_flag_on_post: 我们的模型已被纳入 GluonTS。特别感谢贡献者 @kashif! :triangular_flag_on_post: 我们的模型已被收录进 NeuralForecast。特别感谢贡献者 @kdgutier 和 @cchallu! :triangular_flag_on_post: 我们的模型已被纳入 timeseriesAI(tsai)。特别感谢贡献者 @oguiza!
我们提供了一段视频,简要概述了我们的论文,供希望快速了解其内容的读者观看:https://www.youtube.com/watch?v=Z3-NrohddJw
:star2: 分块(Patching):将时间序列分割为子序列级别的块,作为输入令牌传递给 Transformer。
:star2: 通道独立性(Channel-independence):每个通道包含一个单变量时间序列,所有序列共享相同的嵌入和 Transformer 权重。
与基于Transformer的模型所能提供的最佳结果相比,PatchTST/64在MSE上总体降低了21.0%,在MAE上总体降低了16.7%,而PatchTST/42在MSE上总体降低了20.2%,在MAE上总体降低了16.4%。它同样优于其他非基于Transformer的模型,如DLinear。
我们与其他监督和自监督模型进行了比较,自监督的PatchTST能够超越所有基线模型。
我们还测试了将预训练模型迁移到下游任务的能力。
我们的 PatchTST 随着回溯窗口的增加,持续降低 MSE 分数,这证实了我们的模型具备从更长感受野中学习的能力。
我们
暂无开放 Issues,或尚未同步最近议题。