Time-MoE是創新的時間序列基礎模型，基于混合專家（Mixture of Experts, MoE）架構，將時間序列預訓練模型的參數規模擴展至十億級別。模型用稀疏激活機制，在預測任務中僅激活部分網絡節點，有效提升計算效率，降低計算成本。Time-MoE模型支持任意長度的輸入和輸出范圍，能處理從短期到長期的各種時序預測任務。模型在新引入的大規模數據集Time-300B上進行預訓練，包含超過3000億個時間點，覆蓋9個以上領域，是目前最大的公開時間序列數據集，為模型訓練提供豐富的多領域數據，確保其在多種任務中的卓越泛化能力。
Time-MoE的主要功能高精度時間序列預測：Time-MoE能進行高精度的時序預測，適于多種領域和應用場景。靈活的輸入輸出范圍：支持任意長度的輸入和輸出，適于從短期到長期的時序預測任務。多分辨率預測：能進行不同尺度的預測，提供模型靈活性。預訓練能力：在大規模數據集Time-300B上進行預訓練，捕捉復雜的時間依賴關系。泛化能力：基于多領域數據訓練，具備在不同任務中的卓越泛化能力。Time-MoE的技術原理混合專家架構（MoE）：基于稀疏激活機制，僅在預測時激活部分網絡節點，提高計算效率。自回歸運行方式：由僅解碼器的Transformer模型組成，支持靈活的預測范圍。點式分詞和編碼：時間序列數據被點式分詞、編碼，保持時間信息的完整性。多頭自注意力和稀疏混合專家層：用多頭自注意力機制和稀疏混合專家層處理編碼后的序列。多任務學習：在訓練時優化不同分辨率的預測頭，提升模型的泛化能力。Time-MoE的項目地址GitHub倉庫：https://github.com/Time-MoE/Time-MoEHuggingFace模型庫：https://huggingface.co/datasets/Maple728/Time-300B（Time-300B數據集）arXiv技術論文：https://arxiv.org/pdf/2409.16040Time-MoE的應用場景能源管理：預測電力需求、能源消耗或可再生能源產量，幫助優化能源分配和降低成本。金融預測：分析和預測股票市場價格、匯率或經濟指標，為投資決策提供支持。電商銷量：預測產品銷量，幫助企業進行庫存管理和銷售策略的調整。氣象預報：預測天氣變化，為農業、交通、旅游等行業提供重要的氣象信息。交通規劃：預測交通流量和擁堵情況，輔助城市交通管理和規劃。 
