Peramalan Deret Waktu Jangka Panjang Menggunakan Arsitektur Dualnet Transformer dengan Pendekatan Fast Learner (FRnet) dan Slow Learner (iTransformer)

Putra, Andika Laksana (2025) Peramalan Deret Waktu Jangka Panjang Menggunakan Arsitektur Dualnet Transformer dengan Pendekatan Fast Learner (FRnet) dan Slow Learner (iTransformer). Other thesis, Institut Teknologi Sepuluh Nopember.

Text 5025211001-Undergraduate_Thesis.pdf Restricted to Repository staff only Download (7MB) | Request a copy

Abstract

Prediksi deret waktu jangka panjang merupakan proses untuk memproyeksikan nilai di masa depan berdasarkan pola historis dengan cakupan waktu yang jauh ke depan. Salah satu tantangan pada prediksi deret waktu jangka panjang adalah kompleksitas yang tinggi ketika menangkap pola global sebagai dependensi jangka panjang serta pola temporal yang merepresentasikan periodisitas deret waktu. Penelitian ini mengusulkan arsitektur DualNet Transformer yang menggabungkan pendekatan komponen fast learner dan slow learner dengan nama FusionNet. Model FRNet digunakan sebagai fast learner untuk melakukan prediksi melalui mekanisme rotasi pada domain frekuensi. Kemudian model iTransformer berperan sebagai slow learner dengan pembelajaran self-supervised untuk menangkap representasi umum pada data dengan bantuan strategi Controlled Reconstruction Loss untuk menurunkan error dengan kompleksitas yang tinggi pada data. Metode yang diusulkan akan dievaluasi menggunakan tiga dataset uji (ETT, Exchange Rate, dan Weather) dengan metrik evaluasi MSE dan MAE. Tiap dataset uji memiliki karakteristik data yang bervariasi. Exchange Rate memiliki sifat data yang non-stationer tanpa pola periodik, ETT memiliki karakteristik pola periodik yang teratur, dan Weather memiliki dimensi yang besar dan stationer tanpa pola periodik. Hasil penelitian menunjukkan bahwa model FusionNet mampu memberikan prediksi deret waktu jangka panjang dengan nilai error yang lebih rendah dibandingkan dengan model state-of-the-art lainnya seperti PatchTST, FRNet, iTransformer, dan, Informer dengan rata-rata penurunan MSE dan MAE masing-masing mencapai 0,273 dan 0,325 yang didukung oleh uji statistik T dengan t-stat bernilai positif. Uji T juga membuktikan penurunan signifikan nilai MSE dan MAE model FusionNet terhadap model FRNet, iTransformer, dan Informer, sedangkan terhadap PatchTST hanya terjadi penurunan signifikan pada nilai MSE yang ditunjukkan melalui perhitungan p-value dibawah 0,05. Dengan demikian, model FusionNet berhasil menurunkan error prediksi deret waktu jangka panjang, terutama pada kompleksitas data yang bervariasi, seperti fluktuatif, dimensi yang besar, dan pola periodik yang teratur.
==================================================================================================================================
Long-term time series forecasting is the process of projecting future values based on historical patterns over an extended horizon. A major challenge in this task is the high complexity involved in capturing global patterns as long-term dependencies, as well as temporal patterns that reflect the periodicity of the data. This study proposes a DualNet Transformer architecture that integrates fast learner and slow learner components named FusionNet. The FRNet model serves as the fast learner, performing predictions through a frequency-domain rotation mechanism. Meanwhile, the iTransformer acts as the slow learner, using self-supervised learning to capture general data representations, supported by a Controlled Reconstruction Loss strategy to reduce errors in highly complex data. The proposed method is evaluated on three benchmark datasets—ETT, Exchange Rate, and Weather—using Mean Squared Error (MSE) and Mean Absolute Error (MAE) as evaluation metrics. Each test dataset has different data characteristics: Exchange Rate is non-stationary without periodic patterns; ETT has regular periodic patterns; and Weather is high-dimensional and stationary without periodicity. The experimental results demonstrate that the FusionNet model
delivers lower long-term time series forecasting errors compared to other state-of-the-art models such as PatchTST, FRNet, iTransformer, and Informer. On average, FusionNet achieves reductions in MSE and MAE of 0.273 and 0.325, respectively, as supported by statistical T-tests with positive t-stat values. The T-test also confirms that the reductions in MSE and MAE by FusionNet are statistically significant when compared to FRNet, iTransformer, and Informer. Against PatchTST, a significant reduction is observed only in MSE, as indicated by p-values below 0.05. Therefore, FusionNet effectively reduces long-term forecasting errors, particularly under varying data complexities such as high volatility, high dimensionality, and regular periodic patterns.

Item Type:	Thesis (Other)
Uncontrolled Keywords:	Ensemble learning, FRNet, iTransformer, Prediksi deret waktu, Transformer, Time series forecasting, Transformer.
Subjects:	Q Science > QA Mathematics > QA76.87 Neural networks (Computer Science)
Divisions:	Faculty of Intelligent Electrical and Informatics Technology (ELECTICS) > Informatics Engineering > 55201-(S1) Undergraduate Thesis
Depositing User:	Andika Laksana Putra
Date Deposited:	04 Jun 2025 07:57
Last Modified:	04 Jun 2025 07:57
URI:	http://repository.its.ac.id/id/eprint/119139

Actions (login required)

View Item