Forecasting Realized Volatility Using Data Normalization and Recurrent Neural Network

Abstract

We propose Recurrent Neural Network (RNN) based models on forecasting Realized Volatility (RV). The data used in forecast are RVs of ten financial assets, four from US, and six from Europe. We focus on forecasting relative ratio of RVs instead of the RV itself because a learning-based model typically shows out-of-scale issue. Observing the feature of asymmetry of RV ratio from data empirically, we address it by the Piecewise Min-max (PM) normalization. Two other normalizations using Min-Max scale and Gaussian mixture model are compared with PM normalization. For the forecast model, two architectures, Long Short-Term Memory (LSTM) and Gated Recurrent Unit (GRU), are used, and a bidirectional structure that can reflect the reverse information flow is applied to the two architectures. The hyperparameters of the LSTM and GRU are tuned by the nested cross validation. Forecasting through the RNN-based model are compared with those from the classical Autoregressive (AR) model. The RNN-based model with PM normalization is shown to outperform other methods including the AR model.;우리는 Recurrent Neural Network (RNN) 기반의 실현변동성 예측 모델을 제안한다. 예측에 사용된 데이터는 4개의 미국 자산, 6개의 영국 자산에서 비롯된 총 10 개의 금융 자산의 실현변동성이다. 딥러닝이 정규성이나 선형성 가정 없이 시계열 데이터에서 좋은 예측 성능을 보이는 최근의 추세에 따라 RNN을 실현변동성 예측에 적용한다. 학습 기반 모델은 일반적으로 예측 값이 훈련 데이터 범위 내에서 제한적이라는 out-of-scale 문제를 나타내기 때문에 실현변동성 값 자체 대신 이의 상대적 비율 예측에 중점을 둔다. 학습 기반의 딥러닝 모델은 주로 정규화 기법을 적용한 데이터를 이용하여, 본 연구에서는 세 가지 정규화 방법인 Min-Max, Gaussian Mixture Model (GMM), Piecewise Min-Max를 고려하였다. Min-Max 정규화는 데이터 범위를 [0, 1]로 선형적으로 확장하는 가장 간단한 방법이다. GMM 정규화는 데이터를 근사한 GMM 의 누적 분포 함수에 넣음으로써 수행되는데, 이 기법은 [0,1]에 균일하게 데이터를 분배하고 데이터의 고유한 확률적 특성과는 독립적으로 학습을 수행할 수 있게 한다. 마지막 방법인 Piecewise Min-Max는 위의 두 가지 기법의 장점을 결합한 정규화 방법이다. 데이터의 중앙값을 기반으로 두 개의 다른 최소-최대 스케일링을 데이터에 적용하는데, 이 방식으로 데이터의 치우침과 같은 비대칭현상을 정규화 이후 완화시킬 수 있다. 본 논문에서는 RNN에서 널리 사용되는 Long Short-Term Memory (LSTM)와 Gated Recurrent Unit (GRU)의 두 가지 아키텍처와 더불어 두 모델에 대한 bidirectional 구조를 고려하였다. 또한 시계열 데이터에 적합한 Nested CV를 적용하여 RNN의 설계 파라미터를 결정하였는데, 이때 CV 결과를 분석함으로써 데이터의 높은 무작위성에 의해 RNN 기반 모델이 정확한 값보다는 평균 값을 예측하는 경향을 보임을 관찰한였다. Min-Max 정규화는 치우친 데이터에 대한 최빈값 불일치를 나타내며 GMM 정규화는 예측 범위가 줄어든다. 따라서 본 논문에서는 데이터의 최빈값과 잘 일치하고 예측된 범위의 비율을 유지한다는 점에서 Piecewise Min-Max를 사용할 것을 제안한다. RNN 기반 모델을 통한 예측은 최종적으로 CV 과정에서 선정된 설계 파라미터를 이용하여 수행되며, 그 결과는 고전 AR(Autoregressive) 모델의 예측과 비교된다. Piecewise Min-Max 방법을 적용한 RNN 기반 모델은 RV의 상대적 비율의 예측에만 의존하는 평균절대 백분율 오차에서 AR 모델을 능가한다.