On a sparse directional regression

Abstract

Big data means not only that the observations of data increase, but also that the dimensions increase. High-dimensional data causes a curse of dimensionality, which leads to a problem of performance degradation of the prediction model. Therefore, sufficient dimension reduction method has been used as an appropriate solution. However, the sufficient dimension reduction method has a limitation in that it is difficult to interpret and know important explanatory variables because each dimension reduction component is composed of a linear combination of the original explanatory variables. We focused on identifying important explanatory variables and interpretable estimates after dimension reduction. In addition, we focused on reducing increasing prediction accuracy than the existing sparse SIR method (Li, 2007). So, in this paper, we present a sparse directional regression method that combines a sparse sufficient dimension reduction method (Li, 2007) with a directional regression method (Li and Wang, 2007). Six simulation studies and real data applications were conducted to verify the performance of the sparse direction regression method.;빅데이터는 데이터의 행이 늘어나는 것만이 아닌 차원이 늘어나는 것도 의미한다. 이러한 고차원의 데이터는 차원의 저주에 빠질 수 있기 때문에 충분 차원 축소 방법론이 적절한 해결책으로 사용되어왔다. 그러나 충분 차원 축소 방법론은 각 차원 축소 성분이 원래 설명변수들의 선형 조합으로 이루어져 있기 때문에 해석이 어렵고 중요 변수를 알기 어렵다는 한계점이 있다. 따라서 본 논문에서는 차원 축소 후 추정치의 해석이 가능하고, 중요 변수가 파악 가능하며, 더욱 정확한 예측 모델링이 가능한 방법을 제시하고자 하였다. 이를 위해 희소 충분 차원 축소 방법론(Li, 2007)과 방향 회귀 방법론(Li and Wang, 2007)을 결합한 희소 방향 회귀 방법론을 제시했다. 6개의 simulation과 data application을 통해 희소 방향 회귀 방법론의 성능을 검증하였다.