변수 선택을 위한 다양한 베이지안 접근법들에 관한 비교

Abstract

본 논문에서는 다양한 베이지안 변수선택법 중 indicator를 사용하는 두 가지 접근법을 소개한 뒤, 각 접근법에 속한 변수선택법들을 비교해 볼 것이다. 첫째로, indicator model selection 접근법을 사용하는 변수 선택법에는 Kuo & Mallick 방법과 GVS 방법이 있다. Kuo & Mallick 방법은 indicator와 회귀계수의 사전분포가 서로 독립이라는 가정을 하는 방법이다. 반면 GVS 방법은 indicator와 회귀계수를 종속적인 관계로 가정하며, 사전분포를 parameter 사전 분포와 pseudo 사전 분포로 나누어 사후분포를 구한다. 두 번째로, Stochastic Search Variable Selection(SSVS) 접근법은 indicator function을 직접 사용하지 않고 p차원의 회귀계수벡터를 그대로 사용하는 방식이다. 대신 SSVS가 가정하는 혼합사전분포에서 indicator가 쓰인다. 본 논문에서는 앞서 소개된 변수선택법을 이용하여 두 종류의 자료에 적용시켜 볼 것이다. 먼저 모의시험자료를 이용하여 세 가지 변수선택법의 효용성을 검증해 보고 Stepwise regression 분석 결과와도 비교해 볼 것이다. 다음으로 실제 자료인 pollution 자료를 이용하여 베이지안 변수선택법이 실제 데이터에 얼마나 잘 적용되는지 확인해 보겠다. 또한 Ridge regression 결과와 비교하여 변수 간 상관관계가 있는 자료에서의 효용성을 살펴보겠다.;This paper aims to compare three Bayesian variable selection methods by applying these methods to the simulated data set and real data set. Several Bayesian variable selection methods have been developed. In this paper, we focus on three methods with the indicator function ; Kuo & Mallick, Gibbs variable selection(GVS) and Stochastic search variable selection(SSVS). All of these three methods use "R2WinBUGS" the package of R. We compare three Bayesian variable selection methods with the classical variable selections such as Stepwise variable selection and Ridge regression. As a result, Bayesian variable selection choose same variables which are chosen in classical methods and calculated similar estimates.