Comparison study of GACV and cross-validation in support vector machines

Abstract

Support vector machine으로부터 함수를 추정하기위해서는 비용 모수(cost parameter)와 커널 함수를 결정해야 한다. 이 논문에서는 비용모수를 선택하는 방법으로 generalized approximate cross validation(GACV)방법과 cross-validation방법을 고려하였다. GACV방법은 generalized comparative Kullback-Liebler거리를 근사적으로 구하기 위해 고안된 방법이다. 이 논문에서는 두 방법에 의해 선택된 비용모수를 가지고 추정한 함수의 효율성을 비교하였다. 모의실험 결과 두 방법으로 선택된 함수의 성능에는 큰 차이가 없었다. 그렇지만 GACV방법은 더 간단한 함수를 추정하고 표본에 큰 영향을 받지 않는 경향을 보였다. 따라서 비용모수를 선택하는 방법으로 GACV방법이 더 적절하다고 할 수 있다.

;The function estimated from support vector machine is affected by the cost parameter and kenel function. In this thesis we study the method of choosing cost parameters. One is generalized approximate cross validation(GACV) and the other is cross validation. The GACV was developed as a proxy of generalized comparative Kullback-Leibler distance(GCKL). This thesis compare the performance of the model which is chosen by each method. The simulation experiment results show that the performances of the two methods are similar but the model chosen by GACV is simpler and more stable. Thus GACV method is recommended for the purpose of choosing the cost parameter.