Support Vector Machine Via Semidefinite and Second Order Cone Programming Relaxation Methods

Abstract

Support Vector Machine (SVM) 이란 통계학에서 많은 데이터를 처리하기 위해 많이 이용되고 있는 방법 중의 하나이다. 주어진 training set 과 labeled data 그리고 test set 을 이용해서 unlabeled data 를 찾아내는 방법이 transduction 방법으로, 우리는 이 방법에 초점을 맞추도록 하겠다. Semidefinite Method (SDP method) 와 Second Order Cone Programming Relaxation Method (SOCP method) 는 제한조건이 있는 Minimum 또는 Maximum 문제들을 푸는데 효과적인 방법으로 SVM을 푸는데 사용될 수 있다. MATLAB 을 접목해서 SeDuMi (version 1.05) 프로그램을 이용해서 SVM 문제를 풀었고 이로 인해 얻어진 결과는 SOCP method 가 SDP method 보다는 정확도는 약간 떨어지지만, 훨씬 더 효과적이다. 많은 데이터를 단 시간 안에 처리하는 방법으로 SOCP method 가 SDP method보다 효율적이라는 것이 결론이다.;Many statistical methods exist to access the information with data. Support Vector Machine is a well-known method classifying data. Support vector machine (SVM) produces nonlinear boundaries by constructing a linear boundary in a large, transformed version of the feature space. Semidefinite programming is one of the most effective methods to solve nonlinear optimization problems. SVM problems can be solved by semidefinite programming approach. Since SVM problem is a quadratic form and second order cone programming (SOCP) can be applied to enhance the efficiency. Error rate of solving SVM problem with SOCP is lager than with SDP, however, we show that the efficiency can be improved with numerical results.