The Comparison of Three Boosting Algorithms

Abstract

Boosting은 분류 문제에 있어서 새롭고 강력한 방법이다. 즉, boosting은 주어진 알고리즘의 정확도를 향상시키기 위한 일반적인 방법이라 할 수 있다. 표본의 가중된 버젼을 이용하여 반복적인 절차를 거쳐 성공적으로 분류한다. 그리고 이 표본이 분류가 잘 되었는 지에 따라서 다시 가중치가 주어진다. 이 논문에서 우리는 세가지 잘 알려진 boosting 알고리즘을 소개한다. (Discreate AdaBoost, Real AdaBoost, LogitBoost)우리는 UCI Repositiory에 있는 자료들의 테스트 에러율을 비교함으로써 세 알고리즘들의 성능을 비교해 보도록 한다.;Boosting is a new, powerful method for classification. That is, Boosting is a general method for improving the accuracy of any given learning algorithm. It is an iterative procedure which successively classifies a weighted version of the sample, and then reweights this sample dependent on how successful the classification was. In this paper we consider three of the well-known boosting algorithms - Discrete AdaBoost, Real AdaBoost, LogitBoost. We conduct an empirical study to compare the performance of these algorithms, measured in terms of overall test error rate with data from UCI Repository.