비선형 최소제곱법을 이용한 모수 추정 방법

Abstract

We consider the problem of estimating the parameters of some distributions. MLE (maximum likelihood estimation) is the most preferred method of parameter estimation in statistics since its exceptional properties such as consistency, asymptotic normality and efficiency. However, on all occasions, MLE is not the best solution. In some cases, MLE is unsuitable or does not exist. The purpose of this paper is to propose another tool of parameter estimation, non-linear least squares (NLS) and compare its performance with MLE. The NLS estimator is achieved by minimizing sum of squared difference between empirical CDF (cumulative distribution function) and theoretical distribution function. In this article, we use a simulated data from some distributions and to compare the performances, we check the RMSE (root mean squared error). As a result, In Burr distribution, when sample size is small, NLS is better than MLE for estimating one of the shape parameters. Also in Frechet distribution, NLS performs well.;어떤 분포의 모수를 추정하는 방법에 대해 연구해 보았다. MLE (maximum likeligood estimation)는 일관성, 정규성, 효율성 등 우수한 성질을 가지기 때문에 통계학에서 모수 추정시 가장 선호 되는 방법이다. 하지만 모든 경우에서 MLE가 최선의 방법인 것은 아니다. 때때로 어떤 경우에는 MLE가 적합하지 않거나 존재하지 않을 수도 있다. 본 논문의 목적은 모수를 추정하는 새로운 방법인 NLS-2를 제시하고 NLS-2의 성능을 MLE와 비교해 보는 것이다. NLS 추정량은 경험적 누적분포 함수와 이론적 누적 분포 함수의 차의 제곱의 합을 최소화하는 추정량이다. 본 논문에서는 여러 가지 분포에서 추출한 모의실험 데이터를 사용하였으며, RMSE를 이용하여 성능을 비교해 보았다. 결론적으로, Burr 분포에서 관측치의 수가 작을 때, 형상모수 추정시 NLS-2방법론이 MLE보다 성능이 좋았다. 또한 프레셰 분포에서도 NLS-2의 성능이 좋게 나타났다.