DCT 계수의 확률 분포함수 모델링

Abstract

MPEG이나 JPEG 영상 압축 표준에서는 영상을 블록 단위로 나누어서 DCT를 하고 양자화 시킨다. 그리고 역양자화 값으로 양자화 구간의 중앙값을 사용한다. DCT 평균제곱 오차를 줄이려면 평균값을 사용하는 것이 최적이나 현재에는 uniform 분포를 가정하고 중앙값을 사용한다. 그러나 본 논문에서는 DCT 계수의 확률 분포함수가 Laplacian 분포를 따른다고 가정하고 역양자화 값으로 평균값을 사용했을 때 PSNR의 개선 정도를 살펴봤다. Laplacian 분포의 경우에는 보정전의 양자화 오차와 보정 후의 양자화 오차를 이론적인 수식으로 나타내 보았다. 보정으로 인한 양자화 잡음의 감소치의 이론적인 최대값은 1.66 dB이다. 실험결과 제안된 대표값을 취했을 경우 기존의 방법보다 PSNR이 0.2~0.4 dB정도 향상된다. 실제 Laplacian 분포와 이론치의 PSNR 향상 정도를 살펴보면 차이가 남을 알 수 있다. 따라서 Laplacian분포뿐 아니라 Generalized Gaussian 분포로도 이론적인 model을 가정하여 구간의 평균값 및 PSNR 향상정도를 살펴보았다. 그리고 Generalized Gaussian 분포의 경우 Laplacian 분포보다 parameter가 하나 더 필요하고 계산량이 복잡하기 때문에 이를 좀 더 쉽게 approximation하는 법을 제안하였다.;Many image compression standards such as JPEG, MPEG or H.263 are based on the discrete cosine transform (DCT) and quantization method. Quantization error is the major source of image quality degradation. The current dequantization method assumes the uniform distribution of the DCT coefficients. Therefore the dequantization value is the center of each quantization interval. However DCT coefficients are regarded to follow Laplacian probability density function (pdf) or Generalized Gaussian probability density function. The center value of each interval is not optimal in reducing squared error. First, we use mean of the quantization interval assuming Laplacian pdf, and show the effect of correction on image quality. Also, we compare existing quantization error to corrected quantization error in closed form. The effect of PSNR improvements due to the compensation to the real image is in the range of 0.2 ~ 0.4 dB. The maximum correction value is 1.66 dB. We also apply Generalized Gaussian distribution to improve data fitting. The PSNR quality has improved by 0.3 ? 0.5 dB. To minimize computational complexity we approximate parameter beta of Generalized Gaussian distribution to 0.5, and it shows comparable image quality as that of GGD.