다양한 SHAP 값 계산을 위한 알고리즘 비교

Abstract

본 연구의 목적은 대표적인 XAI 기법인 SHAP의 원리와 장단점을 살펴보고 다양한 SHAP 알고리즘을 구현해 놓은 R 패키지를 기반으로 적용 및 비교하는 것이다. 본 연구에서는 SHAP 값을 계산하기 위해 구현되었거나 여러 가지 모델 설명 방법 중 SHAP를 포함하는 9개의 패키지를 선택하였다. 보스턴 데이터를 이용하여 주택 가격을 예측하는 랜덤 포레스트와 XGBoost 모델을 생성하고 각 패키지를 적용하였다. SHAP 값 계산은 특정 관측치에 대한 예측 결과를 분석하는 국소적 도메인과 전반적인 모델의 설명력을 분석하는 전체적 도메인 두 가지 측면으로 접근하였다. 패키지 내의 시각화 함수와 별도의 시각화 패키지를 적용함으로써 계산된 SHAP 결과를 확인하였다.;This study aims to examine the principles and pros and cons of SHAP, a prominent technique in XAI, and to apply and compare various SHAP algorithms based on R packages. This research selected nine packages containing SHAP calculation for multiple model explanation methods. Random Forest and XGBoost models predicting housing prices using the Boston dataset were generated, and each package was applied. SHAP value compared two perspectives: local domain analysis, which analyzes the prediction results for specific observations, and global domain analysis, which evaluates the overall model interpretability. The computed SHAP results were visualized using visualization functions within the packages and separate visualization packages.