Mitigating Social Bias in LLM through Prompting Based on Cognitive Error Correction Strategies

Abstract

Despite remarkable advances in the development of large language models (LLMs), these models still prone to generate outputs that reflects societal biases. Although this has led to proliferation of research of debiasing methods, many of the proposed techniques involve modifying training data, parameters, or decoding algorithms which require access to the model internal. However, for commercial LLMs that operate as black-box systems, such internal modifications are not feasible. As a result, prompt-based approaches, which require no access to the internal structure of the model, have emerge as a promising alternative for reducing bias in a more accessible and lightweight manner. This study aims to investigate whether prompt design, grounded in cognitive psychology, can mitigate social bias in LLM outputs. To address this, we propose a novel prompting strategy, the Cognitive Error Correction (CEC) prompt, which incorporates metacognitive cues designed to counteract five well-known cognitive fallacies: confirmation bias, naïve realism, bias blind spot, false consensus effect, and insider perspective. Using the BBQ dataset, we compare CEC prompts with six existing debiasing prompt strategies across three widely used LLMs—Claude-3.0-haiku, Gemini-2.0, and GPT-3.5. We evaluate both accuracy and bias scores as key performance metrics, supported by statistical analysis using the Wilcoxon Signed-Rank Test and Cliff’s Delta. Results show that CEC prompts consistently outperform other strategies, achieving the highest accuracy and most stable bias scores across all models. Notably, large effect sizes were observed in GPT and Claude models, confirming the practical impact of the strategy. These findings suggest that metacognitive prompt design, inspired by human bias correction mechanisms, offers a robust and generalizable approach to reducing social bias in LLMs. This research highlights the importance of psychologically informed prompt engineering in developing ethically aligned AI systems.;대규모 언어 모델(LLM)의 비약적인 발전에도 불구하고, 여전히 사회적 편향을 내포한 출력을 생성하는 문제가 지속적으로 제기되고 있다. 이를 해결하기 위해 다양한 편향 완화 기법들이 제안되어 왔지만, 대부분은 모델의 훈련 데이터 수정, 파라미터 조정, 또는 디코딩 알고리즘 변경 등과 같이 모델 내부에 대한 접근 권한이 있어야 가능한 방식들이다. 그러나 상용 LLM은 블랙박스 형태로 운영되기 때문에 이러한 내부 수정은 현실적으로 적용하기 어렵다는 한계가 있다. 이에 따라, 모델 내부 구조에 접근하지 않고도 활용할 수 있는 프롬프트 기반의 접근법이 보다 실용적인 대안으로 주목받고 있다. 본 연구는 인지심리학 이론에 기반한 프롬프트 설계가 LLM의 사회적 편향을 완화할 수 있는지를 실증적으로 검증하고자 한다. 이를 위해 다섯 가지 대표적인 인지 오류(확증 편향, 순진한 실재론, 편향 맹점, 허위 합의 효과, 내부자 관점)를 교정하는 메타인지적 단서를 포함한 새로운 프롬프트 전략인 ‘인지 오류 교정(Cognitive Error Correction, CEC) 프롬프트’를 제안하였다. 제안 방법론의 효과를 검증하기 위해 BBQ 데이터셋을 활용하여 세 가지 상용 LLM(Claude-3.0-haiku, Gemini-2.0, 그리고 GPT-3.5)을 대상으로 실험을 진행하였다. CEC 프롬프트와 기존의 7가지 대표적 편향 완화 프롬프트 전략을 비교하였고, 정확도와 편향 점수를 주요 평가 지표를 설정하였다. 각 프롬프트 간의 성능 차이를 검증하기 위해 Wilcoxon Signed-Rank Test와 Cliff’s Delta를 활용한 통계적 분석을 진행하였다. 분석 결과, CEC 프롬프트는 모든 모델에서 가장 높은 정확도와 가장 낮은 편향 점수를 기록하며 다른 전략 대비 일관된 우수성을 보였다. 이러한 결과는 인간의 편향 교정 메커니즘에서 착안한 메타인지 기반 프롬프트 설계가 LLM의 사회적 편향을 효과적으로 완화할 수 있는 전략임을 시사한다.