AI 에이전트의 의인화에 따른 오정보 정정 효과

Abstract

본 연구의 목적은 오정보를 정정하는 AI 에이전트와의 소통 과정에서 어떠한 인지적 판단 경로를 거쳐 이용자의 설득 효과가 발생하는지 탐구하는 것이다. 이를 위해 진정성이라는 인지적 변인을 선행 연구를 토대로 정보원, 메시지, 상호작용 진정성으로 구분하고, 이에 따른 오정보 정정 효과의 발생 과정을 분석하였다. 먼저, 이용자의 진정성 인식을 유발할 수 있는 변인으로서 AI 에이전트의 기술적 특성인 의인화와 AI 에이전트와의 상호작용적 특성인 이용자의 행동 반응 수준의 영향력을 검증하고, 수용자의 특성으로는 이용자가 오정보 이슈에 대해 갖는 의견 양가성이 진정성 인식에 따른 설득 효과에 미치는 영향력 또한 실증적으로 검증하였다. 본 연구는 두 개의 실증 연구를 실시하였다. 연구 1에서는 본 연구가 기본적으로 검증하고자 하는 ‘의인화→인지된 정정 진정성→태도 변화’의 매개 모델을 확인했다면, 연구 2는 이를 다른 이슈를 통해 재검증하고 조절 변인의 영향력을 검증하였다. 이를 위해 연구 1은 총 210명을 대상으로, 연구 2는 총 320명을 대상으로 온라인 실험과 온라인 설문 조사를 실시하였다. 먼저, 연구 1은 2개(의인화: 있음/없음)의 집단 간 요인 설계를 구성하였고, 글루텐 프리 식단에 대한 오정보를 정정하는 AI 에이전트를 이용해 참가자와의 채팅 및 설문 조사를 진행했다. 다음으로 연구 2는 4개(의인화: 있음/없음 X 행동 반응 수준: 고/저)의 집단 간 요인 설계를 구성하고, 자궁경부암 백신 접종의 맥락에서 AI 에이전트와의 채팅 및 설문 조사를 진행했다. 분석 결과 첫째, AI 에이전트 이용자의 태도 변화는 의인화가 없는 AI 에이전트보다 의인화가 있는 AI 에이전트인 경우에 더 높게 나타났다. 이는 글루텐 프리 식단과 자궁경부암 백신 접종의 두 이슈를 통해 증명되었다. 둘째, AI 에이전트의 의인화는 이용자가 인식하는 정보원 진정성, 메시지 진정성, 상호작용 진정성에 정적인 영향을 미치는 것으로 나타났다. 셋째, AI 에이전트의 의인화가 이슈에 관한 태도 변화에 영향을 미치는 과정에서, 글루텐 프리 식단의 맥락에서는 인지된 메시지 진정성이 이를 정적으로 매개하였고, 자궁경부암 백신의 맥락에서는 인지된 상호작용 진정성이 이를 정적으로 매개하였다. 넷째, 이러한 인지된 상호작용 진정성의 매개 효과는 이용자의 행동 반응 수준에 의해 조절되는 것이 확인되었다. 본 연구는 AI 에이전트의 설득 효과를 높이기 위해서는 진정성의 인식이 중요한 요인임을 밝혔으며, 이러한 진정성있는 소통을 유도할 수 있는 AI 에이전트의 의인화, 이용자의 행동 반응 수준과 같은 변인의 영향력을 검증하였다는 데에 의미가 있다. 또한 오정보 이슈에 따라 이용자가 인식하는 진정성의 유형을 달리 하는 것이 오정보 정정에 효과적일 수 있음을 제안할 수 있다. 이밖에 연구 결과에 따른 이론적, 실무적 함의에 대해서도 논의하였다.;This dissertation aimed to examine through what cognitive processes does persuasion effect occurs in the context of misinformation correction by Artificial Intelligence. It focused on the concept of authenticity as a mechanism for persuasion, and based on the previous research, it distinguished the three types of authenticity: source authenticity, message authenticity, and interaction authenticity. First, it examined anthropomorphism, a technological feature of an AI agent, and behavioral response system level, an interactional feature between a user and an AI agent, as the factors affecting perceived authenticity. It also examined how user’s ambivalence on the topic, which is a receiver characteristic, moderates the effect of perceived authenticity on the persuasion effect. The dissertation includes two empirical studies. Study 1 tested the mediation model where authenticity affects attitudinal change through perceived authenticity, and Study 2 tested the model on a different topic of misinformation and examined the moderating effect. An online experiment and a survey were conducted on 210 participants in Study 1 and 320 participants in Study 2. Study 1 was an experiment comparing two groups (anthropomorphism: present vs. not present), where participants interacted with an AI agent correcting misinformation on gluten free diet and completed a survey. Study 2 was a 2(anthropomorphism: present vs. not present) x 2 (behavioral response system level: high vs. low) experiment where participants interacted with an AI agent correcting misinformation on HPV vaccine and completed a survey. The results show the following. First, an AI agent with anthropomorphism caused a stronger attitudinal change than an AI agent without anthropomorphism. The effect was confirmed in both topics of gluten-free diet and HPV vaccine. Second, anthropomorphism of an AI agent positively affected the source authenticity, message authenticity, and interaction authenticity. Third, perceived message authenticity in the gluten free diet context and perceived interaction authenticity in the HPV vaccine context mediated the effect of anthropomorphism on attitudinal change. Fourth, the mediating effect of the perceived interaction authenticity was moderated by behavioral response system level. The dissertation suggests that perceived authenticity is an important factor to consider in increasing the persuasion effect of an AI agent. It has a theoretical implication in confirming the impact of anthropomorphism and behavioral response system level in enabling the authentic interaction. Also, it suggests how different types of authenticity is important in correcting misinformation in different contexts. The dissertation discusses theoretical and practical implications.