Exploring the Effects of Hallucinations in ChatGPT Among Working Professionals

Abstract

Current advancements in the realms of artificial intelligence (AI), notably within machine learning and natural language processing (NLP), are blurring the lines separating humans and non-humans. ChatGPT, an emerging state-of-the-art chatbot, has opened doors for revolutionizing decision-making and learning processes due to its ability to generate responses in human-like language. However, ChatGPT is subject to generating outputs that are illogical and unfaithful to the source input. This phenomenon, known as hallucination, is seen as problematic because as these models become more and more convincing in their responses, users may start to over-rely on it and spread misinformation that may cause harm. Drawing on the TAM framework, we set out with the aim to understand the adoption of ChatGPT among working professionals in Norway. Our study investigated the impact of ChatGPT’s prominent AI characteristics – intelligence and anthropomorphism – on the intention to adopt its generated output through the effects on perceived usefulness (the utilitarian factor) and enjoyment (the hedonic factor). Moreover, we examined the moderating effects of awareness of hallucinations in ChatGPT on the relationship between intention to use its generated output and actual use. This study used a cross-sectional survey design, targeting working professionals in Norway with prior experience with ChatGPT, and collected a total of 113 responses. Our hypotheses were tested and analyzed using PLS-SEM. Results showed that working professionals perceive ChatGPT as intelligent and anthropomorphic. Moreover, the perceived intelligence in ChatGPT enhances their perception of its usefulness and, thereby, the intention to adopt. This result confirms the utilitarian view of ChatGPT. Conversely, anthropomorphism in ChatGPT positively affects the perceived enjoyment but does not contribute to the adoption of ChatGPT from a hedonic perspective. Furthermore, we confirm that awareness of hallucinations in ChatGPT has a negative moderating effect on the adoption of its generated output. However, while the effect did not significantly impact the adoption and utilization of ChatGPT’s output, working professionals express a positive attitude towards leveraging ChatGPT to enhance their productivity. Our study extends the understanding of user interaction with ChatGPT and the adoption of AI tools like ChatGPT in a professional setting. Moreover, the study highlights the transformative shift where human-AI collaboration becomes unavoidable. To our knowledge, this study is the first to examine awareness of hallucinations in ChatGPT as a moderator on the relationship between intention to use ChatGPT’s generated output and actual use. It remains essential for users to exercise critical thinking when interpreting the responses generated by ChatGPT. ;최근 인공지능(AI) 분야에서의 발전, 특히 기계 학습 및 자연어 처리 분야에서는 인간과 비인간 간의 경계가 희미해지고 있다. ChatGPT는 최신 기술의 챗봇으로, 인간과 유사한 언어로 응답을 생성하는 능력으로 의사 결정 및 학습 프로세스 혁신의 문을 열었다. 그러나 ChatGPT는 논리적이지 않고 소스 입력에 충실하지 않은 출력을 생성하는 경우가 있다. 이 현상은 환각이라고 불리며, 이러한 모델이 응답에서 점점 더 설득력 있어지면 사용자는 그것에 지나치게 의존하고 피해를 일으킬 수 있는 정보를 퍼뜨릴 수 있다. TAM 프레임워크를 기반으로 하여, ChatGPT의 사용을 이해하기 위해 노르웨이의 직장인들 중에서의 채택을 조사했다. 본 연구는 ChatGPT의AI 특성인 지능과 의인화가 인식된 유용성(실용적 동기)과 즐거움(쾌락적 동기)에 미치는 영향을 통해 생성된 출력을 채택할 의도에 영향을 주는 것을 목표로 했다. 더불어, ChatGPT에서 환각의 인식이 생성된 출력을 사용하려는 의도와 실제 사용 간의 관계에 미치는 조절 효과를 조사했다. 본 연구는 ChatGPT와 이전 경험이 있는 노르웨이의 직장인들을 대상으로 한 횡단면 설문 설계를 사용하였으며, 총 113개의 응답을 수집했다. 본 연구의 가설은 PLS-SEM을 사용하여 분석했다. 본 연구 결과는 다음과 같다. 노르웨이의 직장인들이 ChatGPT를 지능적이고 의인화된 것으로 인식한다는 것을 보여주었다. ChatGPT에서 지능이 인식되면 유용성이 증가하고, 이로써 채택 의도가 증가하는 것으로 나타났다. 이 결과는 ChatGPT의 실용적인 관점을 확인한다. 다음은ChatGPT의 의인화는 즐거움을 긍정적으로 영향을 미치지만 쾌락적인 관점에서는 ChatGPT의 채택에 기여하지 않는다. ChatGPT의 환각의 인식이 생성된 출력의 채택에 조절 효과가 있다는 것을 확인했다. 그러나 이 효과는 ChatGPT의 채택과 이용에는 중요한 영향을 미치지 않았지만, 직장인들은 ChatGPT를 활용하여 생산성을 향상시키는 긍정적인 태도를 표현했다. 본 연구는 ChatGPT와 같은 AI 도구의 사용자 상호 작용 및 전문적인 환경에서의 채택에 대한 이해를 확장시킨다. 더불어, 본 연구는 의도와 실제 사용 간의 관계에서 ChatGPT의 환각의 인식을 조절 요인으로 조사한 첫 번째 연구로서, human-AI 협업이 피할 수 없는 변혁적인 변화를 강조한다. ChatGPT가 생성한 응답을 해석할 때 사용자가 비판적 사고를 가지는 것이 여전히 중요하다.