XAI 설명방식이 사용자의 인지된 이해도와 신뢰도에 미치는 영향: 조절초점의 역할 (The Impact of XAI Explanation Methods on Users’ Perceived Understanding and Trust: The Role of Regulatory Focus)

서지정보

· 발행기관 : 한국지능정보시스템학회
· 수록지 정보 : 지능정보연구 / 30권 / 3호 / 373 ~ 392페이지
· 저자명 : 문상룡, 안현철, 한윤

초록

AI 기술의 발전에 따라 AI 모델이 생성한 결과를 이해하기 어려워지는 ‘블랙박스(Black-Box)’ 문제가 중요한 이슈로 대두되고 있다. 이 문제를 해결하기 위한 설명 가능한 인공지능(XAI) 연구는 기술적 접근을 넘어서 사용자 중심적 접근으 로 발전할 필요가 있다. 본 연구는 사용자 이해도를 높일 수 있는 XAI 설명방식을 제안하기 위해, 사용자의 개인 성향 특 성인 ‘조절초점’ 개념을 도입하였다. 600명의 일반 성인을 대상으로 반사실적(Counterfactual) 설명방식과 특징 중요도 (Feature Importance) 설명방식을 비교하는 실험연구를 수행한 결과, 반사실적 방식이 사용자 이해도에서 유의미하게 높은 결과를 나타냈다. 또한, 조절초점 성향이 XAI 설명에 대한 사용자 이해도에 영향을 미치는 중요한 요인임이 확인되었다. 그리고 XAI 설명에 대한 사용자 이해도는 AI 시스템에 대한 사용자 신뢰도의 향상으로 이어진다는 사실도 확인하였다. 본 연구는 사용자 중심의 XAI 연구에 개인 특성을 고려한 확장된 이론적 프레임워크를 제시함으로써, AI 사용자에게 어 떤 XAI 설명방식이 가장 적합한지에 대한 실질적인 가이드라인을 제공한다.

영어초록

As AI technology advances, the “black-box” problem―where AI model outcomes become increasingly difficult to interpret―has emerged as a critical issue. To address this challenge, explainable AI (XAI) research must evolve from a purely technical approach to a user-centered perspective. This study introduces the concept of regulatory focus, a personal trait, to propose XAI explanation methods that can enhance user understanding. A comparative experiment was conducted with 600 general adults to evaluate the Counterfactual and Feature Importance explanation methods. The results show that the Counterfactual explanation method significantly improves user understanding. Furthermore, the user’s regulatory focus was identified as a significant factor influencing their understanding of XAI explanations. The study also confirmed that an increase in user understanding of XAI explanations leads to improved user trust in AI systems. By integrating individual traits into user-centered XAI research, this study offers an expanded theoretical framework and provides practical guidelines for determining which XAI explanation method is most appropriate for AI users.

참고자료

· 없음