사람들은 인공지능에게 어떤 윤리적 판단을 기대하는가?: 딜레마 판단을 중심으로 (What Ethical Judgment Do People Expect from AI?: Focusing on Dillemma Judgment)

서지정보

· 발행기관 : 강원대학교 사회과학연구원
· 수록지 정보 : 사회과학연구 / 62권 / 3호 / 403 ~ 427페이지
· 저자명 : 김보경

초록

본 연구는 딜레마 상황에서 행위자(인간/인공지능)에 따라 서로 다른 윤리적 기준(공리주의/의무론)을 적용하는지 살펴보고, 이에 지각된 행위자에 따라 갈등 수준에 차이가 있는지 살펴보았다. 이를 위해 실험참가자에게 딜레마 상황에서 행위자가 인간일 때와 인공지능일 때 공리주의와 의무론적 판단 중 어떤 선택을 하는 것이 옳다고 생각하는지 물어 딜레마 판단에 있어 행위자 간 차이가 있는지 살펴보았다. 또한 행위자에 따라 느끼는 갈등 수준에 차이가 있는지 살펴보았다. 그 결과, 인간보다 인공지능이 행위자일 때, 공리주의적 선택이 더 옳다고 응답하였고. 행위자가 인공지능일 때보다 인간일 때 더 높은 수준의 갈등을 느끼는 것으로 나타났다. 그리고 동일하게 공리주의를 선택했을 때, 행위자가 인간일 때보다 인공지능일 때 더 낮은 갈등을 경험한 것으로 나타났다. 이러한 결과는 인공지능이 인간과 동일한 역할을 하더라도 다른 윤리적 판단을 기대하는 경향이 있으며, 행위자가 인간일 때보다 인공지능일 때 더 직관적으로 공리주의를 선택하였음을 보여준다. 마지막으로 본 연구의 의의와 제한점에 대해 논의하였다.

영어초록

This paper examined whether different ethical standards (utilitarianism/deontology) are applied according to the actor (human/artificial intelligence) in the dilemma situation, and whether there is a difference in the level of conflict according to the perceived actor (human/artificial intelligence). To this end, we asked the participants of the experiꠓment whether they thought it was right to choose between utilitarianism and deontology judgment when the actor was human or artificial intelligence in a dilemma situation. We also examined whether there is a difference in the level of conflict felt according to the actor (human/artificial intelligence). As a result, they responded that the utilitarian choice was more correct when artificial intelligence was an actor than when it was human. It was found that when the actor was human than when it was artificial intelligence, they felt a higher level of conflict. And it was found that when the utilitarianism was chosen equally, the actor experienced lower conflicts when it was artificial intelligence than when it was human. These results show that even if artificial intelligence plays the same role as humans, it tends to expect different ethical judgments, and that the actor chose utilitarianism more intuitively when the actor was artificial intelligence than when it was human. Finally, the significance and limitations of this study were discussed.

참고자료

· 없음