약인공지능 시대의 윤리적 위기: 개별화된 예측 정보의 증가로 인한 상호협력 기반의 상실 (An Inconvenient Truth of Weak AI: Fear of the Predictable, Not Fear of the uneXplainable)

서지정보

· 발행기관 : 한국윤리학회(8A3209)
· 수록지 정보 : 윤리학 / 11권 / 2호 / 71 ~ 110페이지
· 저자명 : 손제연

초록

개인별 신용을 더 잘 예측할 수 있게 될 수록, 역설적으로 신용을 토대로 성립하는 사회의 기초는 더 위협받을 수 있다. 예측불가능한 미래를 대비하기 위한 상호협력은 협력 당사자들 사이의 신용을 구성하는 정보에 대한 상호적 무지(mutual ignorance)를 중대한 기초로 하기 때문이다. 개별화된 예측정보가 증가하는 사회에서는 자신에 대한 정보를 잘 알고 있는 사람은 무임승차자나 사기꾼으로 간주된다. 이로 인해 사회의 공적 계획보다는 시장을 통한 자유로운 상호협력을 통해 더 효율적으로 달성되는 것으로 여겨져 왔던 일상적인 복지에 대해서조차 그 실현을 위해 자유 시장을 통한 상호협력을 기대하기가 점점 더 어려워진다. 그러나 개별화된 정보가 주는 순기능을 부인하거나 그 생산과 유통을 근원적으로 차단하는 방향은 대개 유망하지 않을 뿐만 아니라 바람직하지도 않다. 분명한 것은, 자유주의 또는 심지어 공리주의의 중요한 가치의 성취를 시장에 의탁해 왔던 많은 영역에서, 자유시장에서의 협력 가능성에 이를 기대하는 것은 이제 불합리하다는 것이다. 개별화된 예측정보를 급격히 증가시키고 있는 것은 바로 현재의 약인공지능 기술이다. 이로부터, 약인공지능이 발생시키는 중대한 윤리적 위기는 불투명한 기술적 특성이나 개인정보의 오남용 같은 심화된 전통적 문제가 아니라 강화된 개인별 예측기술로부터 발생하는 이례적인 공정하고 합리적인 상호협력의 상실이라는 점을 알 수 있다. 게다가 AI기술의 불투명성을 극복하려는 규제적 대응—예를 들어, ‘설명가능한 AI’나 ‘신뢰할 만한 AI’—은 많은 경우 지나간 윤리적 논의와 논점을 피상적으로 재구성한 것으로 보이는데, 성급한 규제의 방향이 윤리세탁을 유발하거나 사회 구성원들로부터 윤리거부의 태도를 불러일으킬 수 있다.

영어초록

As paradoxical as it may sound, the easier it becomes for credit rating agencies in a society to predict individual credit, the less likely it is for the society to be a credit-based society. This is because mutual cooperation to prepare for an unpredictable future is based on mutual ignorance of personalized information between members. In a society where personalized information that makes possible predictions for each person increases, people who know but hide such information about themselves in cooperation are regarded as free riders or cheaters. As a result, it becomes more difficult to expect mutual cooperation through the free market for the realization of ordinary welfare, which has been previously considered to be achieved more efficiently through cooperation through the market rather than through social planning. However, any attempts of denying the positive function of individualized information or completely blocking its increase and distribution are not only unpromising, but also undesirable. What is clear is that in many areas that have relied on markets for the achievement of vital value(s) of liberalism or even utilitarianism, it is no longer reasonable to rely solely on the probability of mutual cooperation in the free market. It is the current weak artificial intelligence technology that is rapidly increasing individualized predictive information. It can be seen from this that the crisis facing in the era of weak AI is not a further intensification of the traditional problems such as black-box of a technology or misuse of personal information, but is a new type of grave crisis in which significant loss of mutual cooperation arises from technology with enhanced individual prediction. Moreover, regulatory prescriptions against the black-box nature of AI, such as ‘eXplainable AI’ or ‘trustworthy AI’, seem to be based in many cases on unreflective and superficial counterfeits from old ethical debates, which can only lead people to ethics-washing and -bashing.

참고자료

· 없음