인공지능 거버넌스와 민주주의의 미래 (Artificial Intelligence Governance and the Future of Democracy)

서지정보

· 발행기관 : 동양사회사상학회
· 수록지 정보 : 사회사상과 문화 / 22권 / 2호 / 305 ~ 349페이지
· 저자명 : 손현주

초록

인공지능은 디지털 정치혁명을 통하여 정치의 미래를 만들어가고 있다. 특히 데이터 과학의 등장과 알고리즘의 발전으로 인공지능이 본격적으로 정책결정과 정치의 각 분야에서 구체화되기 시작했다. 이런 맥락에서 인공지능이 민주주의에 미치는 영향을 자유⋅평등⋅정치활동의 측면에서 살펴볼 것이다. 먼저 인공지능은 시민의 정치적 참여, 디지털 자유주의의 확대, 인간능력의 향상을 통하여 인간 자유의 영역을 확대시키는긍정적인 측면이 있다. 반면에 인공지능은 인간의 양화된 자아, 알고리즘의 인간 권위 대체, 로봇의 인간노동 대체 등을 통해 인간으로부터 정신, 직관, 자유의지, 자율성을 박탈함으로써 개인의 자유를 쇠퇴시킨다.
평등의 측면에서 살펴볼 때, 인공지능은 공정한 사회건설에 기여를 하지만, 인공지능이 갖고 있는 편향성으로 인종⋅성별⋅사회계층에 대한 차별을 심화시켜 사회 불평등을 낳는다. 정치과정의 자동화는 정치권력의축이 인간에게서 인공지능으로 넘어가 알고리즘 권력이 등장하여 알고리즘 민주주의가 전망된다. 알고리즘 민주주의는 데이터주의와 데이터정치를 특징으로 하며 민주주의의 규범적 기초인 자율성을 훼손시키고 정치인의 역할을 감소시킨다. 또한 정치활동을 수동적으로 만들고 딥페이크⋅마이크로마켓팅을 통해 탈진실을 가속화시켜 여론형성 및 선거과정을 왜곡시켜 민주주의를 위협한다. 인공지능은 실질적 민주주의보다는절차적 민주주의에 초점을 맞추게 되고 데이터주의에 매몰되어 디지털독재의 함정에 빠질 가능성이 높다. 알고리즘은 인간의 마음과 감정을조정할 있고, 모든 개인을 끊임없이 관찰하는 오웰적인 감시체를 만든 다. 알고리즘은 소수의 엘리트 계층에게 통제권이 부여될 가능성이 높아새로운 형태의 권위적 지배양식이 등장할 것이다. 인공지능 거버넌스는현대 대의민주주의의 문제를 극복하고 시민들이 정치에 적극 참여하여민주주의를 회복할지 아니면 데이터엘리트집단에 의한 디지털전체주의로 갈지에 대한 기로에 서 있다. 디지털 독재를 넘어서서 새로운 대안정치체제를 이루기 위해서는 시민사회가 데이터 통제권을 확보하고 인간의 권위가 데이터의 권위로 대체되지 않아야 한다.

영어초록

The Artificial Intelligence(AI) is shaping the future of politics in the digital revolution. AI begins to take definite shape in policy-making and politics with the rise of data science and the development of algorithms. In this context, this paper discusses how AI will change democracy in terms of liberty, equality, and political activity. First of all, AI will have positive effects on extension of human liberty through increasing civilian engagement of politics, extending digital freedom, and making human enhancement. On the other hand, AI will undermine civil liberties as a profound threat to our mind, intuition, free will, and autonomy by the quantified self, algorithm displacing human dignity, and deployment of robots for human jobs. Regarding with equality, AI will contribute to make our society more equal, while it is likely to reinforce ethical, gender, and social inequality with its biases and prejudices. And automated political process is to shift more political power from individual humans to algorithm, and to realize algorithmic democracy with the rise of algorithmic power. The algorithmic democracy features dataism and data politics, and thus undermines human autonomy as the normative foundations of democracy and decreases the roles of politicians. It makes political activities seem passive. Also, it makes post-truth accelerated using deepfake technology and micro-targeted political advertisements, and threatens democracy distorting public opinions and election processes through them. AI is likely to be trapped to digital dictatorship due to paying attention to more procedural democracy than substantive democracy and getting more obsessed by dataism. In order to overcome digital dictatorship and establish new alternative political system, civil society is to gain control over data. We should not let data make many decisions for ourselves and take more authority over our lives.

참고자료

· 없음