디지털 플랫폼 시대 자동화 거버넌스와 ‘나쁜 말’의 규제 (Automated Governance in Digital Platform Age and Exploration of ‘bad words’ regulation in South Korea)

서지정보

· 발행기관 : 사이버커뮤니케이션학회
· 수록지 정보 : 사이버커뮤니케이션학보 / 40권 / 1호 / 277 ~ 317페이지
· 저자명 : 홍남희

초록

이 연구는 디지털 플랫폼 중심의 동시대 매체 환경에서 인터넷 내용규제가 점차 자동화 거버넌스 체제로 구축되어 가고 있으며, 이러한 자동화 거버넌스가내용규제를 ‘무례함’ 혹은 ‘나쁜 말’의 규제로 환원시키고 있다고 보았다. 혐오표현, 테러리즘 정보, 성차별적 혐오표현 등이 디지털 플랫폼을 매개로 유통되는 환경에서 디지털 플랫폼의 사회적 책무로서 콘텐츠에 대한 관리 및 조정(moderation) 의무가 부상하고 있다. 국가와 사회의 요구에 따라 디지털 플랫폼은 AI를 도입해 자동화된 콘텐츠 관리 및 거버넌스 체제를 구축하고 있는데, 이러한 자동화 거버넌스는 온라인에 유통되는 방대한 정보 양으로 인해 정보의처리 속도를 빠르게 하기 위한 방식이자 사회적 문제의 기술적 해법 방식이며, 기존의 데이터셋을 기반으로 욕설, 표현의 강도를 규제하는 방식으로 나타난다. 따라서 자동화 거버넌스는 AI를 통해 거버넌스를 기계화, 자동화하는 방식임과 동시에, 인간에 의해서 수행되더라도 욕설, 표현의 강도를 기준으로 기계적으로 수행되는 내용규제를 뜻한다. 이러한 자동화 거버넌스 과정에서 미묘한 차별 및 혐오표현이나 기술-인간이 매개된 다양한 괴롭힘 행위, 시각적인밈의 유통 등은 규제되지 않으며, 주로 데이터셋에 선(先) 저장된 공격적이고 저속한 표현, 욕설 등 ‘나쁜 말’의 규제가 정착되고 있다. 이 글은 이러한 자동화 거버넌스가 오늘날 디지털 환경에서 발생하는 문제들을 개인화, 사법화하고 있으며, ‘저속한 말’ 중심 규제로 환원되면서 기술-인간-문화가 결합한 디지털 환경의 맥락을 제거하고 있음을 비판적으로 탐색하였다. 따라서 인터넷 내용규제가 사회적, 역사적 맥락, 차별에 대한 감수성을 고려하여 재편될 필요가 있음을 강조한다.

영어초록

In this study, in a situation where digital platforms play a role in mediating our daily life and culture, content moderation is gradually changing to an automated governance system. In a digital platform ecosystem where User Generated Content (UGC) is the core, content moderation is defined as removing or prohibiting illegal or harmful content. As hate speech, terrorism, and sexism occur through digital platforms, and most countries impose the task of content moderation as a social responsibility of digital platforms. Under the needs of the state and society, digital platforms introduce AI to build an automated content moderation and governance system. In an automated governance system, offensive and bad words stored in datasets are automatically filtered out, and content moderation centred on aggressive “bad words” that are hostile and unpleasant is being established. This article criticizes that such automated governance is personalizing and judicializing various issues arising in the digital ecosystem, and eliminating the complex and diverse context of technology-human-culture by reducing specific vulgar language. Therefore, it is argued that content moderation needs to be reorganized from the viewpoint of technology-human-culture, considering the social and historical context and sensitivity to discrimination.

참고자료

· 없음