딥페이크와 여론형성 ― 알고리즘의 권력화와 탈진실의 규제담론 ― (Deepfake as powerized algorithm and public opinion regulated by post-truth)

서지정보

· 발행기관 : 미국헌법학회
· 수록지 정보 : 미국헌법연구 / 31권 / 1호 / 199 ~ 241페이지
· 저자명 : 이민영

초록

딥페이크는 실제로 일어나지 않았지만 디지털화된 조작으로 가공된 극사실적 영상을 말하며, 인간의 특징을 그대로 따라할 수 있도록 훈련받아 일련의 정보 샘플을 분석하는 신경망을 근간으로 한다. 그 처리는 알고리즘의 딥러닝과 결부되는바, 소셜미디어로 급속히 전파되는 데 최적화되어 있는 까닭에 그 진위 여부가 쉽게 간파되기 않는 딥페이크 영상은 좀처럼 가짜로 생각되지는 않는다. 문제는 딥페이크가 사실로 검증된 뉴스를 허위조작정보로부터 걸러내려는 정론에 위압을 가하고, 선동적 주장과 선거개입의 유포로 국가안보를 위협하며, 공신력 있는 정보에 대한 신뢰를 저지할 뿐만 아니라, 사이버보안 이슈를 유발하기 때문에, 사회경제적･정치체제적 측면에서 주요한 위험요인이 된다는 점이다.
주목할 것은 진실의 왜곡과 허위사실의 조작이라는 측면에서 딥페이크의 본질은 탈진실이라는 점이다. 탈진실은 ‘객관적 사실이 공론을 형성하는 데 개인적인 신념과 감정에 호소하는 것보다 영향력을 덜 끼치는 환경’을 뜻하는바, AI가 여론형성에 미치는 영향은 탈진실로 대변된다. 그리하여 탈진실 개념은 진실과 사실이 중요하지 않게 된 시대상황의 반영으로 비유되고 있으며, 디지털 정보에 대한 접근의 증대와 그 전달속도의 폭증은 인터넷을 통한 사적 담화가 권위 있는 담론이나 여론을 대체하면서 드러나기 시작했다.
본고는 이와 같은 관점에서 딥페이크와 여론형성에 관한 문제가 다른 사안과 마찬가지로 바람직하지 못한 사회현상의 정상화 차원에서 검토되기 위한 법원리적 논제를 되묻고 더듬어보려 하였다. 그리하여 여전히 입법기술적인 차원에서의 법 제･개정 문제를 과제로 삼더라도 그 현안을 의제의 차원에서 숙고하면서 공감대를 형성하는 숙의민주주의의 실현이 병행되어야 함을 강조하고 있다. 그리고 간과하지 말고 경계해야할 주요쟁점 가운데 알고리즘의 권력화를 염두에 두어야 함을 유의하면서 법이념에 응축되는 법제도의 구체적 논의에서 되짚을 것을 제언한다.

영어초록

A combination of ‘deep learning’ and ‘fake’, deepfakes are hyper-realistic videos digitally manipulated to depict people saying and doing things that never actually happened. Deepfakes rely on neural networks that analyze large sets of data samples to learn to mimic a person's facial expressions, mannerisms, voice, and inflections. The process involves feeding footage of two people into a deep learning algorithm to train it to swap faces. In other words, deepfakes use facial mapping technology and AI(Artificial Intelligence) that swaps the face of a person on a video into the face of another person.
However, the tools and tactics of public sphere manipulation we are witnessing today are unprecedented. The unethical use of Big Data and machine learning to game the public sphere in pernicious ways marks a new point of departure. For example, through the intense level of surveillance of voters afforded through digital tools, AI allows political influence to move from public campaigns to private sentiment, a shift that repositions electoral politics from a spectacle that is overt to a script that is covert. Also, as the Internet has grown, so has misinformation. It is often claimed that we live in times of ‘post-truth’.
In this viewpoint, this dissertation inquires legal review of the status quo debate on theoretical access to the law-based argument of establishment and action and policy approach to the key issues in the related issues and the agenda concerned, which is concentrated on normalizing irregularity in post-truth created by deepfakes as types of images, videos, and audios. Consequently, juridical principle for deliberative democracy should form legislative system as jurisprudential ideology against powerization of algorithm.

참고자료

· 없음