딥페이크 기술을 활용한 범죄 예방을 위한 법제도 개선방안 (Legal and Institutional Improvement Measures for Preventing Crimes Utilizing Deepfake Technology)

서지정보

· 발행기관 : 한국법학회
· 수록지 정보 : 법학연구 / 24권 / 4호 / 113 ~ 138페이지
· 저자명 : 강주영, 홍준호

초록

오늘날 딥페이크 기술은 사생활 침해, 저작권 침해, 허위정보 유포 등 다양한 범죄와 논란의 중심이 되고 있다. 딥페이크 기술이 점차 고도화됨에 따라 일반인들이 콘텐츠의 진위 여부를 판별하는 것이 어려워졌고, 피해자 보호 및 예방을 위해서 사후 대처뿐만 아니라 사전 규제도 요구되는 실정이다.
미국은 딥페이크 책임법안 등을 통해 디지털 워터마크 부착과 명확한 표시 의무를 규정하고 있으며, EU는 「인공지능법」을 통해 AI 생성물에 대한 식별과 허위정보 유포 규제를 명확히 하고 있다. 우리나라의 경우 개별법은 없으나 「공직선거법」과 「성폭력처벌법」으로 딥페이크 관련 범죄를 제한적으로 제재하고 있다. 그러나 딥페이크에 대한 통일된 법적 정의가 부재하고, 딥페이크 영상임을 표시하지 않을 경우에 영상의 진위여부의 식별이 불가하며, 행정기관의 관련 업무 기능들이 분산되어 있어 신속한 처리와 대응이 어렵다는 문제가 여전히 과제로 남아 있는 상황이다.
이에 본 연구에서는 딥페이크 기술의 합법·불법 사용을 명확히 구분하기 위한 법률상 정의 규정 신설, 자동 추적이 가능한 워터마크 의무화, 범부처 협의체 구성과 국제 협력 강화를 제안하였다. 딥페이크 기술의 역기능에 집중하기보다 기술과 인류가 공존할 수 있는 균형적인 법·제도적 대응방안을 마련하는 것이 중요하다.

영어초록

Deepfake technology has become a focal point of numerous crimes and controversies, including privacy violations, copyright infringement, and the spread of misinformation. As the sophistication of deepfake technology continues to advance, the general public's ability to discern authentic content from fabricated material has significantly diminished. This growing challenge necessitates the adoption of proactive regulatory measures in addition to reactive responses to protect victims and prevent the misuse of such technologies.
In the United States, legislation such as the DEEPFAKES Accountability Act mandates the use of digital watermarks and explicit labeling for AI-generated content. Similarly, the European Union's Artificial Intelligence Act enforces identification requirements for AI-generated outputs and establishes robust regulations to combat the dissemination of false information. In contrast, South Korea currently lacks dedicated legislation governing deepfake technology. Related offenses are addressed under laws such as the Public Official Election Act and the Act on Special Cases Concerning the Punishment of Sexual Crimes, but significant gaps remain. These include the absence of a legal definition for deepfake technology, difficulties in verifying the authenticity of unlabeled content, and fragmented administrative responsibilities, which hinder efficient and timely responses.
This study proposes several measures to address these shortcomings: introducing a legal definition to clearly distinguish lawful from unlawful uses of deepfake technology; mandating the implementation of traceable digital watermarks; establishing inter-ministerial consultative bodies; and enhancing frameworks for international cooperation. By focusing not only on the negative externalities of deepfake technology but also on fostering a balanced coexistence between technological innovation and societal values, this research underscores the importance of developing comprehensive legal and institutional measures.

참고자료

· 없음