딥페이크와 법: 스위스 법률을 중심으로 (Deepfake and the Law: Focusing on Swiss Legislation)

서지정보

· 발행기관 : 건국대학교 법학연구소
· 수록지 정보 : 일감법학 / 59호 / 577 ~ 611페이지
· 저자명 : 송정민

초록

진실과 현실의 본질에 대한 의문은 오랜 철학적 탐구의 주제였다. 우리 사회가 점점 디지털화되고 자동화됨에 따라, 디지털 공간에서 여론이 형성되는 것은 중요한 의미를 가진다. 거짓또는 가짜뉴스는 허위정보의 의도적인 확산을 통해 정보 왜곡을 유발시키는 매우 강력한 형태이다. 이 비교적 새로운 현상은 인공지능 기술을 통해 생성된 미디어 콘텐츠(사진, 비디오또는 오디오 녹음)로, 그 내용과 의미가 완전히 새롭게 만들어지거나 의도적으로 왜곡된다.
또한 실제 인물과의 합성 영상이나 존재하지 않는 인물의 이미지 생성도 기술적으로 가능하다. 이를 통해 소셜 플랫폼에서는 실제로 일어나지 않은 사건이 현실처럼 대중에게 제시될 수있다. 인공지능을 활용하여 생성된 매우 현실성 있는 영상, 이미지 및 음성 녹음을 변형하고생성하는 것을 소위 ‘딥페이크’라 하며, 이는 피해자의 인격권뿐만 아니라 디지털 공간에서의 여론 형성에도 상당한 위험을 초래할 수 있다. 이러한 최신 기술의 남용은 높은 진위성으로인해 특히 위험한 정보 왜곡의 형태로, 미래에는 지금보다 더 의도적으로 허위 정보를 퍼뜨리는 데 사용될 것으로 예상되므로 이에 관한 현실적인 대응이 요구된다. 그러나 현재까지 ‘가짜 콘텐츠의 범람’과 정치적 신뢰의 침식이 실제로 발생하지 않았다는 점을 간과해서는 안된다.
이는 고급 딥페이크 소프트웨어가 여전히 비전문가에게 쉽게 사용되지 않기 때문이다. 현재시중에 있는 간단한 앱들은 대개 평균적인 품질의 딥페이크만을 생성하며, 종종 워터마크가붙거나 낮은 품질로 인해 쉽게 식별된다. 반면, 필요한 기술과 자원을 가진 전문가들은 고품질의 딥페이크를 제작할 수 있다. 따라서 대중을 대상으로 한 대응보다 전문가 집단에 대한 대응이 더욱 필요하며, 이는 형법의 방어선을 유지하면서 딥페이크의 위험을 효과적으로 관리하는 데 기여할 것이다. 즉, 전문가들이 딥페이크 기술의 발전에 대응할 수 있도록 교육하고 관련 법률 및 규제를 강화하는 것이 중요하다.

영어초록

The question of the nature of truth and reality has long been a topic of philosophical inquiry. As our society becomes increasingly digital and automated, the formation of public opinion in the digital space has emerged as an important issue. This is because the boundary between reality and illusion can easily blur. False or fake news is a powerful form of information distortion caused by the intentional spread of misinformation. This relatively new phenomenon involves media content (photos, videos, or audio recordings) generated through artificial intelligence technology, where the content and meaning are either completely newly created or intentionally distorted. Additionally, it is technically possible to create composite images of real individuals or images of non-existent people. Through this, social platforms can present events that did not actually occur as if they were real to the public. The highly realistic videos, images, and audio recordings generated using AI are referred to as “deepfakes”, which pose significant risks not only to the personal rights of victims but also to the formation of public opinion in the digital space. The misuse of these cutting-edge technologies represents a particularly dangerous form of information distortion due to their high veracity, and it is expected that they will be used even more intentionally to spread false information in the future, necessitating realistic responses. However, it should not be overlooked that the “flood of fake content” and the erosion of political trust have not yet actually occurred. This is because high-quality deepfake software is still not easily accessible to non-experts. Currently available simple apps generally produce only average-quality deepfakes, which are often easily identifiable due to watermarks or low quality. In contrast, experts with the necessary skills and resources can create high-quality deepfakes. Therefore, preparation for expert groups is more necessary than public-targeted responses, as this will contribute to effectively managing the risks of deepfakes while maintaining legal defenses. Thus, it is crucial to educate experts to respond to the advancement of deepfake technology and to strengthen relevant laws and regulations.

참고자료

· 없음