생활과 윤리 소논문 수상작 AI 딥페이크 기술을 이용한 음란물에 대한 윤리적 검토와 개선방안 / 의무론과 공리주의를 중심으로

소개

서울 소재 공립 특목고등학교(국제고) 소논문 보고서대회 수상작입니다.

AI 딥페이크 기술을 이용한 음란물에 대한 윤리적 검토와 개선방안 ; 의무론과 공리주의를 중심으로

목차

Ⅰ. 탐구 목적 및 주제 선정 이유
1. 주제 선정 이유

Ⅱ. 선행 연구 검토
1. 용어 정의와 이론적 이해
2. 딥페이크 기술 사용 현황

Ⅲ. 윤리적 평가
1. 칸트의 의무론적 관점
2. 공리주의적 관점
3. 견해

Ⅳ. 결론 및 제언

본문내용

Ⅰ. 탐구 목적 및 주제 선정 이유
1. 주제 선정 이유
'현대사회와 철학' 교과 시간에 배우게 된 철학자 한스 요나스(Hans Jonas)의 책임 윤리는 말 그대로 '현대사회'에 필요한 윤리 의식이다. 그는 21세기에 들어서 급속도로 진행된 정보화를 경험하지 못했음에도 불구하고, 우리 시대에 필요한 정확한 윤리적 진단을 내렸다. 그는 기술은 급속도로 발달하지만, 사람들의 윤리 의식은 그 속도를 쫓아가지 못해 발생하는 '윤리적 공백' 현상에 대한 문제 의식을 갖고 있었고, 이는 오늘날 더욱 유효하다.
그러나 그의 논의에서는 정보 기술, 특히 인공지능 기술에 대한 고려가 존재하지 않는다. 현대인들의 뒤쳐진 윤리의식이 인공지능 기술과 인터넷의 익명성과 만났을 때, 사이버 공간은 현실의 부도덕과 폭력을 제한 없이 재현하는 전쟁터로 전락한다. 최근 빈번하게 일어나고 있는 사이버 성범죄, 가짜뉴스 유포 등의 사례들이 이를 단적으로 보여준다. 텔레그램 등 폐쇄적인 SNS, 해외에 서버를 두고 있어 익명성이 보장되는 딥웹 커뮤니티 등에서 일어난 성범죄, 사기, 폭력 사건들은 정보기술이 더 이상 인간을 '해방'하기만 하지는 않는다는 것을 드러낸다.
최근 등장한 딥페이크(Deepfake) 기술은 이러한 정보기술의 대표적인 사례이다. 머신러닝 기술을 통해 빠르고 쉽게 영상을 합성할 수 있게 해주는 이 기술은 일견 굉장히 유용하고 혁신적으로 보인다. 그러나 2020년 현재, 해당 기술은 불법 성인물이나 가짜 뉴스 유포의 목적으로 사용되고 있다. 이러한 현상은 유튜브, 틱톡 등의 인터넷 커뮤니티가 영상을 중심으로 발달하면서 더욱 더 심화되고 있다. 이런 상황 속에서, 해당 기술을 윤리적으로 검토할 필요를 느꼈다.

Ⅱ. 선행 연구 검토
1. 용어 정의와 이론적 이해
윤리적인 평가를 하기 앞서, 해당 기술에 대한 이해가 필요하다. 딥페이크(Deepfake)는 딥러닝(Deep learning)을 통해 동영상위에 다른 이미지를 중첩하여 조작(Fake)된 영상을 만들어 내는 기술을 말한다(R. Chawla, 2019).

참고자료

· 송성수. 과학기술자의 사회적 책임과 윤리. 서울: 과학기술정책연구원, 2018.
· "인공지능 포르노 '딥페이크'···피해자 25%가 한국 女연예인." 중앙일보. 2019년 10월 10일 수정, 2020년 8월 6일 접속, https://news.joins.com/article/23599737.
· 최순욱, 오세욱, 이소은 (2019). 딥페이크의 이미지 조작 : 심층적 자동화에 따른 사실의 위기와 푼크툼의 생성. 미디어, 젠더 & 문화, 34(3), 339-380
· "SNS 판치는 ‘지인 능욕 계정’…여성들 뿔났다." 한국일보. 2017년 7월 13일 수정, 2020년 8월 3일 접속, https://www.hankookilbo.com/News/Read/*************79716.
· Alan Zucconi (2018.03.14.). “An Introduction to DeepFakes”
· https://www.alanzucconi.com/2018/03/14/introduction-to-deepfakes/
· D. Guera and E. J. Delp, “Deepfake video detection using recurrent neural networks.” Proceedings of the IEEE International Conference on Advanced Video and
· Signal Based Surveillance, p. 1.6, Nov. 2018.
· Henry Ajder, Giorgio Patrini, Francesco Cavalli, Laurence Cullen. Report 2019: The State Of Deepfakes - LANDSCAPE, THREATS, AND IMPACT. n.p.: Deeptrace , 2019.
· R. Chawla, "Deepfakes : How a pervert shook the world." international journal of advance reserch and development, vol 4, issue 6, p.4-8, 2019.
· Tormod dag Fikse, "Imaging Deceptive Deepfakes Anethnographic exploration offake videos" Master's thesis University of Oslo, Oct, 2018.
· "You Won’t Believe What Obama Says In This Video!." Youtube. 2018년 4월 17일 수정, 2020년 8월 6일 접속, https://www.youtube.com/
· watch?v=cQ54GDm1eL0#action=share.