범죄현상에 있어 생성형 AI의 명과 암 (The Light and Shade of Generative AI in Crime)

서지정보

· 발행기관 : 한국민간경비학회
· 수록지 정보 : 한국민간경비학회보 / 22권 / 5호 / 117 ~ 142페이지
· 저자명 : 홍승표

초록

이 연구는 지난 2022년 이후 전 세계적으로 주목 받고 있는 생성형 AI에 관한 내용으로 구성되어 있다. 구체적으로 AI 및 생성형 AI에 관한 내용을 논의하고 이와 같은 생성형 AI의 범죄 악용 측면과 범죄 문제 해결 적용 측면을 구분하여 확인하는 내용으로 구성되어 있다. 연구 결과를 정리하면 다음과 같다.
첫째, 생성형 AI의 범죄 악용 가능성 및 사례로 사이버 보안 위협 코드의 생성 및 딥페이크 문제를 제시할 수 있다. 이러한 문제점을 확인하기 위해 생성형 AI 중 대중적으로 가장 많이 활용되고 있는 ChatGPT를 실제로 활용하였고, 사이버 보안 위협 코드 제작에 활용될 수 있는 정보를 얻을 수 있었다. 다음으로 생성형 AI를 활용한 딥페이크 범죄 문제라고 간주되는 딥페이크 포르노와 인물 합성 등의 문제 및 사례를 확인하였다.
둘째, 이와는 반대로 생성형 AI에 근거한 범죄 문제 해결 사례를 확인하였다. 확인 결과 NYPD에서 현재 활용 중인 성매매 방지 챗봇, 다크웹 상에서 발생하는 범죄 문제 해결을 위한 다크버트, 그리고 우리 나라 공공기관에서 활용하거나 도입 예정인 생성형 AI 기반 모델을 확인할 수 있었다.
이와 같은 연구 결과를 바탕으로 생성형 AI에 기반한 범죄를 근절할 수 있는 방안을 제언하였다.

영어초록

This study consists of Generative AI that have been attracting worldwide attention since 2022. Specifically, it consists of discussing AI and Generative AI and separately confirming the criminal abuse aspect of Generative AI and the application aspect of criminal problem solving. The results of the study are summarized as follows.
First, the creation of deepfake and cybersecurity threat codes can be presented as possible criminal abuse and examples of Generative AI. To confirm this problem, ChatGPT, which is most widely used among Generative AI, was actually used, and information that could be used to create cybersecurity threat codes could be obtained. Next, problems and cases such as deepfake pornography and person synthesis, which are considered deepfake crime problems using Generative AI, were identified.
Second, on the contrary, cases of solving crime problems based on Generative AI were identified. As a result, we were able to confirm the anti-prostitution chatbot currently being used by NYPD, and the Darkbert to solve crime problems on the dark web, and the Generative AI-based model used or planned to be introduced by public institutions in Korea.
Based on the results of these studies, a plan to eradicate crimes based on Generative AI was suggested.

참고자료

· 없음