범죄심리와 인공지능(AI): 위험요인과 시사점 (Criminal Psychology and Artificial Intelligence (AI): Risk Factors and Implications)

서지정보

· 발행기관 : 한국범죄심리학회
· 수록지 정보 : 한국범죄심리연구 / 20권 / 4호 / 105 ~ 130페이지
· 저자명 : 성용은

초록

범죄심리 영역에서 인공지능(AI)은 범죄예방, 수사 및 범죄자 재활 프로그램의 개선을 위한 광범위한 데이터에 기반한 정보 를 제공하고 분석해 줌으로서 범죄대응을 위한 효과적인 기술개발과 응용에 큰 영향을 미칠 수 있는 잠재력이 있다. 이 연구에 서는 범죄심리 영역에서 인공지능(AI)의 활용에 대해서 살펴본 후, 인공지능(AI)의 위험요인을 분석하고 이에 대한 시사점을 논의하였다. 이 연구를 위해서 관련 학술연구결과 및 연구보고서, 그리고 최근 언론보도자료의 분석을 통한 문헌연구방법으로 수행되었다. 연구결과, 범죄심리 영역에서 인공지능(AI)의 위험요인으로는 1) 편견과 차별(인공지능 알고리즘의 편향성), 2) 투 명성과 정확성의 부족(블랙박스 효과), 3) 윤리적 우려, 4) 인공지능(AI)에 대한 과도한 의존, 5) 데이터 프라이버시 및 보안 침해, 6) 잘못된 판단에 대한 책임 및 의무 소재의 불분명, 7) 인간 심리평가의 불완전성, 8) 인공지능(AI) 시스템의 조작 및 오용, 9) 형사사법에서 인간적 요소의 상실을 확인했다. 이에 대한 시사점으로 범죄행동을 프로파일링하거나 예측하는데 사용되 는 인공지능(AI) 기반 예측 시스템은 본질적으로 결함이 있거나 지나치게 결정적일 수 있음을 지적했다. 또한 인공지능(AI) 알 고리즘의 편향성, 개인 정보 보호 권리, 예측적 경찰활동에의 오용 가능성 등의 윤리적 문제가 발생한다. 따라서 인공지능(AI) 시스템 운용의 공정성과 투명성을 보장해야 한다. 인공지능(AI) 시스템 운용의 공정성 확보를 위해서 편견의 배제, 윤리성 제고, 그리고 투명성 확보를 위해서 엄격한 감독, 지속적인 평가, 전문가의 참여가 요구된다. 형사정책 책임자, 범죄심리학/경찰학자, 과학기술자는 범죄심리 영역에서 인공지능(AI) 기술의 이용을 위해서 인간의 판단, 책임, 그리고 윤리적 기준을 균형있게 조절 하기 위한 체계적인 시스템을 구축해 나갈 필요가 있다. 끝으로 이 연구의 학술적·정책적 의의와 함께 연구의 한계에 대해서 논 의하였다.

영어초록

In the field of criminal psychology, artificial intelligence (AI) has the potential to have a significant impact on effective technology development and application for crime response by providing and analyzing information based on extensive data for improving crime prevention, investigation, and offender rehabilitation programs. This study examined the use of AI in the field of criminal psychology, analyzed the risk factors of AI, and discussed its implications. This study was conducted using a literature review method that analyzed related academic research results, and research reports, and recent press articles. The results of the study confirmed that the risk factors of AI in the field of criminal psychology include: 1) prejudice and discrimination (bias of AI algorithms), 2) lack of transparency and accuracy (black box effect), 3) ethical concerns, 4) excessive reliance on AI, 5) data privacy and security violations, 6) unclear responsibility and accountability for incorrect judgments, 7) imperfection of human psychological assessment, 8) manipulation and misuse of AI systems, and 9) loss of human elements in criminal justice. As an implication of this, it was pointed out that AI-based predictive systems used to profile or predict criminal behavior may be inherently flawed or overly deterministic. In addition, ethical issues arise, such as the bias of AI algorithms, privacy rights, and the possibility of misuse in predictive policing. Therefore, the fairness and transparency of the operation of AI systems must be guaranteed. In order to secure the fairness of the operation of AI systems, strict supervision, continuous evaluation, and participation of experts are required to eliminate bias, enhance ethics, and secure transparency. Criminal justice policymakers, criminal psychologists/police science scholars, and scientists need to build a systematic system to balance human judgment, responsibility, and ethical standards for the use of AI technology in the field of criminal psychology. Finally, the academic and policy implications of this study were discussed along with its limitations.

참고자료

· 없음