설명 가능한 AI 기법을 활용한 사이버범죄 탐지 연구 (A Study on Cybercrime Detection Using Explainable AI Technique)

서지정보

· 발행기관 : 한국인터넷방송통신학회
· 수록지 정보 : 한국인터넷방송통신학회 논문지 / 25권 / 2호 / 243 ~ 249페이지
· 저자명 : 손진구, 송정영

초록

본 연구는 네트워크 기술 발전으로 복잡해진 사이버범죄 환경에서, AI 기반 침입 탐지 시스템의 신뢰성과 해석가능성을 향상시키기 위한 설명 가능한 AI(XAI) 기법을 제안한다. Grad-CAM++과 Occlusion Map을 결합한Combined Heatmap을 도입하여, UNSW-NB15 데이터셋을 이용해 CNN 모델을 학습·평가하고, 모델이 탐지한 네트워크 트래픽 패턴과 주요 Feature의 역할을 시각화하였다. 실험 결과, 제안 기법이 기존 기법보다 탐지 성능과 해석가능성을 크게 개선하여 높은 정확도와 정밀도를 달성함을 확인하였으며, 이를 통해 AI 기반 IDS의 탐지 근거를 명확히하고 수사 과정에서의 활용성을 높일 수 있음을 제시한다. 향후 연구에서는 다양한 네트워크 공격 유형 및 실시간 시스템 적용에 관한 연구로 확장할 예정이다.

영어초록

This study proposes an explainable artificial intelligence (XAI) method to enhance the reliability and interpretability of AI-based intrusion detection systems (IDS) in a complex cybercrime environment driven by advances in network technology. We introduce a Combined Heatmap technique that integrates Grad-CAM++ and Occlusion Map to visualize the network traffic patterns detected by a CNN model. The method is evaluated using the UNSW-NB15 dataset, where the model is trained on 10 key features normalized via Min-Max scaling. Experimental results demonstrate that the Combined Heatmap approach significantly improves detection performance and interpretability, achieving high accuracy and precision compared to conventional methods. These findings clarify the underlying decision process of the AI-based IDS and enhance its trustworthiness for investigative purposes. Future work will focus on validating the approach with diverse network attack types and extending its application to real-time detection systems.

참고자료

· 없음