M&S 기반 위협모델링을 활용한 LLM(DeepSeek, GeDAI, ChatGPT)의 해킹 위협과 사이버 보안 연구 (Research on Hacking Threats and Cybersecurity of LLM (DeepSeek, GeDAI, ChatGPT) Using M&S-based Threat Modeling)

서지정보

· 발행기관 : 한국해군과학기술학회
· 수록지 정보 : 한국해군과학기술학회지 / 8권 / 1호 / 23 ~ 29페이지
· 저자명 : 김승우

초록

대규모 언어 모델(LLM)은 자연어 처리 기술의 발전을선도하고 있지만, 동시에 프롬프트 인젝션, 데이터 유출, 적대적 예시 공격과 같은 보안 위협을 초래하고 있다.
DeepSeek, GeDAI, ChatGPT를 대상으로 해킹 취약점을분석하고, 각 모델이 직면한 보안 위협과 이를 방어하기위한 기술적 대응책을 제시한다. 특히, GeDAI는 2025년자유의 방패(FS) 연합연습에서 군사 작전 지원을 위해시범 운용될 예정이며, 군사적 활용 가능성과 보안강화를 위한 추가적인 연구가 필요하다. 본 연구는M&S 기반 시뮬레이션 환경에서 Microsoft사의 STRIDE 위협모델링 기법을 적용하여 LLM의 잠재적 위협을식별하고, 이를 바탕으로 보안 코딩 및 시스템 설계측면에서의 대응 방안을 도출함으로써 안전한 LLM 구축 방향성을 제시한다.

영어초록

Large Language Models (LLMs) are leading the advancement of natural language processing technology, but they also introduce security threats such as prompt injection, data leakage, and adversarial example attacks. This study analyzes hacking vulnerabilities in DeepSeek, GeDAI, and ChatGPT, identifying the security risks each model faces and proposing technical countermeasures. Notably, GeDAI is scheduled for pilot operation during the 2025 Freedom Shield (FS) joint military exercise to support military operations, highlighting the need for further research on its military applicability and security enhancement.
This research applies Microsoft’s STRIDE threat modeling within an M&S-based simulation environment to identify potential risks in LLMs and presents secure coding practices and system design strategies to guide the development of safer LLMs.

참고자료

· 없음