자율무기의 법과 윤리 (Law and Ethics of Autonomous Weapon System)

서지정보

· 발행기관 : 건국대학교 법학연구소
· 수록지 정보 : 일감법학 / 56호 / 351 ~ 399페이지
· 저자명 : 이상용

초록

AI를 비롯한 기술의 발전에 따라 세계 각국이 자율무기체계 개발에 나서고 있다. 자율무기체계는 그 정확성으로 인해 인명 손실과 재산 피해를 줄일 수도 있지만, 전쟁의 문턱을 낮추고, 인간의 존엄성을 위협하며, 책임의 공백을 가져올 것이라는 우려 때문에 반대하는 견해도 많다. 그러나 단순한 찬반론을 넘어 ‘의미 있는 인간 통제’를 확보하는 것이중요하다. 그 통제 방안으로는 윤리적 통제와 법적 통제가 있을 수 있다.
그러나 논의의 전제로서 우선 자율무기체계의 개념을 정립할 필요가 있다. 이에 관하여많은 논쟁이 있어 왔지만, 미 국방부의 입장처럼 기능적‧관계적 관점에 따라 ‘일단 작동되면 운용자에 의한 추가적인 개입 없이도 표적을 선택하고 공격할 수 있는 무기체계’ 정도로 정의하는 것이 적절할 것이다. 한편 완전자율무기체계 개념을 둘러싼 소모적인 논란에휘말리기보다는 의미 있는 인간 통제를 실현하는 방안에 주목해야 할 것이다.
윤리적 통제를 위해서는 윤리이론을 바탕으로 실천적 윤리원칙을 마련하는 방안을검토할 필요가 있다. 그동안 제안되어 온 AI 윤리원칙들을 바탕으로 군사 분야의 특수성을 고려하여 윤리원칙을 마련할 수 있다. CCW의 자율무기체계 지도원칙이나 미 국방부의 AI 윤리원칙 등이 그 사례이다. 모범 관행의 수립이나 정치적 선언 역시 윤리원칙과마찬가지로 구속력 없는 연성 규범으로서 어느 정도 효과를 발휘할 수 있다.
법적 통제는 국제법과 국내법으로 나누어 검토할 수 있다. 다만 그 전에 자율무기체계의 법적 지위가 문제될 수 있는데, 행위성과 책임주체성이 인정되기는 어려울 것이다. 국제법적 측면에서는 국제인도법의 원칙들과 그 위반에 대한 민형사상의 책임이 문제된다. 자율무기체계는 국제인도법상 그 자체로 금지되는 무기라고는 할 수 없지만, 고차원적인 판단이 요구되는 상황에서는 인간의 도움 없이 구별의 원칙과 비례의 원칙을 준수하기는 어려우므로 일정한 경우 사용방법 상의 제한이 이루어질 필요가 있다. 자율무기체계를사용한 전쟁범죄에 대하여는 로마규정에 따른 형사책임이 인정되는데, 다만 자율무기체계를 부하로 취급하여 지휘관책임을 물을 수는 없다. 자율무기체계의 위법한 사용으로인한 피해자는 관련자들을 상대로 민사책임을 물을 수도 있다.
국내법적 통제로서는 사후적으로 민형사상의 책임을 묻는 것 외에 자율무기체계의운용과 통제에 관한 사전적 규율을 마련하는 방안이 검토되어야 한다. 미국은 국방부훈령을 통해 ‘적절한 수준의 인간 판단의 행사’를 기본원칙으로 하여 자율무기체계를개발‧운용하고 실패의 영향과 확률을 최소화하기 위한 규율을 마련하였다. 우리도 이를참고하여 자율무기체계에 관한 개념, 전략 및 전술, 절차를 확립하여 행정법규나 지침으로문서화할 필요가 있다.

영어초록

Advancements in technology, particularly in AI, have spurred countries worldwide to develop autonomous weapon systems (AWS). AWS offer the potential to reduce human casualties and property damage due to their precision but also raise concerns about warfare thresholds, human dignity, and accountability gaps.
Addressing these concerns requires establishing meaningful human control over AWS through ethical and legal frameworks. Defining AWS as systems capable of autonomous target selection and engagement, as per the U.S. Department of Defense, is essential.
Ethical control involves developing practical ethical principles, adapted from AI ethics, as a foundation. These principles should address the unique challenges of military applications, such as the CCW’s AWS guiding principles and the U.S. Department of Defense’s AI ethics principles.
Legal control spans international and domestic law. AWS blur the lines of responsibility, making determining their legal status challenging. While international law addresses principles like proportionality and distinction, implementing them autonomously is difficult.
War crimes committed with AWS can be prosecuted under the Rome Statute, but holding commanders accountable for AWS actions is complex. Victims can pursue civil liability against responsible parties.
Domestically, regulations must encompass post facto civil and criminal liability and proactive rules governing AWS. The U.S. has set guidelines emphasizing human judgment levels to minimize AWS-related risks. Other nations can use similar frameworks to formalize AWS concepts, strategies, tactics, procedures, and administrative regulations.
In conclusion, the global development of AWS, driven by technological progress, presents both benefits and concerns. To navigate this complex landscape, it is essential to ensure substantial human control over AWS, defining the concept, implementing ethical principles, and establishing legal controls. Such measures are crucial to address the ethical and legal implications arising from the evolution and deployment of autonomous weapon systems.

참고자료

· 없음