국제적 권고ㆍ지침 분석에 바탕을 둔 “인공지능(AI) 윤리” 관련 국제조약안의 모색 (Research on a Possible International Framework Treaty on the “Ethics of Artificial Intelligence” based on the Analysis of Existing Relevant Recommendations and Guidelines)

서지정보

· 발행기관 : 대한국제법학회
· 수록지 정보 : 국제법학회논총 / 67권 / 4호 / 121 ~ 152페이지
· 저자명 : 박기갑

초록

이 논문의 목적은 인공지능(AI)이 지켜야 할 윤리에 관한 가능한 국제조약 (가칭 AI 윤리조약)의 틀을 모색하는 데 있다. 이를 위하여 첫째, 이 논문은 기존에 정부간 국제기구에서 채택된 관련 문서를 검토하였다. 여기에는 2019년 European Commission의 인공지능 윤리지침, 2019년 OECD의 인공지능 권고, 2021년 UNESCO의 인공지능 윤리 권고 그리고 시민단체가 채택한 문서가 포함된다. 대한민국의 관련 지침과 현행 법령 및 관련 양자협정 역시 참고로 하였다. 둘째, 이를 통하여 AI 시스템이 전체 수명주기 동안 준수하여야 할 공통적이며 중심이 되는 원칙으로서 인권보호, 민주주의 정신과 법의 지배 존중 그리고 배분적 정의 등을 추출하였다. 셋째, 이를 토대로 “AI 윤리” 관련 조약에는 인간의 존엄성과 기본적 인권을 재확인하는 조항, 조약상의 의무를 국내법과 규칙으로 이행할 의무, AI 시스템의 투명성을 보장할 조항, 윤리영향평가에 관한 조항을 두어야 한다. 그리고 피해자의 사후구제에 관한 조항도 필요하다고 보았다. 인간의 존엄성과 기본적 인권 존중에 관해서 AI 윤리조약은 1948년 세계인권선언과 거의 대부분 국가들이 가입하고 있는 국제인권협약들에 언급된 기본 원칙들에 근거할 수 있을 것이다. 다만 AI 시스템의 특성을 고려하여 AI 시스템 전체 수명주기 동안 인권을 보호하고 존중할 것, 조약상의 의무는 비단 국가뿐만 아니라 AI 시스템의 개발과 운영에 관여하는 개인에게도 적용되도록 변형가능할 것이다. 다시 한번 AI 시스템이 갖는 상반된 측면을 강조할 필요가 있다. AI 시스템은 발전과 혁신을 통하여 인간사회의 번영과 복지에 기여할 수 있지만, 다른 한편 AI 시스템의 잘못된 운영은 인권보호, 민주주의 정신과 법의 지배 원칙에 잠재적인 위협이 될 수 있다는 것이다. 따라서 만일 국제공동체가 가까운 미래에 AI 시스템이 준수해야 할 윤리에 관한 국제조약을 채택한다면 관련 법적 문제들은 보다 투명하고 적절한 방식으로 해결될 수 있으리라 기대한다.

영어초록

The purpose of the article is to find out the framework of an international treaty on the ethics of Artificial Intelligence (AI). To this end, first, this article analyzes the main content of existing relevant international documents, namely “Ethics Guidelines for Trustworthy AI” adopted by the European Commission in 2019, “Recommendation of the Council on Artificial Intelligence” adopted by the OECD in 2019, “Recommendation on the Ethics of AI" by the UNESCO in 2021 and documents adopted by civic groups. Secondly, upon the above works, it extracts common and main principles that should be respected through the entire life cycle of AI: namely, the protection of human rights, democracy, the rule of law and distributive justice. Thirdly, we can identify the specific provisions that should be explicitly mentioned in the future treaty. These are as follows: provisions that reaffirm human dignity and fundamental human rights, provisions concerning the implementation of the obligations of the treaty into domestic legislations and rules, provisions to guarantee the transparency of AI ​​system, provisions to establish the ethical impact assessment. A provision regarding appropriate remedies for victims can be also deemed necessary.
Concerning the reaffirmation of human dignity and fundamental human rights, the general scheme of an international treaty on the ethics of AI should be based on the fundamental principles stipulated in the 1948 Universal Declaration of Human Rights and international conventions on the protection and promotion of human rights to which almost States have ratified. However, the treaty should be modified somewhat considering the specificity of the AI system. In other words, the duty to protect and respect human rights throughout the life cycle of the AI ​​system and to fulfill treaty obligations might include not only State but also individuals who participate in the development and operation of the AI ​​system.
Again, two contradictory aspects of AI system should be emphasized: first, it can contribute to the prosperity and well-being of human society through development and innovation, but on the other hand, the malfunctioning of AI system can pose a potential threat to the protection of human rights, respect for the spirit of democracy and the rule of law. Accordingly, if the international community can adopt in the near future a international treaty on the ethics of AI ​​system, the related legal issues can be dealt with in a more transparent and appropriate way.

참고자료

· 없음