탈(脫)인간 행정에 대한 공법적 대응 (How to deal with public law regarding administration by artificial intelligence)

서지정보

· 발행기관 : 한국비교공법학회
· 수록지 정보 : 공법학연구 / 25권 / 3호 / 125 ~ 153페이지
· 저자명 : 노기현

초록

인공지능 시스템에 의한 완전 자동화된 행정결정이라는 탈(脫)인간 행정은 다양한 행정영역에서 그 행정활동을 강화하고 있다. 현행 「행정기본법」 제20조(자동적 처분)에서 탈(脫)인간 중심의 행정을 새롭게 규정하면서, 기존의 “인간 중심적 사고”에서 “탈(脫)인간 체계적 사고”로의 행정주체의 개념 확장이라는 패러다임의 전환을 가져오게 되었다.
한편, 인공지능에 의한 자동적 처분은 무엇보다 ‘투명성의 확보’가 매우 중요하며, 재량행위에 대해서도 인공지능 시스템에 의한 자동적 처분이 허용되어야 할 것이다. 하지만 인공지능에 의한 자동적 처분의 ‘대상 영역’에 있어서도 일정한 한계가 있다는 점에 주의할 필요가 있다. 그리고 인공지능에 의한 자동적 처분은 「행정기본법」 제36조 및 37조에 따른 이의신청 및 재심사 규정이 적용되며, 「국가배상법」 제5조상의 책임을 지게되며, 행정심판 또는 행정소송을 통하여 위법한 자동적 처분에 대해 권리구제를 도모할수 있을 것이다.
다만, 인공지능 시스템에 의한 완전 자동화된 행정에 대한 현행 행정법률은 규율을 함에 있어 한계가 있어 현행법의 개정이 필요하다. 인공지능 시스템상의 알고리즘의 투명성은 매우 중요한 문제로서, 이러한 투명성의 원리를 「행정기본법」 제20조에 추가시키는 것을 고려해 볼 수 있다. 또한 「행정기본법」 제20조의 단서조항을 삭제할 필요가 있다. 인공지능에 의한 완전 자동적 처분이 가능한 ‘대상 영역’과 관련한 조항 및 알고리즘에 대한 ‘설명신청권’을 인정하는 조항의 신설도 고려할 수 있다.
그리고 인공지능 시스템에 의한 완전 자동화된 행정결정이라는 탈(脫)인간 행정과 관련한 독자적인 특별법을 제정하는 방안도 검토할 수 있으며, 또한 인공지능 시스템에 의한 행정 전반에 대한 내용을 담은 “조례”를 우선 제정해서 운영하는 방안도 고려할 수 있다.
아무튼 인공지능에 의한 행정활동이 점점 확대되고 있는 현실에서 기존의 “인간 중심적 사고”의 행정법학은 새롭게 대두한 “탈인간 체계적 사고”와의 조화와 융합을 도모하면서, 법치행정을 실현하는 방향으로 계속 나아가야 할 것이다.

영어초록

Human-free administration, characterized by fully automated administrative decisions made by artificial intelligence systems, is strengthening administrative activities across various administrative areas. Article 20 (Automatic Dispositions) of General Act On Public Administration (GAOPA) newly defines human-free administration, leading to a paradigm shift from the traditional ‘human-centered thinking’ to an expanded concept of administrative entities based on 'human-free systematic thinking.
Ensuring transparency is crucial in automated decisions made by artificial intelligence, and such automated decisions should also be allowed in discretionary actions. However, it is important to note that there are certain limitations regarding the ‘areas of application’ for automated decisions made by artificial intelligence.
Furthermore, automated decisions made by artificial intelligence are subject to the provisions for objections and re-examination under Articles 36 and 37 of GAOPA, and liability under Article 5 of State Compensation Act. Legal remedies for unlawful automated decisions can be pursued through administrative appeals or litigation.
However, current administrative laws have limitations in regulating fully automated administration by artificial intelligence systems, making it necessary to revise existing laws.
The transparency of algorithms in artificial intelligence systems is a crucial issue, and adding the principle of transparency to Article 20 of GAOPA could be considered.
Additionally, the proviso in Article 20 of GAOPA should be removed. It may also be worth considering the introduction of provisions related to the ‘areas of application’ where fully automated decisions by AI are permitted, as well as the establishment of a ‘right to request an explanation’ of the algorithm. Additionally, it is worth considering the possibility of enacting a standalone special law specifically related to human-free administration through fully automated decisions by artificial intelligence systems. Another option could be to first establish and implement an ‘ordinance’ that covers the overall administration conducted by AI systems.
In any case, given the increasing expansion of administrative activities conducted by artificial intelligence, existing administrative jurisprudence based on humancentered thinking should strive to harmonize and integrate with the newly emerging ‘human-free systematic thinking’, while continuing to advance toward the realization of rule-of-law administration.

참고자료

· 없음