인공지능 관점에서 GDPR 제22조의 인간 개입에 대한 분석 (Analysis on Human Involvement in the GDPR Article 22 in terms of Artificial Intelligence)

서지정보

· 발행기관 : 서울대학교 법학연구소
· 수록지 정보 : 경제규제와 법 / 13권 / 1호 / 37 ~ 58페이지
· 저자명 : 황지은

초록

인공지능의 발전에 따라, 인공지능 규제와 관련된 GDPR 제22조의 중요성이 커지고 있다. 자동화된 처리에만 근거한 결정에 따르지 않을 권리를 보장한 GDPR 제22조는 의사결정과정에 인간 개입이 있었는지에 따라 규제의 적용 여부가 결정되는 성격이 있다. 자동화 의사결정이 효율성, 일관성 등의 장점이 있음에도 알고리즘 결정에 인간 개입을 요구하는 것은, 알고리즘의 리스크를 감독하고 알고리즘이 반영하기 어려운 인간적 특성을 고려하기 위한 것일 수 있다. 그러나 GDPR 제22조에서의 인적 개입은 이러한 목적을 달성하지 못한 채 인공지능 환경에서 여러 한계를 보인다.
첫 번째 한계는 어느 정도로 인간이 개입해야 실질적인 인간 개입이 되는 것인지 그 기준이 불분명하다는 것이다. 두 번째로 하나의 최종 결정을 위해 여러 개의 인공지능의 판단이 연속되는 경우, 어느 단계에서 인간이 개입해야 하는지가 불분명하다. 세 번째는 정보 및 역량 등이 부족한 상황에서 실질적으로 인적 개입을 한다는 것이 현실적으로 가능한지에 대한 의문이다. 네 번째 한계는 의미 있는 인적 개입이 이루어졌는지 외부에서 감독하기가 힘들다는 것이다.
인공지능 시대에서 GDPR 제22조가 실효성을 갖기 위해서는 인간 개입을 둘러싼 한계를 극복할 필요가 있다. 첫째, 인간 개입이 실질적인지 명목적인지를 나누는 기준이 명확해야 한다. 이 논문은 이를 위해 자동화 결정과정에 대한 전반적 이해, 실제 검토행위의 존재, 최종 결정의 근거 및 과정에 대한 설명이라는 기준을 제시한다. 둘째, 여러 인공지능의 판단이 연속되는 경우, 각각의 인공지능 판단이 끝날 때마다 인간이 개입하도록 하여 인적 개입 단계를 명확히 할 필요가 있다. 셋째, 실질적 인적 개입의 실효성을 강화하기 위한 방안을 강구해야 한다. 알고리즘 감사, 설명가능한 인공지능 등을 통해 인공지능 판단과정의 투명성을 높이고, 인간의 검토 역량을 기르기 위한 훈련을 강화해야 한다. 인공지능 프로그램의 개발조직과 활용조직이 다를 경우, 제3자 기관을 통한 감사, 계약 등을 통해 인간 개입의 실효성을 확보해야 한다. 넷째, 외부 감독기관에 대한 정보 제공 및 조사 직원 역량 강화 등을 통해 외부 감독기관이 인간 개입의 적절성을 제대로 판단하도록 하여 개인정보 관리자들이 명목적 인적 개입으로 규제를 회피할 가능성을 낮추어야 한다.

영어초록

The GDPR Article 22 has been drawing attention with the development of artificial intelligence. The feature of Article 22 which guarantees the right not to be subject to a decision based solely on automated processing, is that human involvement in the decision-making process could determine the application of the regulation. Although automated decision-making has advantages such as efficiency and consistency, human involvement in algorithm decision-making could be required to supervise the risks of the algorithm and to consider human characteristics that are difficult for algorithm to reflect in decision process. However, human involvement in Article 22, without achieving these goals, presents several limitations in the AI environment.
The first limitation is that it is unclear to what extent human should step in for substantive human involvement. Second, when several AI judgments are successive for a final decision, it is ambiguous at what stage human involvement should take place. Third, it could be questionable whether meaningful human involvement is realistically possible in situations where information and capabilities for reviewing the AI decision are deficient. The fourth is that external supervision of whether it is meaningful human involvement could be difficult.
In order to become effective regulation in the AI ​​era, Article 22 needs to solve the limitations on human involvement. First, the standard for classifying whether human involvement is nominal or substantive should be distinct. To this end, this paper suggests the criteria of the general understanding of the automated decision-making process, the existence of actual review actions, and explanation of the basis and process for the final decision. Second, when multiple AI decisions are consecutive, it is required to clarify the stage of human involvement by letting human to involve at the end of each automated decisions. Third, measures to strengthen the effectiveness of substantive human involvement including transparency enhancing system such as algorithmic auditing and explainable AI, training for human review capability, and auditing through third-party organizations should be devised. Fourth, it is necessary to strengthen external supervision by providing sufficient information and improving capacity of supervisory authorities.

참고자료

· 없음