인공지능 규제의 두 가지 접근법 - 맥락 기반 규제와 능력 기반 규제 (Two Approaches for AI Regulation - Context-based Regulation and Capability-based Regulation)

서지정보

· 발행기관 : 사법발전재단
· 수록지 정보 : 사법 / 1권 / 70호 / 3 ~ 44페이지
· 저자명 : 이상용

초록

인공지능과 관련된 위험은 특정한 영역에서의 이용을 전제로 파악되는 맥락 위험과 이용 맥락과 무관하게 인공지능이 지닌 잠재적 능력에 기반하여 파악되는 능력 위험으로 나눌 수 있다. 그동안 인공지능에 대한 규제 논의는 주로 맥락 위험에 관한 것이었지만, 최근에는 능력 위험에 대한 규제도 논의되기 시작했다.
맥락 위험에 대한 규제는 모든 영역을 포괄하는 포괄적 규제(수평적 규제)와 개별 영역에 특화된 영역별 규제(수직적 규제)로 나누어 볼 수 있다. 맥락 위험에 대한 포괄적 규제 가운데 법적 규제의 사례로는 EU 인공지능법이 대표적이고, 비법적 규제의 사례로는 미국의 AI RMF가 중요하다. 맥락 위험에 대한 영역별 규제 가운데 법적 규제의 사례로는 자동차 법제 등 다양한 영역 법제들이 있고, 비법적 규제의 사례로는 ‘인공지능의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)’에서 채택된 ‘행동을 위한 청사진(Blueprint for Action)’ 등을 들 수 있다.
한편 이용의 맥락을 고려하지 않는 능력 위험의 경우 포괄적 규제와 영역별 규제라는 틀이 적용될 수 없다. 능력 위험에 대한 법적 규제의 사례로는 시스템적 위험을 지닌 범용 인공지능 모델에 관한 EU 인공지능법의 규율과 비록 주지사에 의해 거부되기는 했지만 캘리포니아의 프런티어 인공지능 법안(SB-1047)이 있고, 비법적 규제의 사례로는 앤트로픽의 자율규제(RSP)가 대표적이다.
변화의 속도가 빠르고 영향 범위가 넓은 범용 신기술로서의 인공지능과 관련된 규제는 무엇보다 유연한 것이어야 한다. 이를 위해서는 정보 획득에 초점을 맞춘 적응적 규제나 자율규제와 같은 방법들이 도움이 된다. 맥락 위험의 경우 포괄적인 위험관리를 위한 프레임워크는 지침이나 표준과 같은 비법적 규제에 의하고, 영역별로 특별히 필요한 경우에 한하여 법적 규제를 하는 것이 바람직하다. 능력 위험의 경우 아직 위험의 실체나 대응방법에 관하여 잘 알지 못하므로 정보 획득에 초점을 맞추어 자율규제 등의 비법적 규제를 활용할 필요가 있다.

영어초록

The risks associated with artificial intelligence can be divided into contextual risks, which are identified based on its use in specific domains, and capability risks, which arise from AI's potential abilities regardless of the context of use. Until now, discussions around AI regulation have mainly focused on contextual risks, but recently, the regulation of capability risks has also gained attention.
Regulations addressing contextual risks can be divided into comprehensive regulation(horizontal regulation), which covers all sectors, and sector-specific regulation(vertical regulation) tailored to particular domains. For comprehensive regulation for contextual risks, EU AI Act is the most notable example of legal regulation, while U.S. AI Risk Management Framework (AI RMF) being a significant example of non-legal regulation. In terms of sector-specific regulations for contextual risks, there are various sector-specific laws such as automotive legislation for legal regulation, while ‘Blueprint for Action’ adopted at the Responsible AI in the Military Domain Summit(REAIM) being an example for non-legal regulation.
However, the framework of comprehensive and sector-specific regulations cannot be applied to capability risks, as they are independent of the context of use. Examples of legal regulations addressing capability risks include the clauses of EU AI Act concerning general-purpose AI models with systemic risks and the vetoed California's Frontier AI Bill (SB-1047), while Anthropic's Responsible Scaling Policy (RSP) being the prominent example of non-legal regulation.
Given that AI is a rapidly evolving, wide-reaching general-purpose technology, regulations need to be flexible. Approaches such as adaptive regulation, which focuses on gathering information, or self-regulation, can be useful. For contextual risks, it is advisable to rely on non-legal regulations like guidelines or standards for comprehensive risk management, and to impose legal regulations only where specifically needed in each sector. For capability risks, since there is still much uncertainty about their nature and how to respond to them, it is necessary to focus on information gathering and utilize non-legal regulations such as self-regulation.

참고자료

· 없음