인공지능 시대, 온라인 플랫폼에서 소비자에게 발생할 수 있는 가격 차별에 대한 시론(時論) (A Legal Perspective on Price Discrimination Faced by Consumers on Online Platforms in the Era of Artificial Intelligence)

서지정보

· 발행기관 : 한국소비자법학회
· 수록지 정보 : 소비자법연구 / 11권 / 2호 / 37 ~ 67페이지
· 저자명 : 이수경

초록

기업이 소비자에게 물건을 판매하면서 여러 조건을 달리하여 가격을 차등화하는 것은 일종의 판매 전략으로 활용된다. 개인정보가 빅데이터의 형태로 온라인 플랫폼에서 활용되면서 금융기관은 망 분리 규제나 마이데이터 사업자의 허가 요건 등을 갖추어 개인정보의 유출을 방지하도록 물리적인 시스템을 갖추도록 요구되지만 가격 차별에 대하여 별다른 대책이 마련되어 있지는 않다. 우리나라에서는 공정거래법에서 경쟁제한성을 보이는 가격 차별에 대해서만 제한하고 있지만, 기업이 이윤을 추구할 목적으로 소비자에게 서로 다른 가격을 제시하는 것이 문제가 되지는 않기 때문에 소비자 보호를 위해서는 인공지능을 활용한 디지털 플랫폼에서의 개인화된 가격 차별로 인한 손해에 대해 소비자에게 손해가 발생할 가능성이 전혀 없다고는 할 수 없다. 가격을 결정하는 것은 일반적으로 수요와 공급의 원칙에 따른 고전적인 경제학의 영역이지만, 최근의 가격 책정 알고리즘은 많은 시장에서 적용이 되고 있고, 여기에는 가격을 결정하는 전산화가 완료된 방식이 적용된다. 한편 알고리즘은 기업에게 경쟁사의 가격에 실시간으로 반응할 수 있는 능력을 제공하고 이론적으로 가격 경쟁을 가속화한다. 전통적인 가격 책정 방법과 비교하면, 알고리즘에 의한 가격 결정은 대체로 판매자에게는 상당한 이점이 있으나 이렇게 가격 책정 알고리즘이 판매자에게 상당한 이점을 제공하는 만큼 소비자에게는 심각한 해를 끼칠 수 있다는 우려도 제기될 수 있다. 알고리즘 편향에 의한 대응을 하더라도 이미 사용자에게는 해로운 영향을 끼친 뒤가 될 것이다. 이를 예방하기 위해서 알고리즘 의사결정을 구축하는 단계에서 차별적 의도나 효과를 줄이도록 노력해야 하고, 라이선스를 배포하거나 이에 대한 규제를 입법화하는 것으로 편향에 따른 차별을 완화할 수 있는 대안이 있다고 지적된다. 소비자 개인의 특성에 맞추어 소비자의 데이터가 분석되고 기업이 이윤의 극대화를 추구하는 과정에서 데이터 분석의 단계에서 개별화된 가격 설정(personalized pricing)의 사례에서 ‘발생가능한 차별’에 대한 지적이다. 어떤 사안에 대한 의사결정 과정이 인공지능이 인간의 사고 과정을 본떴다고는 하더라도 인공신경망의 구조를 활용하면서 발생하는 모든 의사결정의 과정은 불투명할 수밖에 없다. 이러한 특징에서 개인화된 데이터의 사용으로 인한 소비자의 손해에 대하여 사후적 구제 수단과 사전적 행정규제가 고려될 수 있겠지만 본 연구에서는 인공신경망의 구조를 활용하면서 발생하는 모든 의사결정의 과정은 불투명할 수밖에 없기에 이러한 가격 차별의 사후적인 사법적 판단으로 손해배상청구의 가능성을 살펴보았다. 온라인 플랫폼에서 개인화된 고객의 데이터를 분류하고 가격에 차별을 두어 제시한다고 했을 때, 지속적으로 가격의 차별을 두어 소비자에게 똑같은 제품의 가격을 의도적으로 구별하여 제시하는 행위라면 손해배상의 범위를 “가해행위와 당시 합리적 인간, 평균인이 그러한 가해행위의 결과로써 일반적으로 발생할 것이라고 인정⋅예견할 수 있는지 여부”에 의하여 결정할 수 있다. 그리고 손해를 판단함에 있어서도 “보호법규의 규범 목적”에 따라서 판단할 수 있을 것이다. 온라인 플랫폼의 의무와 책임에 대한 선행 연구에서 플랫폼이라는 비대면 거래는 ‘익명성, 접촉의 일회성, 권리실현의 곤란’ 등의 특성을 수반하기에 그에 따른 “기회주의적 행태의 위험 증가”가 도사리고 있기 때문이다. 불법행위법의 목적이 회복과 예방이라고 한다면 사법의 영역에서의 불법행위는 그 존재의 목적으로서 제재의 성격도 부정할 수 없다. 발생한 손해에 대한 사후적 손해전보기능으로서의 불법행위의 역할은 위법한 행위로 인하여 야기된 손해를 그 대상으로 하고 있다. 그리고 불법행위를 손해의 ‘회복’의 입장에서 바라본다면, 잘못된 행위에 대한 법원의 역할이 중요하게 될 것이며 정의로운 결론을 도출로 사회에 미칠 파급효를 도출할 수 있는 요소가 될 수 있는 것으로 보인다.

영어초록

Price Discrimination, where companies vary conditions and prices when selling goods to consumers, is utilized as a type of sales strategy. Online platforms broadly encompass digital platforms, social media channels, online marketplaces, and crowdsourcing websites and applications, all as business models based on online infrastructures. While personal information is utilized in the form of big data on these platforms, financial institutions are required to implement physical systems to prevent data breaches, such as network separation regulations and licensing requirements for MyData service providers. However, adequate measures to address price discrimination remain absent. In South Korea, the Fair Trade Act restricts price discrimination only in cases where it limits competition. Differentiated pricing strategies aimed at maximizing corporate profits are not deemed problematic, leaving the possibility of harm to consumers unaddressed. Personalized price discrimination facilitated by artificial intelligence on digital platforms poses potential risks of unfair harm to consumers. Traditionally, pricing falls within the domain of classical economics governed by the principles of supply and demand. However, the application of pricing algorithms in many markets has introduced computerized formulae for price determination. These algorithms allow companies to respond to competitors’ prices in real time and theoretically accelerate price competition. Compared to traditional pricing methods, algorithmic pricing largely benefits sellers. However, this advantage raises concerns about potential harm to consumers, as algorithmic bias can lead to discriminatory outcomes. Preventive measures, such as addressing bias during the construction phase of algorithmic decision-making and introducing licensing or regulatory frameworks, have been proposed to mitigate these risks. Despite such measures, algorithmic decision-making processes, particularly those utilizing artificial neural network structures, remain fundamentally opaque. This study examines the potential for post-facto judicial remedies, such as damage claims, against consumer harm caused by personalized pricing resulting from the use of individual consumer data. When online platforms differentiate prices based on consumer data, scenarios arise in which consumers are intentionally presented with different prices for identical products. The scope of damages can be determined based on whether the harmful act and its results could be generally anticipated or recognized by a reasonable person at the time. Additionally, damages may be assessed in accordance with the normative purpose of the relevant protective regulation. Prior research on the obligations and responsibilities of online platforms highlights the risks of opportunistic behavior in non-face-to-face transactions, characterized by anonymity, single-contact transactions, and difficulties in enforcing rights. Given that the objectives of tort law encompass both restoration and prevention, torts serve as a means of sanctioning illegal acts. From the perspective of “restoration” of damage caused by tortious acts, the judiciary’s role in addressing wrongful acts is crucial, as judicial decisions can have broad implications for society and contribute to achieving just outcomes.

참고자료

· 없음