자연언어처리에서 윤리적 문제와 해결 방안: 연령 및 지역 편향성 극복의 출발점으로서 방언자료 수집 (Ethical Problems and Solutions in Natural Language Processing: Collection of Dialect Data as a Starting Point for Overcoming Age and Regional Biases)

서지정보

· 발행기관 : 경북대학교 사회과학기초자료연구소
· 수록지 정보 : 연구방법논총 / 6권 / 1호 / 157 ~ 180페이지
· 저자명 : 김진웅

초록

이 연구는 자연언어처리 분야에서 윤리적 문제의 발생 원인과 유형을 살피고 기존의 언어자료와 차별화되는 언어 데이터 개발을 통해 데이터 편향성을 완화함으로써 윤리적 문제의 해결 방안을 모색하는 데에 그 목적이 있다. 첨단의 인공지능 시대에 그리스 시대로부터 비롯된 윤리학의 중요성은 더욱 강조되고 있다. 인공지능 채팅봇 테이(Tay)가 사용자들과 대화하면서 학습한 인종차별적 언행 때문에 서비스가 중단된 사건이나 MIT 연구팀에서 개발한 인공지능 노먼(Norman)이 드러낸 싸이코패스 성향은 인공지능의 개발에 윤리적 고려가 얼마나 중요한지를 보여주는 예이다. 인공지능이 윤리적 문제를 일으키는 원인은 편향된 데이터를 바탕으로 학습하기 때문이다. 성, 인종, 지역을 포함한 데이터의 편향성으로부터 인공지능의 결함이 시작된다.
한국어 방언 AI 데이터 구축 사업은 한국정보화진흥원의 감독 하에 진행되고 있는 국가 주도의 데이터 구축 사업이다. 이 사업에서 구축하는 음성 데이터는 기존의 음성 데이터에서 그 절대적인 양이 부족하다는 지적을 받아 온 자유발화를 수집한다는 점에서 그 가치가 매우 크며 지역별 연령별 화자에 대한 분포를 고려하여 수집한다는 측면에서 기존의 데이터에서 나타난 배제에 기인한 편향성을 완화할 가능성을 제공한다.

영어초록

In the age of AI, ethics is the most popular field. Why is science originating from the Greek era recognized for its importance in the era of advanced artificial intelligence? The case where the service was interrupted due to the racist speech and behavior learned by AI chatbot Tay while talking with users, or the psychopathic tendency revealed by Norman, an artificial intelligence developed by the MIT research team. These are examples that show the importance of ethical consideration in the development of AI. So why does AI cause ethical problems? This is because AI learns based on biased data. The deficiencies of AI begin from the bias of data including gender, race, and region.
The Korean dialect AI data construction project is a state-led data construction project under the supervision of the National Information Society Agency. The voice data built in this project is very valuable in that it collects free speech, which has been pointed out that the absolute amount of the existing voice data is insufficient, and it is collected in consideration of the distribution of speakers by age by region. It offers the possibility of overcoming bias caused by exclusions in the data.

참고자료

· 없음