인공지능(생성형)과 윤리적문제1.문제의식(기본 배경지식을 토대로 개념정의)생성형 AI에 대한 문제점에는 뉴스, 기사 작성 뿐만 아니라 소설 창작의 영역에까지 확대되어 있음.1)알파고의 등장이 인공지능 기술의 발전을 상징하는 사건이었다면, 2022년 11월 글로벌 인공지능 업체인 오픈 AI가 공개한 대화형 인공지능인 챗GPT는 사용자의 극격한 증가를 가져왔고, 유료화된 4.0버전으로 전 세계적으로 열풍을 일으킴출시 5일만에 이용자 수 100만명을 달성하여 그 확장성을 확인하는 사건이였음AI기술 발전은 자연어 처리모델의 진보에 기반하는데 자연어 처리모델은 인간이 사용하는 언어를 컴퓨터가 이해할 수 있도록 처리하는 기술임딥러닝을 기반으로 한 자연어 모델로 합성곱 신경망은 데이터의 각 부분을 인식하는 필터와 그 필터들의 합을 통해 전체 데이터를 분석하는 모델로 이미지 인식에 특히 강점을 가짐또한 순환신경망은 신경망에 순서 개념이 적용된 모델로 시계열 분석이나 자연어 처리에 주로 사용됨2017년 구글 딥마인드에서 발표한 트랜스포머 모델은 디코더, 입력층의 단어를 연관성에 따라 참고하는 어텐션으로 구성된 모델로 CNN과 RNN이 지닌 한계를 극복하엿으며, 자연어 처리에서 가장 강력한 성능을 보임알파고는 분석적 인공지능으로 학습데이터를 분석하여 패턴을 찾아 답을 제시하는 인공지능이였음. 이에 비해 생성형 인공지능은 인간 피드백을 통한 강화학습(RLHF)이 적용되어 사용자의 요구에 따라 새로운 데이터를 만들어 낼 수 있어 더 자연스럽고 창의적인 결과물을 얻을 수 있음.2) 이미지 영역스테이블 디퓨전 웹 UI의 확장기능인 컨트롤넷이라는 기술을 활용하여 빠르고 손쉽게 이미지를 생성함. 멀티 컨트롤넷이라는 기능 등 이를 변환하는 기술이 발전하고 있음이미지 생성에 기준을 정해주는 기능을 활용해서 정교하게 조작하는데 한계가 있던 인공지능을 원하는 대로 적용 가능해짐.(컨트롤넷: 특정 이미지에서 포즈나 테두리를 추출해 이미지 생성의 기준을 만들어주는 기능)기존에는 원하는 포즈를 취한 이미지를 생성하기 위해 AI를 천번, 만번 돌려야 했다면 컨트롤넷 기능을 활용해 한번만 돌리면 됨이런 컨트롤넷 기능을 활용하면 움직이는 이미지도 만들 수 있음.출처: https://www.youtube.com/watch?v=8SQyx9wBZA83)2020년 스타트업 기업인 스캐터랩이 출시한 인공지능 챗봇 ‘이루다’는 차별 및 혐오발언, 개인정보 유출 논란으로 서비스를 중단하게 됨-> 대학에서 학생들이 챗GPT를 활용하여 보고서를 제출하는 사례가 늘어나면서 허용범위기준이 없어서 문제가 되었고, 일부 대학의 경우 챗GPT활용 가이드라인을 만들기도 하고 윤리강령을 선포하기도 함.또한, 미국의 소셜미디어 레딧이 빅테크 인공지능의 콘텐츠 무료 활용에 제동을 걸고 비용 지불 요구를 하고 있으며 월스트리트저널(WSJ)과 CNN등은 사전허락 없이 OPEN AI사가 자료를 이용한 데 대해 소송을 검토하였음.--> 즉, 챗 GPT등 인공지능의 자료 수집 과정에서 사전 허락없이 데이터를 활용하여 만든 서비스를 유료로 진행하는 것에 대한 저작권 문제가 나타나고 있음.이처럼 인공지능의 LLM(large language model, 대량언어모델)을 통한 학습 과정에서 원 저작자에 대한 저작권 문제가 지속적으로 대두되고 있음개발자 집단의 코드 저작권 도용에 대해 MS와 오픈 AI에 집단 소송도 이어지고 있음.4)출판생태계최근 국내 출판계에서는 챗GPT를 활용하여 전자책을 만들어 유통하는 사례가 나타남.2023년 4월 인간과 인공지능이 합작해 만든 국내소설이 출간되었음. 소설가 7인이 생성형 AI와 함께 창작한 짧은 소설로 구성되어 있음.https://product.kyobobook.co.kr/detail/S000201408639출판사 측은 “인간 고유의 영역인 창작, 그 중에서도 소설을 AI와 함께 써보면서 함께 하는 과정을 담아보기로 했다”고 밝혔음.-> 이처럼 생성형 AI를 활용하여 출간하는 도서도 있는 반면 저작자에 대한 명확한 표시 없는 전자도서가 출간되면서 도서유통사와 도서관의 전자책납본과 관련한 고민이 나타나고 있음.-> 발표에서는 최근 AI를 활용한 창작물과 관련하여 이를 통한 어떤 윤리적 해결방안이 있을지2.선행관점 찾기생성형 AI를 통해 인기 가수의 목소리를 재현한 음원이 SNS에 확산되고 음악 팬들이 이를 진짜라고 믿는 사례가 발생함.전문가들은 이 같은 행위가 저작권 침해에 해당한다고 지적함. 23년 4월 고스트라이터라는 익명의 틱톡 제작자가 AI로 가수 드레이크와 더 위켄드 목소리를 피처링한 ‘하트 온 마이 슬리브’를 만들어 스포티파이, 애플뮤직 등의 플랫폼에서 구할 수 있게 하였으며 빌보드차트에 올라가고 틱톡에서 1500만회, 스포티파이에서 60만회 이상 재생되며 인기를 끌었음.그러나, 이들 가수의 음원을 관리하는 유니버설뮤직그룹(UMG)의 강력한 항의에 틱톡 등의 플랫폼에서 삭제됨.출처: https://www.hani.co.kr/arti/international/international_general/1090163.html1. 법적 측면: 저작권법을 개정하여 AI 창작물에 대한 보호 근거 마련유럽연합 부위원장은 인터뷰에서 새 법안의 구체적인 내용을 설명함“인공지능으로 만든 창작물에 ‘인공지능 생성’ 라벨을 붙이고 생성형 인공지능이 어떻게 의사 결정을 내리는지 기업이 밝히도록 하는 ‘설명의무’를 부과하고자 한다”고 말했다.통신도 유럽연합 소식통을 인용해 새 인공지능 규제 법안이 인공지능 도구 위험도에 따라 최소, 제한, 높음, 수용불가 등 네 등급으로 분류하고 생성형 인공지능이 작동하면서 저작권물을 활용했다면 그 내용을 밝혀야 한다고 보도함.출처: https://www.hani.co.kr/arti/international/international_general/1090163.html국가 별로 인공지능 윤리 관련 원칙과 가이드라인 생성
