앞으로가 기대되는 ChatGPT의 특징, 잠재성과 한계점 그리고 시사점

소개

"앞으로가 기대되는 ChatGPT의 특징, 잠재성과 한계점 그리고 시사점"에 대한 내용입니다.

목차

1. 개요
2. 특징
3. 잠재성
4. 한계
5. 경쟁사의 추격
6. 시사점

본문내용

4. 한계

기계학습 인공지능 모델들의 고질적 문제인 편향성 문제에서 자유롭지 못하다. 인공지능이 가치중립적일 것처럼 보여도 결국 인공지능이 학습하는 것은 인간이 만든 데이터이기 때문에 편향성에서 자유로울 수가 없다.

첫 번째로, 2021년 이전의 데이터로 학습하여 2022년 이후 일어난 사건에 대해서는 부정확하게 답변할 수 있으며, 두 번째로 ChatGPT는 대규모 학습 데이터를 기반으로 답변을 하기 때문에 잘못된 정보나 편향된 콘텐츠를 생성할 수 있는 가능성이 존재하며 한글보다 영어 데이터가 많기 때문에 영어 질의에 정확도가 보다 우수하다. 세 번째로, 인간 피드백을 통한 강화학습(RLHF) 적용한 결과 오히려 인간의 결함과 실수를 쉽게 모방할 우려 존재하며, 특히 ChatGPT의 답변은 때로 꽤 논리적으로 보이나 잘못된 정보이거나 무의미한 내용일 수 있다.

한편, 챗GPT는 공개 이후 특히 교육·연구 분야에서 뜨거운 논쟁을 일으키고 있는데, 이는 챗GPT가 기존 챗봇과 달리 방대한 양의 전문 지식을 담은 에세이와 논문을 순식간에 써내려가는 능력을 갖춘 것이 확인된 데 따른 것이다. 이미 미국에서는 챗GPT를 시험이나 과제에 이용하는 사례가 늘면서 논란이 일고 있는데, 뉴욕시의 경우 2023년 1월부터 공립학교 내에서 챗GPT의 접근을 차단하겠다는 발표를 내놓기도 했다. 또 챗GPT는 기존 콘텐츠를 대량으로 학습해야 작동할 수 있다는 점 때문에 관련 저작권에 대한 분쟁도 있으며, 일각에서는 챗GPT가 가짜 뉴스와 혐오 발언 등 유해 콘텐츠 생산 도구로 악용될 수 있다는 점도 우려한다.

참고자료

· 없음