AI Act, 2024 대선 그리고 허위정보에 맞서는 인간과 AI의 공공소통 검증 프로젝트 (AI Act, 2024 Presidential Election, and Human-AI Public Communication Verification Project to Fight Disinformation)

서지정보

· 발행기관 : 한국지능정보시스템학회
· 수록지 정보 : 지능정보연구 / 30권 / 3호 / 137 ~ 159페이지
· 저자명 : 송진순

초록

2024년은 생성 AI 선거의 해이다. 허위조작정보는 여론을 좌지우지하며 시민들의 의사결정에 적잖은 혼란과 위험을 가중시키고, 민주주의를 훼손하고 있다. 공공의 책임에 대한 규범에 제약을 받지 않고, 조작된 개인화된 콘텐츠를 생성하 는 선거 캠페인에서 생성 AI를 잠재적으로 고위험 시스템으로 인식하는 것이다. EU가 제정한 AIA에 따른 위험 관리, 투 명성 및 인적 감독, 데이터와 데이터 거버넌스와 같은 의무 목록을 엄격하게 준수하여, 대중의 담론을 보호하고 기본권을 보호하기 위한 윤리적 표준 및 법적 요구 사항과 일치하도록 보장해야 할 것을 강조한다. 이 논문은 선거 캠페인에 사용 된 허위조작정보를 조사하여, 탐지를 위한 생성 AI의 배치와 공공소통적 프로젝트 AIA에 대한 분석 및 중요한 교차점 및 사용자 관점의 함의를 점검했다. 또한 따라야 할 몇 가지 의무를 언급하며 시사점과 공공소통적 제안과 함께 효과적이고 윤리적이며 법적으로 준수할 수 있는 명확한 지침과 표준의 필요성을 강조했다.

영어초록

2024 is the year of the Generative AI election. disinformation dominates public opinion, adding considerable confusion and risk to citizens’ decision-making, and undermining democracy. It is the recognition of Generative AI as a potentially high-risk system in an election campaign that generates manipulated personalized content, not constrained by norms of public responsibility. It emphasizes the need to strictly adhere to the list of obligations under the AIA established by the EU, such as risk management, transparency and human supervision, and data and data governance, to ensure that they are consistent with ethical standards and legal requirements to protect public discourse and protect basic rights. This paper examined disinformation used in election campaigns, and examined the deployment of Generative AI for detection, analysis of the Public Communication Project AIA, and implications of important intersections and user perspectives. It also highlighted the need for clear guidelines and standards that can be effectively, ethically, and legally observed, along with implications and public communication proposals, mentioning some of the obligations to be followed.

참고자료

· 없음