게티이미지뱅크

딥페이크, 챗GPT 등 AI(인공지능)이 활발히 사용되면서 가짜뉴스 등 선거에 악영향을 미칠 수 있다는 우려가 커지고 있다. 올해는 미국, 러시아 등 전 세계적으로 선거가 열린다. 한국에서도 오는 4월 제22대 국회의원 선거가 기다리고 있다.

지난달 26일(현지 시간) AP 통신은 AI 기술이 선거에 미칠 영향을 집중 조명하는 기사를 보도했다. 기사에는 "2024년 미국 대통령 선거는 클릭 몇 번으로 몇 초 만에 가짜를 만들어낼 수 있는 정교한 AI 도구가 나온 이래 치러지는 첫 번째가 선거가 될 것이다"고 전망했다.

AI 전문가인 워싱턴대 명예교수 오런 에치오니는 "잘못된 정보의 쓰나미를 예상한다"면서 "사람들은 대선 후보인 조 바이든 대통령이 병원에 실려 가는 모습을 볼 수 있고, 어느 후보자가 실제로 한 적이 없는 말을 하는 것을 볼 수 있다"고 했다.

최근 슬로바키아에서는 선거를 앞두고 AI로 만들어진 가짜뉴스가 퍼졌다. 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 AI 생성 오디오 녹음이 사실인 것처럼 전달된 것.

국내에서는 AI 기술이 선거에 부정적인 영향을 주는 것을 줄이기 위해 'AI 선거운동'을 금지했다. 지난해 12월 28일 개정된 공직선거법에 따라 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 기술 등을 이용해 만든 딥페이크 영상 등을 제작·편집·유포·상영·게시하는 행위가 금지된다. 위반 시 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처한다.

전문가들도 AI 기술이 선거에 악영향을 주지 않기 위해선 관련 대응책을 지속해서 마련해야 한다고 설명한다. 정병기 영남대 교수(정치외교학과)는 "우리나라의 경우 현재 팬덤 정치, 양극화 정치 현상을 띠고 있기에 딥페이크를 통한 가짜뉴스가 퍼지면 정치 양극화가 더 심화할 수 있다"면서 "사안에 따라 선거의 판도를 바꿀 수도 있는 문제다. 실효성 있는 대응책을 꾸려 지속해서 단속해야 한다"고 설명했다.

김명주 서울여대 교수(정보보호학과)는 "딥페이크를 통한 가짜뉴스는 당사자 본인도 모르는 이미지가 생성되고 퍼지는 것이기 때문에 위험하다"면서 "딥페이크를 선거운동으로 악용한 사람을 고소·고발한다 해도 이미 선거에 영향을 끼친 이후나 선거가 끝나고 처벌이 될 가능성이 있다. 이런 일을 미연에 방지하고자 딥페이크 이용 선거운동을 규제한 것 같다"고 분석했다.

정지윤기자 yooni@yeongnam.com
조현희기자 hyunhee@yeongnam.com

정지윤

영남일보 정지윤 기자입니다.

기사 전체보기

조현희

문화부 조현희 기자입니다.

기사 전체보기

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지