이번 총선에서 선거관리위원회(선관위)가 새롭게 해야 할 일이 생겼다. 인공지능(AI)을 활용해 조작 동영상과 가짜 목소리를 합성한 딥페이크 콘텐츠가 선거판을 뒤흔드는 것을 막아야 한다. 실제로 총선을 앞두고 포털사이트나 소셜미디어를 통해 허위 선거정보를 담은 딥페이크 콘텐츠가 광범위하게 유통되고 있다. 이 같은 딥페이크는 보고 싶은 것만 보는 사회 풍조에 편승해 확증편향과 진영논리를 극도로 부추기고 있다. 민주주의 본질을 위협하는 심각한 사안이다.
총선 딥페이크 차단을 위한 법적 장치는 마련됐다. 지난해 12월 개정된 공직선거법은 선거일 90일 전부터 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하는 것을 금하고 있다. 위반하면 7년 이하 징역이나 1천만~5천만원의 벌금형에 처해진다. 이처럼 중형이 내려지는데도 불구하고 딥페이크 선거 범죄가 활개를 치고 있다. 중앙선관위 자체 집계에 따르면 지난달 29일부터 19일간 적발한 불법 딥페이크 게시물이 129건이나 됐다. 선관위 전담팀이 찾아낸 게 이 정도라면 실제로는 훨씬 많은 딥페이크 콘텐츠가 난무하고 있다고 봐야 한다.
총선이 다가올수록 딥페이크 선거 공작이 기승을 부릴 것으로 보인다. 이를 막으려면 당국의 강력한 단속, 엄중한 처벌에 더해 국내 플랫폼 기업들의 동참과 지원이 필요하다. 알다시피 딥페이크 기술은 하루가 다르게 발전하고 확산 속도도 빨라지고 있다. 당국의 한정된 인원과 역량만으로 제대로 대처하는 건 거의 불가능하다. 유튜브, 네이버, 카카오 등 플랫폼은 유권자에게 큰 영향을 미치지만 가짜뉴스의 주된 통로이기도 하다. 이들 기업도 책임의식을 갖고 총선 딥페이크 선제 차단에 나서야 한다.
총선 딥페이크 차단을 위한 법적 장치는 마련됐다. 지난해 12월 개정된 공직선거법은 선거일 90일 전부터 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하는 것을 금하고 있다. 위반하면 7년 이하 징역이나 1천만~5천만원의 벌금형에 처해진다. 이처럼 중형이 내려지는데도 불구하고 딥페이크 선거 범죄가 활개를 치고 있다. 중앙선관위 자체 집계에 따르면 지난달 29일부터 19일간 적발한 불법 딥페이크 게시물이 129건이나 됐다. 선관위 전담팀이 찾아낸 게 이 정도라면 실제로는 훨씬 많은 딥페이크 콘텐츠가 난무하고 있다고 봐야 한다.
총선이 다가올수록 딥페이크 선거 공작이 기승을 부릴 것으로 보인다. 이를 막으려면 당국의 강력한 단속, 엄중한 처벌에 더해 국내 플랫폼 기업들의 동참과 지원이 필요하다. 알다시피 딥페이크 기술은 하루가 다르게 발전하고 확산 속도도 빨라지고 있다. 당국의 한정된 인원과 역량만으로 제대로 대처하는 건 거의 불가능하다. 유튜브, 네이버, 카카오 등 플랫폼은 유권자에게 큰 영향을 미치지만 가짜뉴스의 주된 통로이기도 하다. 이들 기업도 책임의식을 갖고 총선 딥페이크 선제 차단에 나서야 한다.
논설실 기자
영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지
![[시도때도없는 뉴스 05.20] 인구 500만 대구광역시 탄생하나?…홍-이 공감대 주목](https://www.yeongnam.com/mnt/file_m/202405/M20240520000949089_1.jpg)
