정치판 흔드는 'AI딥페이크'…총선 앞두고 비상

지난해 대통령 선거 당시 윤석열 후보가 자신의 유튜브 채널에서 'AI 윤석열'을 통해 유권자의 질문이 답하고 있다. <윤석열 유튜브 영상 캡쳐>

이미지·영상 등을 합성해 진짜처럼 만드는 '딥페이크(Deep fake)'를 활용한 가짜뉴스가 무차별적으로 생산·공유되고 있다.

내년 총선을 앞두고 관련 법안 정비가 필요하다는 목소리가 나온다.

지난 10일 국회 문화체육관광위원회 국정 감사장에선 유인촌 문화체육관광부 장관이 부르는 가수 김광석의 '서른 즈음에'가 흘러나왔다. 이 영상은 실제로 유 장관이 부른 게 아니다. 고(故) 김광석의 영상에 유 장관의 얼굴을 합성하고, 음성을 학습 시켜 만든 딥페이크 영상이다.
영상을 제작한 이상헌 의원(더불어민주당)은 "AI 기술 발달의 고도화로 가짜뉴스, 보이스 피싱 등의 범죄에 이용될 가능성이 크다"며 유 장관에게 지난 5월 자신이 발의한 AI 콘텐츠 표기 의무화 법안을 긍정적으로 검토해 줄 것을 당부했다.

딥페이크를 이용해 만든 가짜뉴스 영상은 내년 대선을 앞둔 미국에서도 골칫거리다. 지난 1월 조 바이든 대통령이 트렌스 젠더 여성에게 혐오 발언을 내뱉는 영상이 SNS에 퍼졌다. 진보 성향의 지지층을 둔 바이든 대통령에게는 큰 타격을 줄 수 있는 영상이다. 또 5월에는 미 국방부 청사 인근에 대형 폭발이 발생해 검은 연기가 치솟는 허위 사진이 SNS에 퍼져 주식시장이 요동치기도 했다.

지난해 지방선거 당시 국민의힘 박영일 남해군수 후보를 지지하는 윤석열 대통령의 영상이 허위로 제작된 바 있다. 최근에는 김종인 전 국민의힘 비상대책위원장, 장하준 케임브리지대 교수, 주진형 전 한화투자증권 대표 등 경제 분야 유명인을 앞세운 주식 투자 권유 광고가 SNS 공간에서 활개를 쳤다. 이들 광고는 영상보다 사진에 기반을 두고 있다.

정치권은 앞다퉈 AI활용 가짜뉴스 예방 법안을 발의하고 있다.

정희용 의원(국민의힘)은 지난 7월 AI 기술을 이용해 허위사실을 공표하면 처벌 대상에 포함되는 법안을 발의했다. 남인순 의원(더불어민주당)도 지난달 선거운동 시 딥페이스 영상의 제작·유통을 금지하는 법안을 내놨다.

중앙선거관리위원회도 대책 마련에 나섰다. 선관위는 특별 대응팀을 꾸려 AI를 활용한 가짜뉴스가 유권자의 판단을 왜곡하지 않도록 관련 법규 운용 기준을 마련할 계획이다.

대구시 선관위 관계자는 "딥페이크 등 AI를 이용해 가짜뉴스가 생산·유포될 경우 후보자 대한 정보가 왜곡될 우려가 있어 건전한 선거풍토에 악영향을 미칠 수 있다"며 "선관위는 사이버공정선거지원단을 운영해 딥페이크, 생성형 AI 등 가짜뉴스에 대한 모니터링을 강화하고 위법사례 발생 시 신속하게 조치할 예정이다"고 말했다.

김태강 수습기자 tk11633@yeongnam.com

딥페이크=AI 기술을 이용해 사진·영상을 하나로 합성한 뒤 가짜 사진·영상을 만드는 방법. AI가 데이터를 수집·조합·분석해 스스로 학습하는 딥러닝(deep-learning)과 가짜를 뜻하는 페이크(fake)의 합성어다. 기존의 합성 영상과 비교해 실제 촬영된 영상처럼 자연스럽다. 특정인의 얼굴·목소리·행동 등을 그대로 재현해 유튜브 등 SNS 공간에서 위조 콘텐츠로 제작되고 있다.

양승진 기자

먼저 가본 저세상 어떤가요 테스형

기사 전체보기

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지