김종현 (주)루트랩 대표이사
누구나 AI로 사진을 만들고, 영상을 합성하고, 사람의 목소리를 복제할 수 있는 시대입니다. SNS에는 가짜 뉴스와 딥페이크 영상이 퍼지고, 채팅 앱에서는 존재하지 않는 인물이 AI로 생성되어 사람들과 대화를 나누고 있죠. 어떤 정보가 진짜이고, 누가 그것을 만들었는지를 구분하기란 점점 더 어려워지고 있습니다. 문제는 이 현상이 단순한 기술적 해프닝을 넘어, 사회적 신뢰와 안전을 위협하는 구조적인 위험으로 작용하고 있다는 점입니다.
2024년 미국 대통령 선거를 앞두고 AI가 생성한 조 바이든 대통령의 가짜 음성 파일이 유권자들에게 배포된 사건은 대표적일겁니다. 음성 자체의 품질은 전문가가 아니면 구분하기 어려울 만큼 정교했습니다. 누가 만들었고, 어디서 유포되었는지를 정확히 알 수 없었던 것이 가장 큰 문제였고요. 생성형 AI는 콘텐츠 제작의 진입장벽을 낮췄지만, 동시에 콘텐츠에 대한 신뢰 장벽은 더 높아지게 만들었습니다.
이러한 문제의 핵심은 "우리가 보고 듣는 콘텐츠가 진짜인가?"라는 질문입니다. 과거에는 카메라나 녹음기와 같은 장비가 증거였고, 파일의 메타데이터나 뉴스사의 로고가 신뢰의 상징이었습니다. 그러나 지금은 이러한 장치들조차 쉽게 위조되거나 탈취당하고 있습니다. 이미지에 로고를 넣는 것으로는 출처를 보장할 수 없고, 기사에 언론사 이름이 붙어 있어도 그것이 생성형 AI가 만든 것인지 아닌지를 알기는 매우 어렵습니다.
이 때 중요한 열쇠가 되는 기술이 블록체인입니다. 블록체인은 데이터를 위·변조할 수 없도록 만드는 특성과, 생성 시점의 타임스탬프, 소유권 정보, 수정 이력 등을 체계적으로 보존할 수 있는 구조를 가지고 있다는 걸 이제 독자분들도 모두 기억하실 겁니다.
대표적인 사례가 Adobe, Microsoft, BBC, Intel, Nikon 등 글로벌 빅테크와 언론사들이 참여 중인 'C2PA' 연합입니다. 이들은 콘텐츠의 생성 시점부터 편집 이력, 사용된 도구, 원본 여부까지를 표준화된 방식으로 기록하고 검증할 수 있도록 메타데이터 구조를 제시하고 있으며, 관련 사양은 2022년 정식 발표되었습니다. 최근 Amazon도 참여하면서 영향력은 더욱 커지고 있습니다. 주요 목표는 "우리가 보고 있는 이 사진·영상이 진짜인가?"라는 질문에 기술적으로 답할 수 있도록 만드는 것이죠.
언론계에서는 이미 블록체인을 도입한 실험이 있었습니다. 뉴욕타임즈는 보도 사진의 원본 여부와 수정 이력을 블록체인에 기록하여 진위 검증이 가능하도록 했습니다. 사용자는 해당 사진의 이력이 담긴 블록체인 해시값을 조회함으로써 그 이미지가 원본인지, 어디에서 찍혔는지, 어떤 장비와 편집 도구가 사용됐는지를 알 수 있도록 구성했습니다.
국내에서도 관련 기술 기반은 빠르게 축적되고 있습니다. 한국인터넷진흥원은 NFT 콘텐츠의 저작권 정보를 보다 명확하게 기록할 수 있도록 'NFT 메타데이터 표준'을 발빠르게 제정하였습니다. 이 표준은 디지털 콘텐츠의 소유권 정보와 권리 내역을 메타데이터로 구조화하고, 이를 블록체인에 저장하는 것을 목적으로 합니다. AI 생성 콘텐츠에 대해서도 이와 유사한 메타데이터 구조가 적용될 수 있으며, 콘텐츠 신뢰도 향상을 위한 기초 기술로 주목받고 있습니다.
우리는 이제 '무엇을 보았는가'보다 '그것이 어디서 왔고 어떻게 만들어졌는가'를 따져야 하는 시대에 살고 있습니다. AI가 만드는 세계 속에서 진짜를 판별하는 열쇠, 그것은 어쩌면 블록체인이라는 오래된 신뢰의 기술이 다시 쥐고 있는지 모릅니다.
영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지
