인공지능(AI)이 그동안 금기시된 '빈곤 포르노(Poverty Pornography)'를 되살리는 모양새다. 국제 구호단체들이 한때 후원을 더 많이 끌어내려고 가난이나 고통을 과장하거나 자극적으로 연출하는 '빈곤 포르노' 방식을 활용했지만, 윤리적 비난이 드세지자 이를 자제하는 분위기였다. 하지만 최근 몇 년 새 AI 생성 이미지를 적용한 빈곤 포르노 마케팅이 다시 횡행하는 조짐을 보인다. 기부단체의 윤리의식 경계를 무너뜨린 요인은 돈과 첨단기술이다. AI 기술을 활용하면, 피해자의 동의를 구할 필요가 없는 데다 저렴한 비용으로 홍보용 이미지를 무한정 만들어 낼 수 있기 때문이다. 최근 온라인을 중심으로 AI로 합성한 어린이와 난민, 성폭력 피해자의 모습이 담긴 후원 모금용 이미지가 확산하고 있다는 것이다.
문제는 구호단체들이 '효율의 덫'에 빠져, 심각한 빈곤 포르노의 폐해를 간과한 점이다. 온라인에 나도는 국제 구호단체의 AI를 활용한 홍보물을 보면, 피해자에 대한 편견을 부추기거나, 해묵은 고정관념을 강화하는 전형적인 클리셰(Cliche)다. 유엔(UN)도 지난해 내전 성폭력 피해자의 'AI 재현' 영상을 게시했다가 신뢰성 문제로 삭제한 바 있다.
더 우려스러운 것은 AI가 빈곤 포르노의 악순환을 재촉한다는 사실이다. 빈곤 포르노 방식의 AI 생성 이미지가 온라인에 퍼지면, 다시 AI의 학습 데이터에 포착되고, 이는 편견과 왜곡된 시각을 끝없이 증폭시키는 결과를 낳는다. AI가 '편견 증폭기' 역할을 하는 셈이다. AI로 말미암아 인간의 존엄성을 존중, 보장하기 위한 구호 활동의 본질이 더 퇴색되는 게 안타까운 현실이다. 윤철희 수석논설위원
윤철희
영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지
