[시선과 창] AI와 인간의 할루시네이션

서승완 (유메타랩 대표)

미국 경제지 포브스(Forbes)는 2024년을 앞두고 '인공지능(AI)이 사라질 것'이라 예견했다. 인공지능 기술의 정체나 쇠퇴를 의미하는 것이 아니라 그 파급력이 너무나 광범위하고, 또 대중적인 탓에 굳이 '인공지능'이라는 표현을 쓸 필요조차 없어진다는 뜻이다. 그 말을 증명이라도 하듯, 챗GPT를 필두로 한 생성 AI(Generative AI)에 대한 기업과 대중들의 관심은 신년에 들어서도 그칠 줄 모르고 있다.

생성 AI(Generative AI)는 기존의 데이터를 기반으로 새로운 콘텐츠를 생성하는 인공지능의 한 분야이다. 텍스트, 이미지, 음성 등 다양한 분야에 활용될 수 있기에 그 가능성이 무궁무진하다. 모든 기술의 방향성은 인간 생활과 그 사회의 진보를 전제하고 있다지만, 인간 고유의 능력이라 굳게 믿던 '창의성'을 대체할 수 있다는 점에서, 생성 AI는 다른 어떤 기술보다도 인간의 삶에 대해 근본적 변화를 불러올지 모른다. 그런 점에서 생성 AI가 지닌 문제에 대한 확고한 인식과 윤리에 대한 논의도 필수적일 것이다.

흔히 생성 AI의 가장 큰 문제로 지목되는 것 중 하나가 바로 '할루시네이션(Hallucination)'이다. 우리말로 '환각'이라 번역되는 이 용어는 '실제 존재하지 않는 것을 인식하거나 느끼는 현상'을 의미한다. 생성 AI는 세상에 없는 정보를 임의로 '창조'하고, 있는 사실처럼 꾸민다. 가령 챗GPT에 '세종대왕이 노트북을 던진 사건을 알려 달라' 요청하면, '신하의 일탈에 분노해서 노트북을 던졌다는 조선왕조실록의 기록'이라 지어내는 식이다. 이러한 할루시네이션은 진위가 불분명한 정보를 유통시키는 것이기 때문에 대단히 위험한 것으로 여겨진다. '사람들의 판단을 왜곡하고, 심지어는 사회 전체로 오개념과 오이해를 확산시킬 수 있다'며 말이다.

하지만 '거짓말'이라는 개념은 인공지능에게 아무런 의미가 없다. 인공지능은 주어진 정보를 바탕으로 패턴을 찾아 결과를 도출하는 도구일 뿐이다. 오히려 이 과정에서 '거짓말'이 일어난다는 사실은 생성 AI가 가진 '고도의 창작 능력'을 증명하는 아주 강력한 지표다. 어쩌면 인공지능의 '거짓말' 문제는 문제가 아니다. 문제가 있다면, 그것은 오직 우리의 '인공지능관(觀)'이다. 인간이 세운 도덕적 기준을 투영해 버린 것이다.

사실 우리는 이미 많은 허구와 속임수 속에서 삶을 영위한다. 우리의 도덕적 기준을 포함해서 말이다. 먼 옛날 길가메시의 일대기부터 플라톤의 이데아, 화폐 경제, 사회 계약에 기반한 국가와 제도, 온갖 이데올로기에 이르기까지, 우리는 실체가 없는 추상적인 사상과 형이상학적 개념으로 세계를 이해하고, 그 위에 우리들의 문명을 건설해 왔다. 문학, 예술, 연극, 영화 등 인간의 문화 전반은 허구의 생성과 재생산을 통해 번성해 왔다. 그야말로 인류 역사는 허구적 서사로 가득 차 있다. 즉, 인류 문명은 그 자체로 '할루시네이션'이다.

우리는 이러한 허구를 통해 현실을 살아내고, 때로는 비판하며, 더 나은 미래를 상상한다. 생성 AI가 보여주는 허구적 요소들이 어째서 문제이기만 할까? 필자는 인공지능의 발전이 단순한 기술적 발전만은 아니기를 바란다. 인공지능이 너무나 당연해지는 시대, 인간의 할루시네이션과 인공지능의 할루시네이션이 함께 만나 더 새로운 가능성을 만드는 미래를 꿈꿔 본다.

서승완 (유메타랩 대표)