배정순 전 경북대학교 초빙교수|

생성형 인공지능(AI)이 대중화되면서 사용량이 급증하고 있다. 특히 한국은 인공지능 사용인구가 빠르게 증가하며 일상 전반에 깊숙이 자리 잡았다. 그만큼 오류와 부작용 역시 늘어나고 있다. 최근 한 뉴스 보도에 따르면 해외연수를 다녀온 공직자들의 보고서 상당수가 부실한 것으로 드러났다. 내용의 상당 부분이 잘못된 정보였고, 참고문헌조차 실제 존재하지 않는 허구인 경우도 있었다. 심지어 논문 저자에게 확인한 결과, 해당 논문을 쓴 적이 없다는 답변까지 나왔다. 인공지능이 작성한 결과물을 검증 없이 그대로 제출한 것이다. 이처럼 오류가 포함된 문서가 공공기관의 이름으로 유통되고 있다는 사실은 연구자들의 표절 시비 못지않은 심각한 문제이며, 단순한 해프닝으로 넘길 수 없는 사회적 문제가 아닐 수 없다.

설령 인공지능을 활용해 보고서를 작성했다 하더라도 최소한의 검토와 수정은 필요하다. 그러나 이 과정은 완전히 생략되었다. 연수에 참여하지 않은 인공지능은 다양한 정보를 짜깁기해 그럴듯한 문서를 만들어 냈을 것이다. 이를 단순히 시간 부족이나 편의의 문제로 치부할 수 있을까. 결국 검증을 포기한 이유는 인공지능이 '정답'을 제공한다고 믿었기 때문일 것이다. 완벽해 보이는 문장 뒤에 숨어 있는 치명적인 오류를 아무도 발견하지 못할 것이라 여겼던 것은 아닐까.

우리는 인공지능의 놀라운 성능에 익숙해져 있다. 복잡한 계산은 물론이고 전문지식까지 빠르게 제시하는 모습은 경이롭기까지 하다. 그러나 이 과정에서 간과되는 사실이 있다. 생성형 인공지능은 확률적 언어 모델로, 사실의 진위를 판단하는 존재가 아니라 확률적으로 가장 그럴듯한 문장을 생성하는 도구다. 진실을 검증하는 것이 아니라 언어 패턴을 계산하는 방식으로 작동한다. 이 때문에 실제로 존재하지 않는 정보도 자연스럽게 만들어 낼 수 있으며, 이는 AI 할루시네이션으로 이어진다. 매끄럽고 논리적인 문장이라는 이유만으로 그것을 사실로 받아들이는 순간, 심각한 오류에 당면할 수 있다.

우리가 인공지능의 문장을 쉽게 수용해버리는 이유는, 인공지능이 통계적 패턴으로 재현하는 언어의 구사력이 마치 치밀한 논리 구조를 갖춘 것처럼 보이기 때문이다. 하지만 이는 의미에 대한 이해가 아니라 데이터가 보여주는 확률적 수렴의 결과일 뿐이다. 우리는 이 통계적 정교함을 지적인 권위로 착각하게 되는 것이다. 단순히 편리함을 위해 검증을 포기하는 것은 엄청난 사회적 비용이 지출될 수 있고 진실을 왜곡하고 정보를 오용해 크나큰 사회적 혼란과 윤리적 문제를 초래하게 될 것이다.

이제 우리에게 필요한 역량은 인공지능을 얼마나 능숙하게 다루느냐가 아니라, 인공지능이 내놓은 수만 가지 정보 중에서 무엇이 진실인지를 가려낼 수 있는 안목이다. 인공지능은 도구일 뿐이다. 그 결과물에 마침표를 찍어야 하는 것은 인간이다. AI가 생성한 결과가 아무리 매끄럽고 논리적이라고 하더라도 우리는 날카로운 의심의 눈초리를 거두지 않아야 한다. 자신의 무지에 끊임없이 질문을 던져야 한다던 소크라테스처럼, '과연 이것이 진실인가? 사실인가?'라는 검증의 과정에 비판적 사고를 작동시켜야 한다. 자신에게만이 아니라 인공지능에게도 물음표를 던져야 한다. 기술이 인간의 일상에 편리를 제공하고 많은 이익을 가져다줄 수 있겠지만, 양심이나 책임을 대신할 수는 없다. 통계적 패턴을 재현하는 계산(Calculation)의 영역인 인공지능에게 나를 맡길 것인가? 아니면, 가치를 판단하고 진실을 가려내는 사유(Thinking)의 주체가 될 것인가? 결국 '진짜'를 구별해내는 힘은 확률이 아닌, 인간의 치열한 사유와 양심에서 나올 것이다.

배정순 전 경북대학교 초빙교수|

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지