로고

오피니언

[CEO 칼럼] 인공지능에 관한 인권 가이드 라인의 기대 효과

박윤하 우경정보기술 대표
|
입력 2022-06-07 | 발행일 2022-06-07 제23면 | 수정 2022-06-07 06:52

박윤하 우경정보기술 대표

최근 인공지능 기술의 발전은 우리의 삶 전 영역에 걸쳐 많은 영향을 미치고 있다. TV를 켜면 가상 인간이 광고를 하고 있고, 온라인 쇼핑이나 OTT 프로그램 선택에 있어서도 사전에 파악된 선호를 바탕으로 한 인공지능이 우리의 구매 선택에 영향을 미치고 있다. 구매 불만 사항이 생겨 고객센터에 연락을 하면 인공지능 챗봇과 커뮤니케이션을 하며 문제를 해결한다. 이처럼 인공지능은 우리 일상에 깊숙이 스며들고 있다.

하지만 새로운 기술은 항상 명과 암이 존재하며 인공지능 기술 또한 예외는 아니라고 할 수 있다. 최근 국내에서는 스무살 여대생으로 설정된 AI 챗봇이 성 소수자 및 여성 등 소수자 혐오 발언으로 논란이 되어 서비스를 중단한 사례나, AI에 기반해 특정 인물의 영상을 완전히 새롭게 합성하거나 창조할 수 있는 딥페이크 기술은 상당 부분 포르노 목적으로 사용되는 사례들이 최근 목격된 인공지능 기술의 그림자라고 할 수 있다. 이러한 부작용을 미연에 방지하기 위한 노력의 일환으로 유럽연합에서는 안면인식 인공지능 시스템 활용 금지, 인공지능 면접 시스템에 대한 고위험 등급 부과 등을 주요 내용으로 하는 '인공지능법' 초안을 공개하였고, 유엔은 인공지능 활용 시 인권보호 장치를 마련하도록 권고하고 있다. 국가인권위원회에서도 2022년 5월11일 인공지능 개발과 활용 과정에서 발생할 수 있는 인권 침해와 차별을 방지하기 위해 '인공지능 개발과 활용에 관한 인권 가이드 라인'(이하 가이드 라인)을 마련했다.

가이드 라인에서는 정부, 공공기관, 민간기업이 인공지능을 개발하고 활용함에 있어 인간의 존엄과 가치, 자율성을 침해해서는 안 되고, 인간의 생명과 안전에 영향을 미치는 고위험 인공지능에 대한 알고리즘이나 데이터의 경우 이해관계자에 충분히 공개되고 설명되어야 하며, 완전히 자동화된 의사결정임에도 개인에게 중대한 영향을 미칠 경우에는 인적 개입이 이뤄지거나 당사자가 해당 방식을 거부할 수 있도록 권고하고 있다.

이 가이드 라인은 법적 강제력을 갖지는 않으나 우리나라에서도 우리의 삶과 밀접하게 연관되어 있는 인공지능의 인권침해 위험을 제어할 근거가 마련되었다는 점에서 의미가 있다. 이 가이드 라인에 기반한 입법이 실행되는 경우 인공지능 기반 기업들은 기존의 운영방식에 영향을 받을 수 있는데, 가령 배차알고리즘 공개를 거부해 온 배달 플랫폼 기업이나 택시 플랫폼 기업들이 배차알고리즘을 이해관계자에게 투명하게 설명해야 하는 의무가 생기는 것이 대표적인 사례라고 할 수 있다.

그동안 우리나라는 인공지능 산업과 기술의 성장에 중점을 둔 까닭에 인공지능과 관련된 인권과 윤리 문제에 대한 성찰을 등한시한 경향이 있다. 현재의 인공지능은 우리의 삶 전반에 스며들어 있고 매우 고도화되어 있기 때문에 누군가가 이러한 기술을 악용하고자 한다면 일반 대중에게 미치는 부정적 영향은 매우 클 것이다. 그렇기 때문에 AI, 데이터 등 핵심기반을 강화하고 관련 신산업을 육성하여 디지털 경제 패권국가를 실현하고자 하는 윤석열 정부의 출발과 동시에 발표된 이번 인권위 가이드 라인은 인공지능이 나아갈 방향과 그 과정에서의 인공지능 개발 주체들의 역할에 시사점을 제공한다는 측면에서 중요한 의미를 지닌다고 할 수 있겠다. 이 가이드 라인을 밑거름 삼아, 인공지능이 우리의 삶에 필수 불가결한 가장 중요한 기술이 되어 앞으로의 우리의 삶을 개선시키는 역할만을 수행할 날이 오기를 기대해본다.

박윤하 우경정보기술 대표

오피니언인기뉴스