[광장에서] 인공지능 자동결정에 대한 대응권

이성엽 고려대 기술경영전문대학원 교수·기술법정책센터장

2017년부터 회사와 공공기관 중심으로 도입된 인공지능(AI) 면접은 객관적이고 공정한 채용 기준을 적용할 것이라는 기대 속에 진행되고 있지만, 상당수 구직자들은 공정한 기준이 적용되는지 의구심을 가지고 있고, 일부 구직자의 경우 석연치 않은 이유로 오히려 역차별을 받았다는 주장까지 나오고 있다. 이처럼 AI를 활용한 자동화된 결정이 채용 면접, 복지수급자 선정 등에 도입되면서 이로 인한 폐해를 최소화하는 논의가 이어졌다.

이에 정부는 올해 9월 시행된 개정 개인정보보호법에 AI를 활용한 자동화된 결정에 대한 거부권, 설명요구권을 도입하였다. 즉, 정보주체는 인공지능 기술을 적용한 시스템을 포함하여 완전히 자동화된 시스템으로 개인정보를 처리하여 이루어지는 결정에 대하여 설명 등을 요구할 수 있으며 특히, 그 결정이 자신의 권리 또는 의무에 중대한 영향을 미치는 경우에는 해당 개인정보처리자에 대하여 해당 결정을 거부할 수 있는 권리를 부여했다.

다만, 자동화된 결정이 정보주체의 동의를 받은 경우, 법률에 특별한 규정이 있거나 법령상 의무를 준수하기 위하여 불가피한 경우, 정보주체와 체결한 계약을 이행하거나 계약을 체결하는 과정에서 필요한 경우에는 거부권을 행사할 수 없도록 했다.

또한 개인정보처리자는 정보주체가 자동화된 결정을 거부하거나 이에 대한 설명 등을 요구한 경우에는 정당한 사유가 없는 한 자동화된 결정을 적용하지 아니하거나 인적 개입에 의한 재처리·설명 등 필요한 조치를 하여야 한다. 이에 따라 채용면접과 같이 개인의 권리에 중대한 영향을 주는 결정이 인공지능에 의해 이루어지는 경우 해당 개인은 결정에 대한 거부, 인간에 의한 재면접, 결정에 대한 설명요구 등을 할 수 있게 되었다.

최근 입법예고된 시행령은 거부권의 요건을 해당 자동화된 결정이 생명·신체·재산의 이익 등 자신의 권리 또는 의무에 중대한 영향을 미치는 경우로 구체화하고 설명 등 요구 시에는 해당 결정의 결과, 해당 결정에 사용된 주요 개인정보의 유형 및 영향 등을 포함하여 간결하고 의미 있는 설명을 이해하기 쉽게 제공하도록 구체화하였으며, 권리·의무에 중대한 영향을 미치지 않는 경우에는 사전 공개한 기준과 절차 등을 활용하여 설명할 수 있도록 하였다.

이와 유사한 국내 입법으로는 신용정보법상 자동화된 평가에 대한 대응권이 있으며, 외국입법으로는 EU GDPR의 프로파일링에 대한 대응권 규정이 있다. EU의 프로파일링 대응권은 개인에게 중대한 법적 효과가 발생하는 프로파일링 등 자동화된 개인정보의 처리에 의한 의사결정이 금지된다고 규정하고 있다. 다만, 자동화된 결정권에 대한 대응권이 얼마나 실효성이 있을지는 의문이다. EU의 자동화 결정 대응권도 실질적으로 활용되지 않고 있다. 거부권의 경우에는 대부분 사전 동의를 통해 이를 무력화할 수 있으며, 설명요구권은 결국 알고리즘이 가지는 블랙박스 효과로 인해 만족할 만한 수준에 이르지 못할 가능성이 많다.

자동화 결정은 그 자체가 부정적인 것은 아니다. 효율성, 일관성 등의 장점이 있으며, 인간의 결정에 있는 차별 및 편견을 시정할 수도 있다. 그러나 알고리즘이 초래할 수 있는 리스크를 감독하고 알고리즘이 반영하기 어려운 특성을 의사결정에 고려하기 위해서는 인간의 개입을 요구하는 규제가 필요불가결하다고 할 것이다. 다만, 실제 하위 법령 작업 과정에서 업계의 의견을 충분히 청취해 보다 실효적인 방안이 될 수 있도록 해야 할 것이다.

이성엽 고려대 기술경영전문대학원 교수·기술법정책센터장