[기업법률가이드]AI 학습을 위한 개인정보 수집 및 활용

표경민법무법인 디엘지 변호사

AI 학습을 위해선 양질의 데이터를 대량 확보하는 게 필수다. 공개된 데이터는 크롤링 등으로 수집·활용하게 된다. 하지만 여기에 개인정보가 포함됐다면 개인정보보호법 및 관련 법령상 개인정보 처리 원칙과 충돌이 발생할 수 있다.

개인정보보호위원회는 지난해 8월 'AI 시대 안전한 개인정보 활용 정책방향'을 발표했다. AI 학습을 위한 개인정보 수집과 관련한 기본원칙이 제시됐다. 우선 AI 학습을 위한 개인정보 수집 경로는 크게 두 가지다. 계약이나 동의 등 정보주체와의 직접적 관계를 통한 것과 정보주체와의 관계형성 없이 공개된 정보를 수집한 경우로 나눌 수 있다.

정보주체와의 관계를 통해 수집한 정보는 기본적으로 수집 목적 범위 내에서 활용이 가능하다. AI 개발에 관한 구체적 동의를 받지 않아도 AI 개발이 당초 수집 목적과 합리적으로 관련된 범위에서 예측 가능하고, 정보주체의 이익을 부당하게 침해하지 않으면서 안전성 확보에 필요한 조치를 했다면 활용이 가능하다.

정보주체와의 관계 없이 대규모 언어모델 개발을 위해 공개된 정보를 수집한다면, 공개된 정보 처리에 대한 이익 형량 결과, 처리 시 얻을 수 있는 이익이 이를 막음으로써 얻는 이익보다 크다고 인정돼야 한다. 이익형량을 판단하는데 있어선 민감정보의 처리제한, 노출된 개인정보의 삭제 조치 여부, 로봇 배제표준 준수 등의 기준이 적용된다.

특히 서비스 과정에서 개인정보 침해에 대한 모니터링 및 정보주체의 대응수단을 마련해야 한다는 점에 주의해야 한다. 이익형량 결과, 처리 시 얻을 수 있는 이익이 더 크다는 전제 하에서, 정보주체의 객관적 동의의사가 추단되는 범위이거나 AI 개발의 정당한 이익이 정보주체의 권리보다 명백히 우선하는 범위 내에서 공개된 정보의 수집 및 이용이 가능하다.

공개된 정보의 수집과 관련해선 판례를 통해 형성된 법리를 참고할 수 있다. 법률정보 제공 사이트인 '로앤비'는 2010년 공립대 교수로 재직중인 정보주체의 사진·성명·출생연도·직업·직장 등의 개인정보를 대학 홈페이지를 통해 수집, 사이트 내 '법조인' 항목에서 유료로 제공했다. 법원은 비록 '로앤비' 운영사가 영리 목적으로 개인정보를 수집, 제3자에게 제공했어도 공립대 교수의 정보에 대한 일반인의 알 권리는 정보주체의 인격적 법익보다 우월하다고 판단했다. '로앤비'를 통해 공개된 정보는 이미 대학 홈페이지를 통해 공개된 정보와 다르지 않다는 점을 들어 정보 수집 및 활용에 관해 정보주체의 동의 의사를 객관적으로 추단할 수 있다고 봤다(대법원 2016. 8. 17. 선고 2014다235080 판결).

이 판결에선 공립대 교수라는 정보주체의 지위 및 서비스의 공익성이 중요하게 고려됐지만 개별적 사안에서 공개된 정보 처리에 대한 이익형량은 정보의 성격과 공개 형태 및 범위 등에 따라 다르게 판단될 수 있다는 점에 주의해야 한다.

최근 개인정보보호위는 오픈 AI·구글·메타 등 주요 AI 서비스의 개인정보 취약점을 언급했다. AI 학습을 위해 공개된 정보수집 시, 주민등록번호·신용카드번호 등 중요 개인정보가 포함될 수 있는데 이 정보를 사전제거하는 조치가 미비한 것으로 확인됐다.이에 개인정보보호위는 사전 학습단계에서 중요 개인정보가 제거될 수 있도록 온라인상 개인정보가 노출된 경우를 탐지한 URL 자료를 AI 서비스 제공 사업자에게 제공할 계획이라고 한다.

결국 AI 서비스 개발을 위해 개인정보를 수집·이용할 때에는 직접 동의를 받거나 AI 개발이 애초에 동의를 받은 목적과 합리적으로 관련돼 있는 지를 살펴야 한다. 그와 달리 공개된 정보를 수집해 AI 학습에 이용할 때는 AI 서비스의 공익성이나 수집되는 정보의 성격과 공개범위에 비춰 유리한 이익형량 결과가 예상되는 지에 대한 판단이 필요하다. 중요 개인정보가 학습 데이터에서 제거될 수 있도록 하는 사전 조치와 지속적인 개인정보 침해 모니터링 시스템, 정보주체의 대응수단을 구비해두는 게 중요하다.

표경민 <법무법인 디엘지 변호사>

최수경 기자

기사 전체보기

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지