[기업법률 가이드] AI 서비스 제공자의 법적 책임과 주의사항

안희철 〈법무법인 디라이트 변호사〉

인공지능(AI) 기술이 발전하고 인간의 개인정보를 비롯해 수많은 데이터가 수집되고 활용, 분석되면서 전 세계 사람들 간 상호 연결을 넘어서서 사람과 기술, 물건이 함께 연결되는 사회가 목전에 와 있다. 다양한 산업군이 상호 통폐합되고 AI 발전에 따라 수십 년에 걸쳐서 진행될 일이 하루아침에 해결되는 긍정적인 효과가 나타나고 있다. 하지만 동시에 인간 존재 가치 자체에 의문이 제기되는 예상치 못한 결과가 초래되고 있다. 이 과정에서 AI 기술 서비스 제공자의 역할 및 책임이 매우 중요해졌다.

AI 기술 서비스 제공자는 개인정보를 포함한 다양한 데이터를 수집하고, AI를 통해 학습시킨 후에 서비스를 제공한다. 이 때문에 정보를 수집하고 이용하는 과정에서 법적 책임이 발생할 수 있다. '개인정보 보호법' 등에 따라 개인정보를 수집하는 경우, 정보주체의 동의가 있어야 한다. 이미 공개된 개인정보는 정보주체의 동의가 있었다고 인정되는 범위 내 인지에 대한 객관적인 판단하에 정보주체에 대한 별도 명시적 동의 없이도 가능한지가 판단된다. AI 기술 서비스 제공자는 이 점을 주의해 데이터를 수집, 활용해야 한다.

또한 AI 기술 서비스 제공자는 데이터를 수집하고 AI에게 학습을 시킬 때 제3자의 영업비밀이나 개인정보 등 민감한 정보가 포함되지 않도록 주의할 필요가 있다. 부정한 수단으로 영업비밀을 취득하거나 부정취득한 영업비밀을 사용하거나 공개하는 행위도 영업비밀 침해에 해당한다. 영업비밀에 대해 부정취득행위가 개입된 사실을 중대한 과실로 인식하지 못하고 그 영업비밀을 취득하거나 이를 사용하거나 공개하는 행위도 영업비밀 침해다.

그러므로 AI 기술 서비스 제공자는 데이터를 수집할 때에 권한이 없음에도 불구하고 상대방 시스템에 접근해 수집하지 않도록 주의해야 한다. 이용자가 실수 또는 부주의로 자신의 영업비밀을 AI에 제공하거나 악의적 이용자가 타인의 영업비밀을 AI에 제공하고, 이를 기반으로 'Generative AI(생성형 인공지능)'가 결과물을 생성하거나 취득한 영업비밀을 제3자에게 공개할 경우 부정경쟁방지법상 영업비밀 침해의 책임을 질 수 있으니 유념해야 한다.

한편 AI 기술에 따른 결과가 만들어질 때 서비스 제공자가 예측하지 못한 결과물이 도출될 수 있다. 상대방의 명예를 훼손하는 결과를 만들어 내거나 사실이 아닌 허위 결과를 만들어 내는 경우가 있다. 음란물 등의 결과가 의도치 않게 생성될 수도 있다. 저작권법에는 온라인 서비스제공자의 책임을 제한하는 규정이 존재하나 AI는 아직까지 명시적 책임 제한 규정이 없다. 저작권법상 온라인서비스 제공자는 콘텐츠를 송신할 뿐 내용을 수정하지 않으나 AI는 내용을 생성하므로 책임 여부가 문제될 소지가 있다. 그러므로 이러한 결과물이 의도치 않게 생성되지 않도록 사전에 필터링하는 시스템을 구현할 필요가 있다.

AI 서비스를 이용하는 이용자의 위법행위에 대해 서비스 제공자의 법적 책임이 문제가 될 수도 있다. 저작권법이 보호하는 복제권의 침해를 방조하는 행위란 정범의 복제권 침해를 용이하게 해 주는 직간접의 모든 행위다. 복제권 침해행위 중 이를 방조하는 것은 물론 복제권 침해행위에 착수하기 전에 장래의 복제권 침해행위를 예상하고 이를 용이하게 해 주는 경우도 포함한다. 이용자의 위법행위에 대해 서비스 제공자가 법적 책임을 부담하지 않도록 신경을 써야 한다.

안희철 〈법무법인 디라이트 변호사〉