AI 챗봇 '이루다' 개인정보 유출 의혹…정부, 조사 착수

주소 물어보니 실제 존재하는 주소 말하거나
예금주 나오는 은행 계좌번호를 말하기도
이용자들 "개인정보 익명화 제대로 안됐다"

AI 챗봇 '이루다' 홈페이지 캡처

스타트업에서 만든 인공지능(AI) 챗봇(대화하는 로봇) '이루다'에 이용자의 개인정보가 무단으로 사용됐다는 논란에 대해 정부가 조사에 착수했다.

11일 업계에 따르면, 개인정보보호위원회와 한국인터넷진흥원(KISA)는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 조사하고 있다.

이루다는 스타트업 '스캐터랩'이 지난달 23일 개발해 선보인 AI 챗봇이다. 출시 약 2주 만에 이용자 40만명을 돌파하는 등 인기를 끌고 있다. 하지만 최근 이루다와 음담패설이나 혐오발언을 주고 받는 대화 내용이 담긴 사진들이 온라인 커뮤니티에 올라오면서 논란이 됐다.

여기에 이루다 개발에 빅데이터로 쓰인 연애의 과학 응용 소프트웨어(앱) 이용자들은 개인정보 유출 의혹까지 제기하고 있다. 연애의 과학은 스캐터랩이 2016년 출시한 앱으로, 연인과 나눈 카톡 대화를 집어넣으면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여준다. 스캐터랩은 연애의 과학 이용자가 주고받은 카카오톡 메시지 약 100억건을 학습시켜 이루다를 개발했다고 밝힌 바 있다.

실제 사회관계망서비스(SNS)에선 이루다가 특정인의 개인정보를 유출하는 대화 사진을 쉽게 찾아볼 수 있다. 한 이용자가 지난 9일 트위터에 공개한 대화 내용을 보면, 이용자가 이루다에게 주소를 물어보자 실제 존재하는 주소를 불러주기도 했다. 또 갑자기 맥락과 상관없이 실명을 언급하거나 예금주가 나오는 은행 계좌번호를 말하는 사례도 발견된 것으로 알려졌다.

연애의 과학 이용자들은 자신들이 넘긴 정보가 ‘신규 서비스 개발’에 활용된다는 것을 고지받긴 했지만 구체적으로 이루다 챗봇에까지 활용될 줄 몰랐다고 주장했다. 또 개인정보 활용 과정에서 익명화 처리가 제대로 되지 않았다고 지적했다. 이에 이들은 스캐터랩을 상대로 집단 소송에 나서려는 움직임을 보이고 있다.

개인정보 보호법 제18조는 '개인정보처리자는 정보주체의 개인정보를 동의 없이 목적 외의 용도로 이용하거나 이를 제3자에게 제공하여서는 안된다'고 규정하고 있다. 이를 위반할 경우 5년 이하의 징역 또는 5,000만원 이하의 벌금에 처해진다. 개인정보위는 개인정보가 침해됐다고 판단할 경우 개인정보 침해행위의 중지 등 필요한 조치를 할 수 있고, 범죄혐의가 있다고 인정되면 관할 수사기관에 고발할 수 있다.

논란이 커지자 스캐터랩 측은 연애의 과학 앱 공지를 통해 "개인을 특정할 수 있는 정보는 제거됐다"며 "데이터가 학습에 사용되는 것을 원하지 않으면 삭제할 수도 있다"고 해명했다.

안하늘 기자 ahn708@hankookilbo.com