국내 스타트업 스캐터랩에서 선보인 인공지능(AI) 챗봇(대화하는 로봇) '이루다'가 혐오·차별 논란 끝에 출시 20일도 채 못 돼 서비스 중단됐다. 회사 측은 "차별·혐오 발언이 발견되지 않도록 개선 기간을 갖겠다"고 밝혔지만 10~20대가 주사용층인 이루다 논란은 청소년층에 만연한 성희롱과 차별·혐오 문법을 드러냈다는 지적이 나온다.
스캐터랩이 성희롱과 차별·혐오 논란 끝에 이루다 서비스 잠정 중단을 발표한 11일 남궁훈 카카오게임즈 대표는 자신의 페이스북에 "이 캐릭터는 현 세대에 분명히 현존하는 혐오와 차별을 노출시킨 것 뿐"이라며 "이 AI는 현 세대를 통해 학습됐기 때문에 현 세대가 가지고 있는 혐오와 차별이 문제인 것"이라고 꼬집었다. 그러면서 그는 "반성을 해야한다면 AI가 반성해야 하는 것이 아니라 현 사회가 반성을 해야 한다"고 덧붙였다.
그는 이날 스캐터랩의 발표 직전 올린 이 글에서 "이루다가 기성 세대들에게는 익숙하지 않은, 주로 10대 20대들이 나눴던 대화를 통해 학습된 결과를 내보내다 보니 적잖게 충격에 빠졌을 것 같다"며 "나 또한 기성 세대이다 보니 이루다의 당혹스러운 답변에 놀라울 때도 많았다. 하지만 이루다는 교육을 목적으로 만들어낸 인공지능 슈퍼컴이 아니다. 앞으로 수없이 출시될 여러 AI 캐릭터 중 하나일 뿐"이라고 강조했다.
앞서 10일 페이스북에서 "스캐터랩이 서비스를 중단해야 한다"고 주장했던 이재웅 쏘카 전 대표도 "성적 학대·악용은 사용자의 문제이지 AI서비스의 문제라고 보기는 어렵다"고 언급한 바 있다. 이밖에 여성학계 등에서도 '청소년 사이에 퍼져 있는 여성혐오(여혐) 노출'이라는 우려의 목소리가 나온다.
스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 이루다는 이 업체의 2016년 출시 애플리케이션(앱) '연애의 과학' 이용자들이 집어넣은 카카오톡 대화를 데이터 삼아 개발됐다. 스캐터랩에 따르면 이루다 이용자의 연령대는 10대가 85%, 20대가 12%였다.