5월 비영리단체(NGO) '섬 오브 어스'(Sum of Us)가 발간한 보고서는 정보기술(IT) 업계에 큰 충격을 안겼다. 핵심은 메타버스 공간에서 성폭력과 혐오 발언이 너무 많이 퍼져 있다는 것이었다. 실제 섬 오브 어스의 한 여성 연구원은 메타가 운영하는 메타버스 서비스 '호라이즌 월드'에 접속한 지 1시간 만에 파티가 열린 방에서 다른 사용자의 아바타가 자신을 성폭행했다고 주장했다. 또 다른 사용자의 아바타는 보드카를 마시며 이 장면을 지켜봤다고 한다. 이 보고서는 메타버스의 쓰임새가 많아지는 상황에서 온라인 공간의 범죄가 심각한 사회 문제가 될 수 있음을 또렷하게 보여줬다.
전 세계 3억 명의 이용자를 확보한 네이버제트의 메타버스 플랫폼 제페토가 올 초 안전전문팀을 꾸린 이유다. 그리고 그 수장으로 메릴랜드대에서 범죄학 학사, 캘리포니아 주립대 어바인에서 범죄학 석사를 전공하고 미국 국토안보부에서 대테러팀 수사를 맡은 범죄 전문가 노준영 리드를 영입해 주목을 받았다. 그는 JP모건 체이스, BNP 파리바 등 금융사에서 테러 자금 및 자금 세탁 수사 업무를 담당하기도 했다.
정보기술(IT) 업계에선 찾아보기 힘든 이력을 가진 그가 네이버제트에 합류한 이유는 뭘까. 노씨는 28일 경기 성남시 네이버제트 사옥에서 진행한 한국일보와 인터뷰에서 "트럼프 대통령을 겪으면서 온라인에서 가짜뉴스를 비롯한 정보의 오류화, 혐오 발언, 사이버 어뷰징에 관심을 가졌다"며 "범죄 수사 노하우를 이용해 아이들에게 보다 건전한 온라인 공간을 만들기 위해 뛰어들었다"고 말했다. 그는 네이버제트 이전 틱톡, 구글에서도 사이버 안전 및 사기 피해 조사 업무를 맡았다.
노씨가 이끄는 안전전문팀은 네이버제트 미국 지사가 있는 LA에 사무실이 있다. 제페토 이용자의 90%가 해외 이용자인 만큼 전 세계 각국에서 발생할 수 있는 다양한 문제에 대응하기 위해서다. 또 국내에선 안전전문 업무가 생소한 반면 미국 빅테크 기업에선 서비스 내 이용자 안전이 매우 중요한 이슈로 여겨지는 만큼 관련 인력을 채용하기에도 미국이 적합했다고 회사 측은 설명했다.
노씨는 테러 자금을 쫓거나 자금 세탁 범죄 수사에 활용하는 수사 기법이 온라인 공간에서 일어나는 여러 범죄를 조사하는 데도 효과적으로 쓸 수 있다고 설명했다. 그는 "자금을 주고받으면서 테러를 계획한다거나 자금 세탁을 위해 여러 계좌로 자금이 넘어가는 방식과 온라인에서 스팸을 발송하거나 아동 성착취물을 뿌리는 것 사이에 비슷한 점이 상당이 많다"며 "핵심은 IP 주소나 디바이스 정보 등 한정된 정보를 갖고 실제 상황을 알아차려야 한다는 점"이라고 말했다.
노씨는 욕설이나 문제 소지가 있을 단어를 차단하는 소극적 방식으론 사이버 혐오 발언이 범죄를 차단하는 데 한계가 있다고 지적했다. 실제 그는 틱톡에 있을 때 혐오 표현으로 여기고 삭제한 댓글을 소개했다. '닭춤을 추고 있네'란 단순한 댓글이었는데, 문제는 두 팔이 없는 장애인이 운동을 하는 영상에 달렸다는 점이었다. 맥락을 감안하면 해당 표현이 장애인을 비하하는 목적에서 쓰였다는 것이다.
제페토는 이를 해결하고자 AI 기술을 적극 활용하고 있다. 노씨는 "그동안 청소년 자살 문제에 대응하려고 자살·자해를 못 쓰게 했다"며 "반면 제페토는 이용자가 좋지 않은 신호를 보이면 AI가 미리 알고 해당 이용자에게 긍정적 생각을 가질 수 있는 메시지를 보내거나 상담 센터를 안내하는 식으로 한발 더 나아갔다"고 말했다. 또 온라인 그루밍(길들이기) 범죄나 호감을 산 뒤 돈을 뜯어내는 '로맨스 스캠'을 막기 위해 의심할 만한 메시지의 경우 이용자에게 위험 알림을 보여주는 기능도 추가한다.
다만 회사가 이용자의 개인 정보에 너무 깊이 개입하는 것 아니냐는 지적도 나올 수 있다. 이에 학계 전문가의 다양한 의견을 듣기 위해 안전자문위원회를 꾸렸다. 안전자문위는 네이버제트가 이용자 보호를 위해 설립한 외부 전문가 기구다. 인터넷 및 청소년 안전, 언론, 범죄, 흑인 및 마이너리티, 가짜뉴스 등 다양한 분야의 전문가들이 참여한다.
노씨는 "이용자를 보호해야 하는 자리에 있으면서 어느 수준에서 조치를 취해야 하는지가 가장 큰 고민"이라며 "외부 의견을 적극 참고하는 한편 서비스 개발 초기부터 이용자 안전이란 요소를 고려하는 문화를 만들기 위해 애쓰고 있다"고 말했다.