아동 성착취물 90초 안에 걸러낸다… 서울시, AI 감시 기술 전국 최초 개발

성별·나이·주변 물체 판별, 피해영상 찾아
검출 속도 단축되고 정확도는 크게 향상

디지털 성범죄 피해자인 청소년이 가해자로부터 받았던 메시지. 서울시 제공

서울시가 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발해 24시간 자동 추적·감시에 들어간다고 22일 밝혔다.

앞서 시는 지난해 서울연구원과 함께 AI 기술을 활용한 24시간 디지털 성범죄 자동 추적·감시 시스템을 도입해 성착취물 적발 건수가 이전 대비 크게 증가하는 효과를 봤는데 이번엔 아동·청소년의 성별과 나이까지 판별할 수 있는 더욱 정교한 시스템을 구축한 것이다.

새 기술은 영상물에 얼굴이 나오지 않아도 책, 교복, 인형 등 주변 사물과 텍스트를 인식해 피해 영상물을 찾아낸다. 또 영상물 검출까지 90초밖에 걸리지 않아 기존 삭제지원관이 수작업으로 찾아낼 때(2시간)와 비교해 검출 속도가 80배 빨라지고, 정확도는 300%가량 향상됐다. 앞으로는 지난해 수작업으로 이뤄진 건수(15만 건)의 2배인 30만 건까지 감시가 이뤄질 전망이다.

아동·청소년을 대상으로 한 디지털 성범죄는 심각한 상황이다.

서울 디지털 성범죄 안심지원센터에 따르면 피해자 가운데 10, 20대가 가장 많고 이 가운데 아동·청소년은 2022년 50명에서 지난해 104명으로 2배 이상 늘었다. 피해 유형은 불법 사진합성, 대출 조건 나체사진 전송 등인 것으로 나타났다.

아동·청소년의 경우 디지털 성범죄 피해를 입어도 부모에게 말하지 못해 신고가 이뤄지지 않아 피해 영상물이나 사진이 온라인상에 퍼지기 쉽다는 것도 큰 문제다. 전체 신고 가운데 아동·청소년 피해자 스스로 신고한 경우는 7.8%(12명)에 불과한 실정이다. 아동·청소년은 관련 법에 따라 당사자나 부모 신고가 없이도 피해 영상물 삭제가 가능한 만큼, 시는 AI를 통해 아동·청소년 성착취물을 빠르게 찾아내고 없애 피해에 신속 대응한다는 방침이다.

디지털 성범죄 피해를 입은 아동·청소년, 시민 등은 센터 상담전용 직통번호 '815-0382(영상빨리)'나 홈페이지(www.8150382.or.kr)로 문의하면 된다.

권정현 기자 hhhy@hankookilbo.com