부산의 한 고등학생이 인공지능(AI) 기술을 악용해 여학생 얼굴을 음란물에 합성, 온라인 판매까지 했다가 적발됐다. 전국 각지에서 10대 청소년을 중심으로 유사 범죄가 일어나고 있어 대책 마련이 시급한 실정이다.
2일 교육계에 따르면, 부산시교육청은 이 같은 혐의로 고교 2학년 A군을 조사 중이다. A군은 AI의 '딥 러닝(Deep learning)' 기술로 같은 학교나 주변 학교 여학생의 얼굴 사진을 음란물과 합성했다. 이른바 '딥 페이크(Deep fake)' 콘텐츠를 제작한 것이다.
A군은 이렇게 만든 딥 페이크 동영상을 사회관계망서비스(SNS)를 통해 불특정 다수에게 판매했다. 심지어 딥 페이크 영상 속 피해 여학생이 직접 동영상을 판매하는 것처럼 위장했다. A군이 구매자와 나눈 온라인 대화를 보면 초등, 중등, 고등학생별로 영상의 판매 가격은 달리 책정됐다. A군은 구매자들의 동영상 관람 후기까지 모아 SNS에 게시하는 무도함을 보였다. 그의 범죄에 희생된 여학생은 여러 명인 것으로 전해졌다. 해당 고교는 가해자와 피해자를 분리 조치했다.
청소년들의 딥 페이크 범죄는 끊이지 않고 있다. 전북경찰청도 현재 딥 페이크 기술로 제작된 불법 음란합성물 사례 13건을 수사 중이라고 밝혔다. 최근 경찰은 전주시의 한 중학교 남학생 7명을 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 검찰에 송치했다. 경찰은 온라인에서 범죄 영상이 유포되는 것을 막기 위해 방송통신심의위원회에 삭제 및 차단을 요청한 상태다.
지난달에는 경북 고령 지역에서 같은 학교에 다니는 여학생들의 나체 합성 사진을 만들어 친구들과 돌려 본 고교생 B군 등 2명이 동일한 혐의로 조사를 받았다.