최근 부산의 한 중학교가 딥페이크(사람 이미지를 합성하는 기술) 때문에 발칵 뒤집혔다. 일부 학생들이 인공지능(AI) 딥페이크 기술을 이용해 같은 학교 학생과 교사들을 대상으로 한 음란물을 제작했기 때문이다. 이들은 이 영상물을 카카오톡 단체대화방에 퍼뜨리기도 했다. 딥페이크 제작·유포에 관여한 학생 4명에 대한 고소장이 경찰에 접수됐다.
교육 현장에서 학생들이 연루된 딥페이크 음란물 관련 범죄가 끊이지 않고 있다. 사회관계망서비스(SNS)에선 지인의 얼굴 사진을 나체 사진과 합성한 가짜 사진 및 영상물을 유포 중인 텔레그램 단체 대화방에 대한 폭로가 잇따른다. 특히 딥페이크 음란물은 지인의 얼굴을 따 제작하는 특성으로 인해, 동급생·교사 등의 명예를 심각하게 훼손할 수 있고 이게 널리 퍼지는 경우 겉잡을 수 없는 부작용을 낳을 수 있다.
26일 SNS 엑스(X·옛 트위터)에 올라온 게시글을 보면, 텔레그램방 딥페이크 음란물 피해자 명단에 언급된 전국 중·고등학교는 약 150곳에 이른다. 실제 피해 여부는 확인이 필요하지만 10대 청소년들 사이에선 '내 사진도 악용되지 않았을까’ 하는 불안감이 번지고 있다.
수사기관도 최근 상황이 심각하다고 보아 예의주시 중이다. 26일 서울경찰청에 따르면, 올해 1~7월 딥페이크 범죄로 검거된 14세 이상 청소년은 총 10명이다. 정보기술(IT) 활용에 익숙한 10대 청소년들 사이에서 허위 사진이나 영상물을 만드는 범행이 확산되고 있는 것이다. 발생 건수 역시 해마다 늘고 있다. 경찰청 통계를 보면, 딥페이크 관련 범죄 건수는 2021년 156건에서 꾸준히 증가해 올해 1~7월 사이 297건으로 집계됐다.
현행법상 딥페이크 기술을 이용해 허위 콘텐츠를 제작하거나 유포할 경우, 5년 이하의 징역 또는 5,000만 원 이하의 벌금형을 받는다. 이 중 만 19세 미만의 아동이나 청소년을 대상으로 하면, 제작·배포·시청한 사람 모두 특별법(아동청소년성보호법)에 따라 징역형에 처해진다. 경찰 관계자는 "서울경찰청에서 입건된 10명은 모두 14세 이상으로, 촉법소년이 아니라 수사로 판단할 계획"이라고 말했다.
피해 사례를 인지한 학교들은 추가 피해를 막기 위한 안내에 나섰다. 경기 수원시 한 고등학교에선 26일 가정통신문을 배포해 "타인의 개인정보를 도용해 가짜 사진 및 영상을 만들어 유포하는 방식(딥페이크)의 디지털 성범죄 피해가 우려되고 있다"면서 범행에 가담할 경우 어떤 처벌을 받는지 등을 공지했다. 피해 학교 명단에 이름이 올라간 또 다른 학교에선 학생회를 중심으로 "블로그 또는 인스타 등 SNS에 올라간 개인 사진을 최대한 내려주시길 바란다"고 안내했다.
SNS상에선 자기 학교나 지인이 딥페이크 제작물의 피해를 입었는지 확인하는 방법까지 공유되고 있다. 텔레그램 채널을 검색할 수 있는 사이트인 '텔레메트리오’에 본인의 거주지나 '겹지'(SNS에서 지인이 겹치는 사람 등을 칭하는 용어) '겹지방'(겹지인방) 등의 키워드를 검색해 피해 사례를 찾는 것이다.
전문가들은 정보통신기술에 익숙한 10대의 특성상 온라인 성범죄가 더 기승을 부릴 것이라고 본다. 김명주 서울여대 정보보호학과 교수는 "인터넷 기술에 익숙한 청소년이 사용법을 따라 하면 몇 분 만에 딥페이크를 활용한 콘텐츠 제작이 가능하다"며 "틱톡 등 SNS에서 지인 얼굴이 나온 사진을 구하기도 쉽고, 제작물을 유포할 수 있는 플랫폼도 잘 구축돼 있다"고 우려했다.
범죄 확산을 막기 위해선 처벌을 강화하고 성범죄 관련 교육을 체계적으로 실시해야 한다고 입을 모았다. 여성학 박사인 허민숙 국회입법조사처 연구관은 "범죄의 심각성을 알리는 교육 프로그램을 마련하고 가해자들을 엄정 처벌해야 한다"면서 "성범죄 온상이 된 텔레그램에 대한 수사 역량도 키울 필요가 있다"고 지적했다. 김 교수도 "영국에선 딥페이크 영상 제작만으로도 처벌이 가능하다"며 양형 기준 강화를 주문했다.