네이버가 최근 커다란 사회적 문제로 떠오른 '딥페이크(Deepfaker·가짜 합성 이미지나 영상)' 피해 신고 접수 채널을 만들어 대응에 나섰다. 방송통신심의위원회가 국내 플랫폼 기업에 방심위 전용 신고 배너 설치 협조를 요청하자 네이버가 즉각 대응에 나선 것이다.
네이버는 28일 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"면서 이같이 밝혔다.
네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"면서 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다.
최근 딥페이크 기술을 활용해 음란물에 여성 얼굴을 합성한 후 텔레그램 등에서 유통하는 범죄가 확산돼 사회적 논란이 되고 있다. 이에 방심위가 이날 오전 회의를 열어 국내 플랫폼 기업에 방심위 전용 신고 배너 팝업을 설치하도록 요구했다. 포털 '다음' 운영사인 카카오도 조만간 방심위 전용 신고 배너를 설치할 것으로 보인다.
한편 네이버는 AI 기반 실시간 음란물 필터링 기술인 '클로바 그린아이'로 네이버 카페, 블로그 등에서 감지된 운영 정책 위반 게시물을 즉시 차단 조치하고 있다. 네이버의 운영정책을 위반하는 게시물을 빠르게 감지해 조치하기 위한 모니터링 전담 부서를 24시간 운영하고 있기도 하다.