"저 윤석열, 국민 괴롭혔습니다"... 대통령 등장한 딥페이크 첫 적발

46초 길이로 틱톡 등 SNS 중심 확산
경찰, 삭제 요청... 방심위 23일 심의
선거용 가짜영상 비상... 129건 적발

딥페이크로 만들어진 윤석열 대통령이 등장하는 영상. 틱톡 캡처

윤석열 대통령이 등장하는 '딥페이크(deep fake)' 영상이 나돌아 경찰이 수사에 착수했다. 딥페이크는 영상이나 이미지, 음성 등을 진짜처럼 합성하는 기술로, 4·10 총선을 앞두고 경찰의 중점 단속 대상이다. 실제 최근 20여일 동안 딥페이크를 활용한 공직선거법 위반 영상이 100건 넘게 적발되는 등 선거판세를 왜곡할 수 있는 '가짜영상' 차단에 비상이 걸렸다.

22일 경찰 등에 따르면, 서울경찰청 사이버수사대는 윤 대통령이 나오는 딥페이크 영상 관련 고발장을 접수해 게시자 추적에 나섰다. 경찰은 방송통신심의위원회(방심위)에도 공문을 보내 딥페이크 영상 삭제 및 차단을 요청했고, 방심위는 23일 긴급 통신심의소위원회를 열어 해당 안건을 심의할 예정이다. 경찰 관계자는 "같은 인터넷주소로 소셜미디어에 영상을 게시한 것이 확인돼 수사하고 있다"고 말했다.

문제의 영상은 '가상으로 꾸며본 윤 대통령 양심고백 연설'이라는 제목이 달렸으며 분량은 46초 정도다. 영상에 등장하는 인물의 외형과 목소리, 입모양 모두 실제 윤 대통령과 분간이 어려울 정도로 정교해 틱톡 등 사회관계망서비스(SNS)를 중심으로 삽시간에 퍼졌다.

해당 영상에서 인공지능(AI) 기술로 만들어진 윤 대통령은 "저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다"라며 연설을 시작한다. 가짜 윤 대통령은 이어 "무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다"면서 "저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다"고 말했다. 윤 대통령의 딥페이크 영상은 2022년 지방선거 때도 등장했었다.

경찰은 이미 딥페이크를 선거운동에 이용하는 행위를 엄단하겠다고 공언했다. 국회는 지난해 12월 공직선거법을 개정해 선거일 90일 전부터 딥페이크를 활용한 선거운동을 금지했다. 위반하면 7년 이하 징역이나 1,000만 원 이상 5,000만 원 이하의 벌금에 처해진다.

하지만 딥페이크 선거 영상은 계속 늘어나는 추세다. 중앙선거관리위원회가 지난달 29일부터 이달 20일까지 모니터링한 결과, 공직선거법을 위반한 관련 게시물이 벌써 129건이나 적발됐다.

이승엽 기자 sylee@hankookilbo.com