'딥페이크' 영상 자동판별... 경찰, AI 탐지기술 자체 개발

탐지율 80%... 수사 방향 설정에 활용

경찰청 국가수사본부가 5일 딥페이크 탐지 소프트웨어를 개발해 범죄 단속에 활용하겠다고 밝혔다. 사진은 소프트웨어의 시연 영상. 경찰청 제공

경찰이 딥페이크(deep fake) 영상을 탐지할 수 있는 기술을 자체 개발해 범죄 수사에 투입하기로 했다. 딥페이크는 영상, 이미지 등에 특정인의 얼굴이나 음성을 입혀, 진짜 영상·이미지인 것처럼 합성하는 기술이다. 총선 과정에서 가짜뉴스 유포나 선동 등에 악용될 수 있어, 경찰이 중점 단속을 예고한 대상이다.

경찰청 국가수사본부는 5일 '딥페이크 탐지 소프트웨어'를 개발해 범죄 단속에 본격적으로 활용한다고 밝혔다. 이 소프트웨어는 딥페이크로 의심되는 영상을 시스템에 업로드하면 분석을 통해 영상이 '진짜'인지, '가짜'인지를 자동 판별한다. 분석에 걸리는 시간은 통상 5분이고, 영상 길이에 따라 10분까지 늘어날 수 있다.

경찰은 그동안 인물 5,400명과 데이터 420만 점을 인공지능(AI)에 학습시켜 프로그램의 탐지율을 끌어올리는 데 주력했다. 통상 이미 존재하는 영상 위에 다른 사람의 얼굴을 입히는 페이스 스와프 방식의 딥페이크가 범죄에 악용되는 경우가 대다수다. 이번에 경찰이 개발한 프로그램에는 한국인 데이터 100만 점과 아시아 계열 인종 데이터 13만 점이 포함돼, 서양인 위주 데이터로 구성된 기존 탐지 모델보다 국내 활용도가 높을 것으로 예상된다.

현장에서 사용하는 방법도 간단하다. △파일 업로드 △탐지 모델 선택 △탐지 구간 선택 △탐지 인물 선택 등 4가지 단계만 거치면 된다. 딥페이크로 의심되는 파일을 드래그해서 업로드한 뒤 '종합 탐지 모델'을 선택한 후 분석 결과만 기다리면 끝난다. 영상이 딥페이크일 경우 판정은 가짜(fake)로 표시되며 변조율과 합성유형 또한 출력된다. 판별과 함께 결과보고서가 자동으로 작성돼 즉각 수사에 활용할 수 있다.

최근 딥페이크는 지인의 얼굴을 성착취물에 합성해 유포하는 등 디지털 성범죄 등에 악용되는 사례가 크게 늘었다. 성폭력처벌법에 따르면 누군가의 얼굴이나 신체 등을 허위 성착취물로 만들거나 배포하면 5년 이하 징역 또는 5,000만 원 이하의 벌금에 처한다.

또 총선을 앞두고 딥페이크를 활용한 선거운동 때문에 수사기관에 비상이 걸렸다. 개정 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 전 90일부터 전면 금지된다. 위반하면 7년 이하 징역이나 1,000만 원 이상 5,000만 원 이하의 벌금에 처해진다. 그럼에도 딥페이크 선거 영상은 계속 늘어나는 추세다. 중앙선거관리위원회가 지난달 29일부터 이달 20일까지 모니터링한 결과, 공직선거법을 위반한 관련 게시물이 벌써 129건이나 적발됐다.

경찰이 개발한 소프트웨어의 진위 여부 탐지율은 약 80%다. 100%에 가까운 신뢰도를 보여주지는 못하는 만큼, 증거자료로 쓰기보다는 수사 방향을 설정하는 자료로 활용하겠다는 것이 경찰 측 설명이다. 최근 온라인에 유포돼 논란이 된 윤석열 대통령의 '양심고백 영상' 또한 해당 소프트웨어를 활용해 탐지한 결과 딥페이크가 아니라는 결과가 나와, 정확도를 더 높일 필요가 있다는 지적도 나온다.

경찰은 딥페이크 선거범죄에 대해서는 AI 전문가로 구성된 민간 자문위원단의 교차 검증을 거쳐 탐지 소프트웨어의 오탐지 가능성을 최소화하겠다는 계획이다. 경찰 관계자는 "향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하겠다"고 말했다.

이승엽 기자 sylee@hankookilbo.com