미국 시사주간 타임의 ‘2023년 올해의 인물’인 인기 팝가수 테일러 스위프트가 인공지능(AI)으로 만들어진 가짜 음란 이미지의 피해자가 됐다. 스위프트의 얼굴을 합성한 딥페이크(deepfake) 사진은 엑스(X) 등 사회관계망서비스(SNS)에서 삭제될 때까지 무려 7,200만 회나 조회됐다. 지난 22일 미 뉴햄프셔주에선 AI 딥러닝(컴퓨터 스스로 데이터를 분석하고 학습) 기술로 생성된 조 바이든 대통령의 가짜 목소리가 자동녹음전화(로보콜)를 걸어 큰 혼란이 일었다. 로보콜은 바이든의 평소 말버릇까지 흉내 냈다.
스위프트 딥페이크는 사실상 모든 여성과 어린이를 잠재적 범죄 대상으로 한다는 점에서 충격이 아닐 수 없다. 누구나 눈 깜짝할 사이 딥페이크의 희생자로 전락하는 위험한 세상이 된 셈이다. 엑스가 뒤늦게 아동 성착취물 단속팀을 신설해 딥페이크 콘텐츠 배포를 막겠다고 나선 건 소 잃고 외양간 고치는 격이다.
바이든 가짜 로보콜도 민주주의에 대한 위협이자 도전이다. 더구나 올해 선거를 치르는 나라는 무려 70여 개국에 달한다. 딥페이크 영상과 이미지, 목소리가 선거판을 뒤흔들 가능성도 배제할 수 없다. 실제로 지난해 튀르키예와 슬로바키아에선 테러단체 인사가 특정 후보를 지지하거나 선거 조작을 논의하는 가짜 영상이 유포돼 투표에 큰 영향을 끼쳤다.
인권을 지키고 민주주의를 수호하기 위해 딥페이크 규제는 더 이상 미룰 수 없는 세계적 과제가 됐다. 우리도 총선이 두 달여 앞으로 다가왔다. 법에 따라 29일부터 딥페이크를 활용한 선거운동이 금지된 건 다행이나 당내 경선과 투표 참여 권유, 의정활동 보고 등은 예외인 만큼 이 틈을 악용한 딥페이크 우려는 남아 있다. 철저한 단속으로 딥페이크는 꿈도 꾸지 못하도록 하는 게 중요하다. 모든 AI 콘텐츠엔 워터마크 표기를 강제하는 것도 방법이다. 그렇다고 AI 기술을 막아 시대에 뒤떨어지는 우를 범하는 것도 곤란하다. 인간을 위한 AI 발전은 장려하면서도 부작용은 최소화하는 방향으로 꼼꼼하면서도 정교한 딥페이크 규제를 구축해야 할 때다.