지난해 11월 8일(현지시간) 도널드 트럼프 전 미국 대통령의 대선 경선 캠프 고문인 크리스 라시비타의 사회관계망서비스(SNS)에 흥미로운 영상이 올라왔다. NBC방송 간판 앵커 게렛 헤이크가 등장하는 영상이었다.
헤이크는 평범하게 뉴스 진행을 시작하는 듯하더니 대선주자들의 모습이 차례로 등장하자 날 선 비평을 늘어놨다. 론 디샌티스 플로리다 주지사에 대해선 "이 사람은 키가 더 커 보이기 위해 신발에 깔창을 넣은 기득권"이라고 했고, 니키 헤일리 전 유엔대사의 모습이 나오자 "아무도 헤일리에게 별 관심을 두지 않고 있다"고 했다. 다른 후보들에 대해서도 헤이크는 "피자 배달부 같다", "무대 담당자 아니냐"고 했다. 영상은 트럼프 전 대통령이 신난 듯 춤을 추는 모습으로 끝을 맺었다.
라시비타는 이후 해당 영상에 대해 "패러디"라며 "NBC의 변호사들이 당황하지 않기 바란다"고 했다. 인공지능(AI) 기반 딥페이크 기술로 헤이크의 목소리를 모방해 만든 영상이란 뜻이었다. 그러나 조작이란 표시는 영상 어디에도 없었다. 목소리 복제에 대한 헤이크 본인의 동의도 받지 않은 것으로 알려졌다. 논란이 커지자 NBC 측은 트럼프 캠프에 영상을 내려달라 요청했으나, 이미 온라인에서 널리 퍼진 뒤였다.
"2016년, 2020년 대선이 'SNS 선거'였다면 올 대선은 'AI 대선'이 될 것이다." 에단 부에노 드 메스키타 시카고대 해리스공공정책대학원 임시 학장의 말이다. '2024 대선의 해'가 밝으면서 미국에선 AI가 생성한 가짜뉴스·허위정보에 대한 우려가 최고조로 치닫고 있다. 가짜뉴스·허위정보를 더 빠르게, 대량으로, 감쪽같이 만들어낼 수 있는 AI는 정치 양극화를 부추기고, 선거 시스템에 대한 유권자들의 신뢰를 더욱 약화시킬 수 있다는 게 전문가들의 말이다.
미국 의회, 연방선거관리위원회(FEC) 등은 이에 대비해 지난해부터 선거 관련 허위정보 확산을 막을 규제안 등을 논의 중이지만 아직 결론은 나지 않은 상태다. 연방정부 차원의 대책이 늦어지면서 혼란을 우려한 각 주(州)가 먼저 제재에 나서고 있다.
미국 시민단체 퍼블릭시티즌에 따르면, 캘리포니아·텍사스·미시간·워싱턴·미네소타 등 5개 주는 선거 후보자와 관련한 이미지, 영상 등을 제작하는 데 딥페이크 기술이 사용됐을 경우 이를 공개할 것을 법제화했다. 캘리포니아 주의회는 여기서 한발 더 나아가 정치 콘텐츠에 AI 활용을 아예 금지하는 조치도 고려 중이다. 뉴욕·플로리다 등 다른 주의회들도 법안 통과를 추진하고 있으며, 이들 주에서 모두 법안이 통과될 경우 "미국 유권자의 대략 절반에게 영향을 미칠 것"이라고 퍼블릭시티즌의 로버트 와이즈먼 회장은 말했다.
허위정보 확산 통로로 이용되고 있는 미국 SNS 플랫폼 운영 업체들은 자율 규제를 강화하고 있다. 구글은 생성 AI를 써서 제작하거나 합성한 선거 광고에 대해 AI 사용 사실을 '눈에 띄게' 표시할 것을 지난해 11월부터 의무화했고, 페이스북·인스타그램을 운영하는 메타도 올해부터 AI 사용 사실을 이용자들에게 공개하도록 했다.
이와 함께 자체 모니터링도 강화하는 중이다. 메타의 경우 플랫폼 감시를 담당하는 직원을 약 4만 명까지 확충한 것으로 알려진다. 모든 플랫폼 중 가장 큰 규모로, 이들은 허위 콘텐츠를 퍼뜨리는 가짜 계정을 수시로 차단하고 있다.
AI의 개입을 탐지 또는 방지하는 기술도 진화하고 있다. 구글 딥마인드는 지난해 8월 AI 합성 이미지용 워터마크(신스ID)를 공개했다. 이는 AI 기반의 이미지 생성 프로그램으로 이미지에 육안으로 보이지 않는 워터마크를 픽셀 단위로 넣어서 해당 이미지가 실제가 아님을 식별할 수 있게 하는 도구다. 구글 외에도 메타, 오픈AI 등 주요 기업들은 딥페이크 이미지에 워터마크를 심겠다고 밝힌 상태다.
인텔의 경우 탐지 프로그램 '페이크캐처'를 개발했다. 사람 얼굴의 혈류 변화를 추적해 예상되는 얼굴색과 실제 영상을 비교해가며 실시간으로 딥페이크 유무를 분석한다. "영상을 픽셀 단위로 분석해 96%의 정확도로 영상의 진위 여부를 즉각 판단한다"는 게 인텔의 설명이다.
※용어 설명
딥페이크(deepfake): 이미지, 목소리, 영상 등을 진짜처럼 합성하는 기술. AI와 만나면서 진위를 구별하기 더욱 어려워지고 있다.