"내가 윤석열로 보이니"… 'AI 정치인' 선거 혁신인가, 민주주의 재앙인가

AI 윤석열, 이재명 챗봇... AI 활용 선거 캠페인
4차 산업혁명 시대 흐름 VS 이미지 조작 우려
가짜뉴스 악용에 미국 유럽은 딥페이크 제한
중앙선관위 "내부 검토"...사회적 합의 만들어야

국민의힘 중앙선거대책위원회가 6일 공개한 윤석열 대선후보의 아바타 'AI 윤석열'. 딥페이크 기술을 활용한 AI 윤석열에게서는 윤석열 후보의 단점으로 지목되는 일명 '도리도리' 습관을 찾아보기 어렵다. AI 윤석열은 시종일관 카메라와 눈을 맞추며 유권자들에게 지지를 호소한다.국민의힘 유튜브 캡처

"윤석열 후보와 너무 닮아 놀라셨습니까?"

6일 서울 송파구 올림픽체조경기장에서 열린 국민의힘 중앙선거대책위원회 출범식. 윤석열 국민의힘 대선주자의 연설을 기다리던 청중 앞에 등장한 이는 '인공지능(AI) 윤석열'이었습니다. 딥러닝(Deep learning, 기계학습) 기술을 기반으로 윤 후보의 얼굴과 음성을 합성해 가상의 아바타를 만들어낸 건데요.

윤석열 후보의 얼굴과 표정, 머리 스타일, 말투, 목소리까지 똑 닮은 모습에 스스로 'AI 윤석열'이라고 밝히지 않았다면 모르고 속아 넘어갔을 거라는 반응들이 많았죠.

영상 속 'AI 윤석열'은 "동에 번쩍 서에 번쩍, 방방곡곡 국민 여러분을 찾아가겠다"고 당찬 포부도 밝혔죠. 윤 후보의 아바타로 윤 후보가 직접 방문하기 어려운 곳에서 선거운동에 나서겠다는 겁니다. 홍길동의 분신술처럼 말이죠.

이에 질세라, 이재명 더불어민주당 후보 측은 AI 기술을 활용한 '이재명 챗봇'(대화로봇)을 선보였는데요, 이 후보의 공약 등 궁금한 점을 물으면 바로 답을 해주는 서비스입니다. 김동연 전 경제부총리도 정치권에서는 처음으로 AI 대변인 '에이디'(aidy)를 영입인재 1호로 채용하고, 자신의 아바타 '윈디'(windy)를 공개하며 화제가 됐죠.

AI 윤석열, 이재명 챗봇, AI 대변인... 대세가 된 'AI 대선'

대선 출마를 선언한 김동연 전 경제부총리가 영입인재 1호로 공개한 AI 대변인 '에이디'(aidy)에이디는 온라인상에 논평을 내는 등 오프라인에서 활동하는 대변인들과 같은 일을 맡게 된다. 추후 학습을 통해 김 전 부총리 대신 취재진의 질문에 답을 하는 역할도 가능할 것이란 전망이다. 김동연 캠프 제공. 뉴시스

4차 산업혁명 시대, 정치인의 아바타, 가상인간 대변인까지 등장하는 'AI 대선'은 거스를 수 없는 대세가 된 걸까요. AI 정치인이 선거 캠페인에 전면에 등장한 경우는 세계적으로 찾아보기 힘든 만큼, 전문가들 사이에서도 평가는 엇갈리는데요.

먼저 낙관론입니다. 기술 예찬론자들은 "디지털 선거 운동의 혁신"이라고 치켜세웁니다. 천문학적 선거 비용을 획기적으로 줄이면서도 유권자들과는 폭넓은 소통이 가능하다는 장점에서죠. 국가의 미래 먹거리 기술을 정치가 선도한다는 기대감도 깔려 있습니다.

이재명 더불어민주당 대선후보의 공약, 유세 일정 등을 안내하는 '이재명 챗봇'. 대장동 특혜 의혹 관련 입장을 물으니, 1,400자가 넘는 해명글과 관련 자료를 순식간에 쏟아냈다. 사전에 입력된 정보를 반복해 제공하는 식이다. 이재명 챗봇 화면 캡처

김 전 부총리의 AI 대변인 에이디를 개발한 국내 신생 스타트업 에이아이파크(AI PARK) 박철민 대표는 AI 정치인의 등장에 대해 "정치인들은 몸이 두 개라도 모자랄 만큼 바쁘지 않느냐. 그 많은 스케줄을 AI 아바타가 대신해 그 사람의 목소리나 얼굴의 모습으로 그 사람의 메시지를 다양한 공간에서 전달한다면 굉장히 쓰임새가 많지 않을까 한다"(YTN 인터뷰)고 긍정 평가했는데요.

그러나 AI와 정치의 만남을 두고 민주주의를 위협하는 재앙이 될 수 있다는 경고의 목소리도 외면하기 어려워 보입니다. AI 기술 수준이 고도화되는 것은 시간문제. 이제 우리나라도 AI 기술의 정치 활용에 대한 사회적 합의를 도출하는 작업이 필요하다는 견해인데요. 어떤 점이 문제가 될 수 있는지 하나씩 짚어보죠.

완벽하게 세팅된 "AI 윤석열은 사기" 공정선거 저해 우려

이른바 '윤석열 쩍벌 모음'으로 퍼지고 있는 윤석열 전 검찰총장이 두 다리를 벌리고 앉은 사진들. 8월 1일 청년 정책토론회(왼쪽 위 사진) 7월 25일 이준석 국민의힘 대표와 회동(오른쪽 위) 7월 20일 대구 기자회견(왼쪽 아래) 2월 5일 박범계 법무장관과 인사 협의(오른쪽 아래). 뉴스1·YTN 방송 캡처

먼저 ①공정 선거를 저해할 공산이 큰 이미지 조작에 대한 우려입니다.

AI 윤석열은 윤석열 후보와 감쪽같이 닮았습니다. 굳이 차이점을 찾자면, 윤 후보의 단점으로 거론됐던 일명 '도리도리'와 '쩍벌' 습관은 찾아보기 어렵다는 점이죠. AI 윤석열은 말도 매끄럽게 술술 잘합니다. 잘 짜여진 대본, 정제된 표현을 추구하도록 '세팅'돼 있으니까요. 완벽에 가까운 AI 윤석열은 콘텐츠도, 언변도 아직은 미숙하다고 평가받는 정치신인 윤석열 후보와는 다소 거리가 있어 보입니다.

바로 이 지점이 전문가들이 우려하는 대목인데요. 유권자들에게 '착시 효과'가 발생할 수 있다는 겁니다. 실제 후보의 장점은 부풀려지고, 단점은 가려진 후보 아바타를 보고 대통령을 선택한다면 정치 윤리에 어긋나는 것 아니냐는 문제의식이죠.

여권 추천으로 방송통신위원회 위원으로 활동한 고삼석 동국대 석좌교수도 AI 윤석열 등장을 두고 일종의 "사기(FAKE)"로 느껴진다며 AI 윤석열의 이미지 조작이 선거를 혼탁하게 만들 수 있다는 경고의 글을 페이스북에 남겼죠. 고 교수의 의견은 이렇습니다.

후보 아바타를 활용한 선거운동, 정치 윤리에 부합하나

국민의힘 윤석열 대선 경선 후보가 지난달 4일 경기 포천시 소흘읍 송우시장을 방문해 시장 상인과 인사를 나눈 뒤 떡을 맛보고 있다. 연합뉴스

"정치영역에서 인공지능이나 딥페이크 기술을 사용하는 것 자체를 비판하는 것이 아니다. 후보 대신 딥페이크 기술을 적용한 '아바타'를 활용해 (온라인도 아니고 오프라인에서) '일상적으로' 선거운동을 하겠다는 발상 자체가 문제이고, 그런 무지함을 비판한 것이다. 대통령이 되겠다는 사람(정당)이 시간상 제약을 이유로 잘 만들어진(조작된) 아바타를 보고 자신을 선택해 달라고 유권자에게 호소하는 것은 일종의 '사기'(fake)로 느껴진다.

대통령 후보들은 유권자인 국민들이 합리적인 판단과 선택을 하도록 사실에 기반한 정확한 정보를 제공해야 한다. 그런 측면에서 딥페이크(deepfake) 기술로 이미지를 조작한 'AI 윤석열'은 유권자들의 판단과 선택을 흐리게 할 수 있다. 이런 것이 용인된다면 멀지 않은 대선에서 각 정당은 아바타를 앞세워서 선거 운동을 할 것이고, 유권자들은 그 아바타를 보고 대통령을 선택하게 될 것이다. 이것이 정상적인 민주주의인가? 나는 단호하게 반대한다."

사실과 거짓 혼용된 정보 유통, 가짜뉴스 악용 그 책임은?

게티이미지뱅크

기술 낙관론자들은 말합니다. 충분히 구별 가능하다고. 싱크로율이 그리 높지 않다고. 딱 봐도 AI 휴먼이라는 것을 알지 않겠느냐고. "지금의 기술 수준으로는 아직은 헷갈려 할 사람이 없다"는 건데, 이는 근본적인 답변이 되기 어려워 보이죠.

딥페이크 기술의 부작용은 단순히 구분을 넘어서는 문제이기 때문입니다. ②가짜와 진짜, 사실과 거짓의 경계가 허물어지는 현상이 초래할 민주주의 왜곡, 사회적 혼란에 대해서 누가 어떻게 책임을 질 것이냐 여부에 대한 논의는 사실상 전무한 상태죠.

"일각에선 AI 윤석열이 가상인간이 등장하는 광고와 무엇이 다르냐고 하는데, 이는 다른 차원의 문제죠. 광고는 횟수, 길이, 광고라는 매체의 제약이 있지만, 정치와 선거는 정보를 통한 의사결정을 내리는 행위잖아요. 여기서 가짜와 진짜, 사실과 사실이 아닌 정보를 혼용해 유권자들에게 전달한다면 그 책임을 누가 질 수 있나요."

인공지능 기술과 윤리를 연구해온 전략기술 컨설팅 업체 테크프론티어를 이끌고 있는 한상기 테크프론티어 대표의 말입니다.

미국과 유럽은 선거 운동에 딥페이크 활용 엄격 제한

한국일보 그래픽팀=신동준 기자

가령 우리가 정치인을 평가할 때 그가 내뱉는 말 이외에도 표정과 제스처, 눈빛 등 언어 외적인 요소에서 교감하지만, AI 정치인과 상대할 때는 그 기회가 원천 차단당하는 한계가 있죠. 또 AI 정치인이 현실 정치인과 다른 메시지를 내거나 충돌할 때, 유권자들은 혼란스러울 수밖에 없습니다. (아직은 그럴 가능성이 낮더라도, 기술이 발전한다면 충분히 발생할 수 있는 문제죠.)

③가짜뉴스 등 조작된 콘텐츠에 악용될 수 있는 건, 역시 가장 큰 문제입니다. 딥페이크 기술은 어떤 식으로든 재가공·재활용될 수 있습니다. 한 대표는 "후보를 홍보하겠다는 목적에서 만든 인공지능 기술이 가짜뉴스로 조작되면 도리어 후보에게 불리한 부메랑이 돼 돌아올 가능성도 배제할 수 없다"며 "이건 국민의힘이나 민주당 모두에게 적용되는 위험성"이라고 강조했습니다.

이 때문에 미국과 유럽 등에선 딥페이크 기술을 활용한 선거운동을 엄격히 제한하는 편인데요. 2018년 연방 정부 차원에서 악의적 딥페이크 금지 법안을 통과시킨 미국은 캘리포니아 등 일부 주의 경우 선거 60일 전부터 후보자가 정치 목적의 선거운동 관련 딥페이크 영상이나 음성을 게시 못 하도록 못 박아 놓기도 했죠.

유럽연합 인공지능법 초안의 핵심은 '신뢰'

게티이미지뱅크

4월 유럽연합(EU)이 발표한 '인공지능법 초안'의 핵심도 이 같은 맥락과 맞닿아 있습니다. 전 세계 최초로 인공지능 윤리와 관련한 가이드라인을 만든 유럽연합 집행위의 '디지털 시대에 맞는 유럽' 프로그램 부의장인 마르그레테 베스타거는 "인공지능 신뢰는 있으면 좋은 것이 아니라 반드시 갖춰야 하는 것이다"라고 인공지능 기술의 대원칙을 신뢰로 꼽았죠. '신뢰할 수 있는 인공지능'은 구체적으로 무얼 의미할까요. 전제 조건은 투명성입니다. 적어도 딥페이크를 사용한 영상 콘텐츠는 별도로 표시하고, 식별하는 가이드라인이 필요하다는 지적입니다.

우리 선관위도 일단 관련 내용 검토에 들어갔습니다. 현재의 공직선거법상 선거운동에서 AI 활용을 제한하는 조항은 없는 상황인데요. 선관위 관계자는 한국일보와 통화에서 "AI 기술을 활용한 선거운동이 처음 시도되는 만큼, 현행법에 저촉되는 부분은 없는지 등을 내부적으로 검토하는 중"이라며 "구체적으로 정당의 질의요청이 들어오는 대로 공식 선거운동 시작일인 2월 15일 이전에 내용을 파악해 발표하겠다"는 입장을 밝혔습니다.

"그럴듯한 거짓말은 진실이 신발을 신기도 전에 세계 반바퀴를 돌 수 있다." (A lie can go halfway around the world before the truth can get its shoes on)

미국의 싱크탱크 브루킹스연구소가 지난해 딥페이크 기술의 위험성을 경고하며 내놓은 보고서의 한 구절입니다. 보고서는 말합니다. 딥페이크를 생산하는 기술은 딥페이크를 탐지하는 기술보다 빨라지고 있다고. 그리고 보여줍니다. 딥페이크가 가짜와 거짓을 무기로 현실 정치와 선거, 민주주의를 얼마나 왜곡하고 위협하는지 말입니다.

"지금, 당신 앞에 보이는 것을 믿을 수 있나요." AI 대선, 딥페이크 선거 캠페인이 쏘아 올린 새로운 질문 앞에, 새로운 답을 우리가 찾아 나가야 할 때입니다.

강윤주 기자 kkang@hankookilbo.com