‘AI 드루킹’의 침공, 막을 수 있나요?

5월 16일 미 상원에서 열린 인공지능 청문회에 출석해 증언하고 있는 샘 올트먼 오픈AI 최고경영자. 워싱턴=EPA 연합뉴스

“세상이 예전 같지 않을 거란 걸 우린 알았다. (중략) 나는 힌두 경전에 나온 한 대목을 떠올렸다. 나는 이제 죽음이요, 세상의 파괴자가 되었도다.”

맨해튼 프로젝트(원자폭탄 개발계획) 책임자였던 로버트 오펜하이머는 1965년 다큐멘터리에서 원폭 개발 당시 느낀 감정을 이렇게 표현했다. 페르미, 파인만, 노이만 등 최고의 두뇌들을 이끌었던 그는 ‘원자폭탄의 아버지’다. 그러나 아버지는 ‘자식’이 수십만 인명을 살상한 장면을 지켜보며 죄책감에 시달렸고, 결국 미국의 수소폭탄 계획을 반대하는 등 반핵 노선을 걸었다.

역사는 반복된다. 오펜하이머의 후회 역시 그러하다. 지금 인공지능(AI)이 핵무기처럼 인류를 절멸로 몰 수 있다는 시나리오를 입에 담는 이는 그 누구도 아닌 ‘AI 개발자’들이다.

‘챗GPT의 아버지’ 샘 올트먼이 미 상원 청문회에서 밝힌 섬뜩한 경고를 되새겨 보자. “AI가 심각한 피해를 입히지 않도록 해야 한다. AI가 대선에 미칠 영향을 가장 우려한다. AI가 잘못되면 모든 것이 잘못된다.” 오펜하이머는 원폭 투하 20년 뒤 후회를 세상에 고백했지만, 올트먼은 챗GPT 출시 6개월 만에 공개 경고를 쏟아냈다.

사실 AI는 목표 달성을 위해서만 열심히 회로를 돌릴 뿐, 과정의 적합성과 결과의 윤리성엔 관심이 없다. 그렇기에 통제되지 않은 인간의 욕망이 AI와 만나면 파괴적 결과로 이어진다. 그래서 특히 우리가 주목해야 할 지점은 “AI가 선거에 악용될 수 있다”는 경고다.

선거는 정치집단과 그 구성원이 모든 자산을 걸고 치르는 전쟁이다. 패배하면 4, 5년간 야당이나 실업자로 설움을 당해야 하기에, 어떤 수를 써서라도 이기려 한다. 돈, 험담, 거짓말, 프로파간다, 때론 유무형의 물리력까지. 선거는 인간의 가장 강렬한 욕망이 정면충돌하는 매우 폭력적인 이벤트다.

그래서 똑똑한 AI가 선거에 쓰일 방법은 무궁무진하다. 경북대 사회과학기초자료연구소가 지난해 11월 중앙선관위에 제출한 보고서를 보면 △딥페이크 △메타버스 △빅데이터를 이용한 캠페인에 이용될 수 있다고 한다. 허위사실 유포, 명예훼손, 개인정보 오남용, 사생활 침해 가능성이 뻔히 보인다. 가장 우려되는 점은 AI가 민의를 심각하게 왜곡할 가능성. 어쩌면 내년 4월 총선은 AI가 선거 결과에 결정적 영향을 미치는 첫 사례가 될 수 있다.

선거법이 까다롭다곤 하지만, 현실은 당선만 되면 그만이다. 선거법 공소시효는 6개월로 짧은데, 확정판결은 다음 선거가 임박해서야 나오곤 한다. 군 사이버부대의 일탈, 드루킹 일당의 장난을 바로잡기까지 얼마나 많은 사회적 자원을 소모해야 했는지를 돌아보자. 정쟁, 검찰 수사, 또 정쟁, 특검, 재판.

AI의 선거개입은 인간이 직접 뛰었던 드루킹 때보다 더 교묘하고 은밀하게 이뤄질 것이다. 댓글알바나 매크로 프로그램으로 인한 폐해와 비교할 수 없을 정도로 파괴적일 것이다. 오펜하이머 표현을 빌리자면 AI 이후의 선거는 결코 예전 같지 않을 거다. 진정한 판도라의 상자다.

그러나 우리는 AI의 선거판 침공에 맞설 준비를 전혀 하지 못했다. AI 청문회까지 열었던 미 의회의 선견지명을 한국 국회에 기대할 수도 없다. 그래서 선관위가 특혜 채용 논란 탓에 제 할 일을 못하는 현실이 더 안타깝다. AI 선거개입 문제를 주도적으로 대비하고(국회) 감시 역량을 강화해야 할(선관위) 두 기관이, 지금 다른 일에 정신 팔려 있다.

이영창 산업2부장 anti092@hankookilbo.com