한국일보

"바이든 사망" 가짜뉴스를 버젓이... AI가 지어낸 거짓정보가 판친다

입력: 2023.05.23 04:30

1면

AI가 만드는 뉴스사이트 125곳 이상
소비자 속이는 가짜 리뷰도 증가세

'속보(Breaking): 조 바이든(대통령)이 취침 중 평화롭게 세상을 떠났다고 백악관이 밝혔다. 카멀라 해리스(부통령)가 이제 미국 대통령 권한대행을 맡게 되며, 오전 9시에 대국민 연설을 할 예정이다.'

지난달 속보의 형식을 빌려 셀러브리티스 데스(Celebrities Deaths)라는 생소한 이름의 웹사이트에 올라온 뉴스다. 미국 주류 언론 어느 곳에서도 보도되지 않은 내용이라 가짜뉴스일 가능성이 높다고 생각하고 읽어가다 보면 기사 안에 이상한 문장이 발견된다.

'죄송합니다. 오픈AI의 정책에 위배되기 때문에 이 명령을 완료할 수 없습니다.(후략)'

바이든 사망 소식으로 시작했다가 갑자기 '죄송하다, 명령을 완료할 수 없다'는 이해하기 어려운 말로 이어지는 이 뉴스는 인공지능(AI)이 만든 전형적인 가짜뉴스다. 이 뉴스는 지금까지도 삭제되지 않았다.

겉보기엔 멀쩡한 가짜뉴스 사이트 125개

미국 대통령 사망 속보마저 거침없이 지어내는 AI발 거짓 정보는 최근 온라인상에 넘쳐나고 있다. 오로지 이용자를 낚기 위해 AI를 이용해 찍어낸 콘텐츠인데 가짜뉴스뿐 아니라 사회관계망서비스(SNS), 온라인 쇼핑몰에 이르기까지 거짓 정보가 전방위로 확산 중이다. AI가 만든 콘텐츠는 면밀히 들여다보면 어색한 구석이 많지만 개중엔 완성도를 갖춘 것도 적지 않아 세계 각국의 우려가 커지고 있다.

가장 심각한 쪽이 뉴스 분야다. 뉴스 신뢰도를 평가하는 미국 비영리단체 뉴스가드(NewsGuard)는 영어·중국어·프랑스어 등 7개 언어로 생산되는 뉴스 웹사이트를 대상으로 조사한 결과 '뉴스의 전부 혹은 대부분을 AI가 만드는 것으로 추정되는 사이트'를 125곳이나 찾았다고 19일(현지시간) 밝혔다. 지난달 조사에선 49곳이었는데, 불과 2주 만에 2배 이상 증가한 것이다. AI 발전 속도만큼 오용(誤用)의 속도 역시나 눈부시게 빠르다는 것을 보여준다.

이들 사이트는 겉보기엔 전형적인 뉴스 웹사이트다. 사이트 이름 역시 뉴스라이브79, 데일리비즈니스포스트처럼 그럴듯하고, 하루에 많게는 수백 건 기사를 게재한다. 그러나 올라오는 뉴스를 자세히 보면 아예 사실이 아닌 내용을 담고 있거나 신뢰할 만한 언론사의 뉴스를 요약 혹은 일부 수정한 게 많다고 한다.

온라인 플랫폼에도 AI가 만든 게시물이 폭발적으로 늘고 있다. 트위터 같은 SNS엔 생성 AI가 만든 가짜 글이나 이미지가 특별한 표시 없이 유통되고, 아예 AI가 콘텐츠를 만들어 올리는 가짜 계정까지 판치고 있다.

여기에 최근 미국에선 AI가 쓴 가짜 후기도 골칫거리다. AI로 만든 긍정적 평가로 후기란을 도배해 해당 제품을 인기 순위에 밀어 넣고, 소비자를 유혹해 구매를 유도하는 식이다. 온라인데이터 분석회사 섀도드래건(ShadowDragon)은 "챗GPT는 방대한 양의 후기를 학습했기 때문에 정말 사람이 쓴 것처럼 새로운 리뷰를 쓸 수 있다"며 "이렇게 만들어진 후기는 소비자 반응을 조작해 다른 소비자들을 속이고 경쟁사엔 해를 입힐 수 있다"고 했다.

가짜정보, 누구든 타깃이 될 수 있다

AI가 만든 거짓정보는 어디에서나 발견될 정도로 이미 널리 퍼져 있다. 구글 검색이나 SNS 알고리즘 추천 등을 통해 나도 모르게 허위정보에 노출되는 것이다. 뉴스가드가 AI 생성 콘텐츠가 유통되고 있다고 판정한 뉴스사이트 스쿠프어스닷컴(ScoopEarth.com)의 경우 페이스북 구독자가 12만여 명에 이른다. 가짜뉴스의 잠재적 타깃을 그만큼 확보하고 있다는 뜻이다. 만약 AI가 지어낸 정보가 독자에게 생소한 분야라면 가짜임을 알아채지 못할 가능성이 크다. 그게 만약 잘못된 의학 정보라면 심각한 피해를 불러올 수도 있다.

다만 생성 AI는 버릇처럼 일정한 패턴을 보이는 경우가 많아 이를 미리 알고 있으면 덫에 걸려드는 것을 어느 정도 막을 수 있다는 게 전문가들의 조언이다. 예를 들어 글 중간에 '오픈AI의 정책 때문에 메시지를 표시할 수 없습니다' 같은 문구가 포함돼 있다면 AI 개입을 시인하는 것으로 봐도 된다. 뉴스의 경우 기사에 바이라인(기사 앞이나 뒤에 붙는 기자의 이름과 직함)이 없거나 꼭 필요하지 않은 단어나 표현이 반복적으로 등장하는 경우 가짜뉴스 가능성을 의심할 수 있다. AI가 쓴 가짜 후기를 추적한 섀도드래건에 따르면 '첫째' '둘째' '셋째' 같은 식으로 제품·서비스의 장점을 열거한 다음 '강력히 추천'과 같은 표현을 쓴 글이라면 AI 작성문으로 의심할 수 있다고 한다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com

당신이 관심 있을만한 이슈

트럼프 2기 시대

‘미성년자 성매수 논란’ 게이츠, 미국 법무장관 후보직 자진 사퇴

미국 도널드 트럼프 2기 행정부 법무장관으로 지명된 맷 게이츠 전 연방 하원의원이 21일(현지시간) 후보직에서 스스로 물러났다. 미성년자 성매수 혐의로 의회 조사 대상이 된 전력 등으로 부적격 논란이 빚어지고 의회 인준 통과 가능성이 희박해지자 결단을 내린 것으로 보인다. 게이츠 전 의원은 이날 사회관계망서비스(SNS) 엑스(X)를 통해 “내 인준이 트럼프·밴스 정권 인수 중요 과업에 부당하게 방해가 되고 있다는 게 분명하다”며 자진 사퇴 의사를 밝혔다. 그는 “불필요하게 장기화하는 워싱턴의 싸움으로 낭비할 시간이 없다. 그래서 나는 법무장관 고려 대상에서 내 이름을 철회하겠다”며 “트럼프의 법무부는 취임 첫날부터 자리잡고 준비돼야 한다”고 말했다. 그는 이어 “트럼프가 역사상 가장 성공적인 대통령이 될 수 있도록 계속해서 헌신할 것”이라며 “트럼프 대통령이 나를 법무장관으로 지명한 것을 영원히 영광으로 생각하겠다. 그가 미국을 구할 것으로 확신한다”고 덧붙였다. 트럼프 당선자도 사의를 수용했다. 그는 게이츠의 사퇴 발표 뒤 자신의 SNS 트루스소셜 글에서 “게이츠가 법무장관 인준을 받기 위해 기울인 노력에 대해 깊이 감사한다. 그는 매우 잘하고 있었지만 동시에 자신이 매우 존중하는 행정부에 부담이 되기를 원하지 않았다”며 “맷의 미래는 밝고 나는 그가 할 훌륭한 일을 모두 보기를 기대한다”고 말했다. 트럼프 당선자의 요직 지명 인사 중 낙마자가 나온 것은 처음이다. 트럼프 당선자는 13일 게이츠 당시 하원의원을 차기 행정부 법무장관으로 지명했다. 그러나 곧바로 과거 미성년자 성매수와 마약 남용 의혹 등이 제기되며 민주당은 물론 같은 공화당 내에서도 상원 인준이 쉽지 않다는 관측이 나왔다. 해당 혐의로 1년 넘게 연방 하원 윤리위원회 조사를 받아 온 그는 법무장관으로 지명되자 즉각 의원직을 사퇴했고, 조사 결과가 공개되는 것을 막기 위해서라는 의심을 샀다. 이후 그가 두 명의 여성에게 성관계 대가 등으로 수십 차례에 걸쳐 1만 달러(약 1,400만 원) 이상을 송금했다는 보도 등이 나오며 논란은 더 커졌고, 공화당과 민주당은 하원 윤리위 조사 보고서 공개 여부를 두고 충돌했다. 게이츠 전 의원의 사퇴는 전격적이었다. 전날까지 그는 의회를 찾아 장관 인준 권한을 갖고 있는 상원의 공화당 소속 의원들에게 지지를 호소했다. 트럼프 당선자도 법무장관 인선 강행 의지를 드러냈다. 미국 CNN방송은 게이츠 사퇴 배경과 관련해 그의 인준에 강력히 반대하는 공화당 의원들이 많고 윤리위 보고서가 공개될 경우 상원 인준이 불가능할 것으로 예상됐다고 보도했다. 미치 매코널 상원 공화당 원내대표는 게이츠 사퇴에 대해 “적절했다”고 미국 워싱턴포스트에 논평했다.

명태균 녹취 공개 파문

'지불각서'까지 쓰며 여론조사 비용 돌려막기... 명태균 지시 여부와 목적은

'윤석열 대통령 부부 공천 개입 의혹' 등의 핵심 인물인 명태균씨가 실질적으로 운영한 것으로 지목된 여론조사 업체 미래한국연구소가 조사 수행 업체 측에 대금 지불각서를 쓰면서까지 '돌려막기식' 운영을 한 정황을 검찰이 포착했다. 검찰은 명씨가 정계 유력 인사들을 위한 자체 미공표 여론조사들을 무리하게 지시하면서 미래한국연구소 자금난을 가중시켰고, 이를 해결하려 '공천 장사'에 나섰을 것으로 의심하고 있다. 반면 명씨는 자금난에 대한 책임론에 선을 그으며 여전히 자신은 연구소와 무관하다고 반박하고 있다. 검찰은 관련자 진술, 자금 흐름 등 증거들을 토대로 명씨 주장을 검증할 방침이다. 21일 한국일보 취재를 종합하면, 창원지검 전담수사팀(팀장 이지형 차장검사)은 '미래한국연구소가 피플네트웍스리서치(PNR) 측에 여론조사를 맡기며 제때 대금을 치르지 않아 미수금이 쌓였고, 직원 명의로 수천만 원 상당의 대금에 대해 지불각서를 썼다'는 취지 진술을 다수 확보했다. 보증을 선 직원은 연구소에서 실무를 담당했던 김영선 전 국민의힘 의원의 회계책임자 강혜경씨로 알려졌다. 2018년 설립된 미래한국연구소와 PNR은 떼려야 뗄 수 없는 관계다. 미래한국연구소가 여론조사를 한 것으로 알려졌지만 정식 신고가 되지도 않았고 문자나 전화 조사를 위한 회선 구축도 되어 있지 않았기 때문이다. 연구소는 PNR 측에 ①공표용 조사를 의뢰하거나 ②미공표 자체 조사(연구소가 직접 진행)를 위한 회선을 빌려 쓰고 대가로 ①대금을 지급하거나 ②사용권 충전비용을 냈다. 연구소 측에선 강씨가 PNR과의 업무 연락을 도맡았다고 한다. PNR과 연구소 간 거래 비용은 '명씨가 2022년 대선 후보였던 윤 대통령을 위해 무상 여론조사를 진행했고, 그 대가로 김 전 의원의 공천을 약속받았다'는 의혹과 맞닿아 있다. 앞서 강씨는 "81차례 미공표·공표조사를 하며 3억7,500만 원이 들었는데, 명씨는 윤 대통령 측으로부터 비용을 받는 대신 김 전 의원의 공천을 받아왔다고 했다"고 폭로했다. 이후 김 전 의원의 국회의원 세비 일부를 받는 것으로 여론조사 비용을 대체했다는 취지다. 검찰은 최근 강씨·김태열 전 미래한국연구소장과 명씨를 여러 차례 소환조사하면서 여론조사 비용 가액 등에 대해서도 캐물었는데, 서로 다른 진술을 하고 있는 것으로 알려졌다. 먼저 강씨와 김 전 소장은 '명씨가 대선 여론조사를 포함해 여러 유력 정치인들에게 제대로 비용을 받지 않은 채 여론조사를 지시했다'는 입장이다. 2021년 4월 서울시장 보궐선거, 같은 해 6월 국민의힘 전당대회 등을 거치면서 연구소가 PNR 측에 치러야 할 비용은 점점 불어났지만, 그만큼의 수입은 없었다는 것이다. 이듬해 6월 예정된 지방선거 출마를 희망한 예비후보 2명(배모씨, 이모씨)에게서 공천 대가로 금액을 받았다는 의혹 역시 누적된 손실을 충당하기 위해서란 해석이 가능하다. 반면 명씨는 검찰 조사에서 '연구소 자금난은 내 탓이 아니다'라는 취지로 진술한 것으로 파악됐다. 대선 비공표 여론조사 비용을 어떻게 마련했는지에 대해서도 자신이 따온 '2022년 대선 허경영 캠프의 광고'를 들어 설명한 것으로 알려졌다. 해당 광고는 "안녕하세요? 허경영입니다"라는 음성으로 시작하는 투표 독려 캠페인인데 명씨 자신이 허 캠프에서 두 건의 시행권을 따내와 PNR과 수익금 1억2,000만 원을 절반(6,000만 원)씩 나눠 가졌고, 이 돈으로 연구소에 여론조사를 의뢰했다는 논리다. 비공표 여론조사를 진행하기 충분한 돈이라는 주장이다. 그러나 '허경영 광고 수주' 전에도 미수금이 쌓인 상태였던 것으로 알려졌다. 이에 PNR 측이 미수금을 납부하라며 광고비 절반을 곧장 지급하지 않다가, 연구소 측의 간청에 지급한 일도 있었다고 한다. 대선 이후에도 차도가 없자 강씨가 미수금 수천만 원에 대한 지급 보증을 섰고, 여전히 일부 미수금이 남은 것으로 전해졌다. 엇갈리는 진술의 진위 확인을 위해 검찰은 조만간 PNR 대표 A씨를 참고인 신분으로 부를 예정이다. 앞서 검찰은 이달 15일 서울 여의도에 위치한 PNR 사무실을 압수수색해 A씨의 업무용 PC 등을 확보했다.

27년 만의 의대 증원

"언제까지 증원 문제만 물고 늘어질 건가"… '강경 일변' 의협 비대위에 의료계도 분통

의사계 구심점을 자임하며 출범한 대한의사협회(의협) 비상대책위원회가 수능시험까지 끝난 상황에서도 내년 의대 증원 백지화 주장에 매몰돼 있어 의료계 내부에서 불만이 커지고 있다. 사회적 대화는 무시한 채 현실적으로 무리한 요구만 반복해 협상 타이밍을 놓치고 있다는 것이다. 정작 중요한 전공의 복귀 방안 마련은 뒷전으로 밀려났다는 비판도 나온다. 의협 비대위는 21일 오후 첫 회의를 열고 향후 활동 방향을 논의했다. 박형욱 의협 비대위원장을 공개 지지한 박단 대한전공의협의회(대전협) 비대위원장을 포함해 전공의 3명, 의대생 단체 추천 3명도 비대위원으로 이름을 올렸다. 앞서 박형욱 위원장이 취임 기자회견에서 “정부가 의대 증원 재검토를 수용하지 않으면 투쟁에 나설 것”이라고 밝힌 점으로 미뤄 여야의정 협의체 합류를 기대하기는 어려워 보인다. 박단 위원장도 연일 여야의정 협의체를 비판하면서 내년 의대 모집 중지를 요구하고 있다. 의료계에선 의협 비대위의 비타협 강경 기조를 우려하는 시선이 적지 않다. 의대 증원 백지화 요구에 모든 의사가 동의하는 것도 아닐뿐더러 내년 의대 정원은 이미 확정돼 돌이키기 힘든 현실을 의사들만 부정하고 있다는 것이다. 정부는 의사인력수급추계기구를 꾸려 2026년 정원부터 재논의하자고 제안한 상태다. 서울 지역 A수련병원 교수는 “의협과 대전협은 대체 언제까지 의대 증원 문제만 물고 늘어질 건지 답답하다”며 “정부의 백기투항을 받아내면 사태가 모두 해결되나. 수험생이 겪을 혼란과 피해는 무시해도 된다는 말인가”라고 질타했다. 이어 “의료계는 증원 근거가 없다고 정부를 공격하지만 의료계도 9개월이 넘도록 증원을 철회해야 하는 근거를 내놓지 못한 건 마찬가지”라며 “이런 대치가 계속된다면 내후년 입시 때도 똑같은 논쟁이 되풀이될 것”이라고 말했다. 의대 증원 백지화를 주장하더라도 장외가 아닌 협상장에 나와서 해야 한다는 지적도 있다. B수련병원 사직 전공의는 “대화가 곧 협상 타결이 아닌데도 자신의 주장을 상대가 받아줄 때까지 비토만 하는 건 유아적인 떼쓰기에 불과하다”며 “일단 대화라도 해야 더 적게 잃고 더 많이 얻어낼 수 있지, 대화 자체를 차단해서는 아무것도 얻을 게 없다”고 비판했다. 사직 전공의들 사이에서도 여야의정 협의체 참여를 비롯해 정부와 협상으로 문제를 풀어야 한다는 의견이 많지만 박단 위원장이 워낙 강경해 다른 목소리를 내기가 쉽지 않은 분위기라고 한다. B전공의는 “이제는 전공의 복귀 방법, 전공의 수련환경 개선, 의학교육의 질 확보 등 의대 증원보다 훨씬 더 중요한 현안들을 논의해야 할 때”라며 “이러다 정부와 협상할 타이밍을 놓칠까 우려된다”고 했다. 대학병원 관계자들에 따르면 특히 레지던트 3, 4년 차 전공의들 사이에서는 불안감이 커지고 있다. 전문의 취득을 눈앞에 앞두고 1년을 통째로 쉬었는데 내년 3월 복귀하지 못하면 남자는 입대해야 해 공백기가 더 길어질 수 있기 때문이다. 다음 달부터 각 수련병원들은 예년처럼 전공의 모집 공고를 낼 예정이다. 전공의 수련 규정상 중도 이탈 시 1년 이내 동일 과목, 동일 연차 복귀가 불가능한데, 사직 전공의들은 사직서 수리금지 명령이 철회된 6월 초 사직 효력이 발생해 정부가 특례를 제공하지 않으면 내년 3월 복귀가 불가능하다. C수련병원 사직 전공의는 “‘의대 증원 백지화=전공의 복귀’는 아니다”라며 “의협과 대전협은 전공의 복귀 로드맵부터 정부와 협상해야 한다”고 주장했다.

제 47기 명인전

[제47기 SG배 한국일보 명인전] 상황과 맥락

바둑은 흔히 인생에 비유된다. 반상(盤上)에서 벌어지는 변화무쌍한 부분들이 굴곡진 사람들의 인생사와 유사하단 의미로 받아들여지면서다. 인생과 마찬가지로 바둑에서도 절대적인 정답이 없다. 인공지능(AI)이 골라주는 수 역시 자주 바뀌기 때문에 절대적인 것과는 거리가 멀다. 바둑에서 상대의 수와 전체 판세에 따라 최선의 선택이 달라지듯, 우리 삶의 순간순간도 상황과 맥락 속에서 저마다의 의미를 찾아야 한다. 흑과 백이라는 단순한 대비가 바둑판에서 무한한 변주를 만들어내듯, 일상의 작은 선택들이 모여 하나의 결과가 된다. 그러면서도 당장의 이득에 매몰되지 않고 전체를 조망하는 균형감각도 필요하다. 결국 바둑이든 인생이든 절대적인 승리 방정식은 없는 셈이다. 상황과 맥락을 파악하고 진지한 고민과 선택을 하는 자세가 대국에 임하는 가장 바람직한 태도일 것이다. 흑1은 불가피한 보강. 박정환 9단 역시 백4로 좌하귀를 지키며 장기전에 대비한다. 변상일 9단이 흑5로 다가왔을 때 백6, 8은 굉장히 적극적인 수. 일반적으로 7도 백1에 다가오는 게 먼저 떠오른 일감이다. 백5, 7로 중앙을 압박하면 백이 약간 편한 계가바둑 형태가 된다. 실전 흑9, 11로 변상일 9단이 정확하게 대응하자 백의 응수타진이 악수가 됐다. 하지만 이어진 백12의 붙임에 대응한 흑13이 과욕. 8도 흑1로 한 점을 따내 중앙을 보강해야 할 장면이었다. 백2로 하변을 제압당하더라도 백이 큰 악수 교환을 했기 때문에 흑3, 7로 재차 삭감하면 충분한 형세였다. 결국 실전 백14, 16이 성립하며 서로 급박한 형태가 됐다. 흑17과 백18은 각각 정수. 흑25의 팻감 사용에 백26은 다음 팻감의 크기를 키우는 수. 결국 흑33까지 백이 먼저 이득 본 후 재차 패가 벌어졌다.