사람인 척 심리 공격까지… 뛰는 AI 위에 나는 '보안 전문가' 키운다 [창간기획 : 초인류테크, 삶을 바꾼다]

<4>AI 대 AI, 인간 대 AI
AI 강해질수록 보안인력 육성 시급
챗GPT-4o 등장에 보안업계 '비상'
심리 겨냥하는 교묘한 공격 가능성
새로운 암호 알고리즘 구축도 필요

편집자주

AI와 첨단 바이오 같은 신기술이 인류를 기존 한계를 넘어서는 초인류로 진화시키고 있습니다. 올해로 일흔 살이 된 한국일보는 '초인류테크'가 바꿔놓을 미래 모습을 한발 앞서 내다보는 기획시리즈를 총 6회에 걸쳐 보도합니다.

인간 보안 전문가들이 인공지능(AI)을 고도로 학습시킨 뒤, 인간처럼 말하고 행동하는 또 다른 AI의 공격을 막아내는 장면을 이미지 생성 AI가 상상해 그린 그림. 윤현종 기자•달리3

미국 마이크로소프트는 생성형 인공지능(AI)을 활용해 매일 사이버 위협 신호를 수집한다. 이렇게 감지하는 신호가 하루에 자그마치 약 65조 개나 된다고 한다. 오픈AI와 손잡고 AI 시장 공세에 나선 이 회사는 사이버 보안 전문가 8,000여 명을 활용하고 있다. 지난 2022년 마이크로소프트의 사이버 보안 관련 매출은 약 200억 달러(약 27조 원)로, 세계 최대 규모였다. AI 시장 주도권을 놓고 경쟁사들과 총성 없는 전쟁에 나선 글로벌 빅테크가 한편으론 AI에 맞설 보안 기술까지 발 빠른 준비에 들어간 것이다.

국내 보안 업계와 학계에선 AI가 발달할수록 인간의 기술력이 우위에 있어야 사회 안전을 보장할 수 있다고 강조한다. AI 사이의 공방을 통제하고 때론 AI에 맞설 수 있는 보안 인력을 충분히 길러내야 한다는 의미다. 류재철 전 한국정보보호학회 회장(충남대 인공지능학과 교수)은 "사이버 공간의 위협 신호는 계속 많아질 거라 이를 탐지하는 AI도 끊임없이 강해져야 한다"며 "기술 고도화에는 인간의 손길이 필수인 만큼 결국 보안 전문가가 더 많이 필요해질 것"이라고 내다봤다.

AI의 공격, AI로 방어

최근 오픈AI가 새 AI 모델 챗GPT-4o를 내놓은 뒤 서울 금천구 한국정보기술연구원(KITRI) '화이트햇 스쿨'에서 일하는 화이트 해커들은 눈코 뜰 새 없이 바빠졌다. 이전 버전보다 성능이 향상된 AI 모델이 발표됐으니 새로운 유형의 사이버 공격 시나리오를 상정하고 방어 기법을 연구해야 하기 때문이다. KITRI는 국내 최대 사이버 보안 인력 양성기관으로 꼽힌다. 현직 화이트 해커들이 빠른 속도로 발달하는 AI 기술 흐름을 파악하고 사이버 공간에서 일어날 수 있는 공격과 방어 기법들을 찾아 교육생들에게 가르친다. 이곳 교육생 김지민씨는 "생성형 AI 환경에서 가능한 공격과 방어 기술을 모두 배우고 있다"고 말했다.

오픈AI가 자사 홈페이지에 소개한 챗GPT-4o의 '역량 샘플' 일부. 로봇의 구체적인 행동을 시나리오의 한 장면처럼 문서로 설명(왼쪽)하자, 챗GPT-4o가 해당 장면을 상세하게 묘사한 그림(오른쪽)을 만들어냈다. 사이버 보안 전문가들은 챗GPT-4o가 사실상 사람처럼 보고 듣고 말하는 최초의 AI라고 평가한다. 오픈AI 홈페이지

화이트 해커들은 챗GPT-4o의 등장으로 △훨씬 정교해진 가짜 영상을 유포하거나 △악성코드에 다양한 언어로 탐지 회피 기능을 심거나 △악성코드를 더 쉽고 빠르게 생성하는 등 사이버 공격 시나리오가 한층 정교해질 것으로 예상했다. 챗GPT-4o가 대화 중 반응 속도가 0.32초에 불과해 사람(0.25초)과 유사할 정도로 빠르고, 사전 학습 없이도 주어진 문제의 89%를 정확히 해결하는 등 현존하는 AI 모델 중 최고 수준의 능력을 갖춘 걸 감안하면 인간의 방어 전략은 그보다도 한 수 위여야 한다.

가령 AI가 진화한 자신의 성능을 공격에 이용하듯 인간은 방어에 활용하는 방법이 있다. △챗GPT-4o로 더 많은 악성코드 샘플을 수집해 가짜 영상 탐지 기법을 업그레이드하거나 △챗GPT-4o로 새로운 공격자 그룹, 공격 도구에 대한 정보를 얻어내 기존 방어용 AI를 추가로 훈련시켜 선제적으로 대응하는 식이다.

4월 21일 서울 금천구 한국정보기술연구원(KITRI)의 화이트 해커 양성 교육센터 '화이트햇 스쿨'에서 교육생들이 사이버 보안 교육을 받고 있다. 하상윤 기자

또 공격 기법을 구체적으로 알아내면 더 효과적인 방어가 가능해진다. 공격 과정에서 사용된 AI의 언어 패턴, 메시지 구조, 링크, 첨부 파일 등을 역으로 분석해 공격에 쓰인 기술과 유형을 알아내는 '리버스 엔지니어링' 기술이 그래서 방어에 요긴하다. 화이트햇 스쿨 강사로 활동 중인 화이트 해커 임다빈씨는 "온라인에 흩어져 있는 개인정보를 끌어모은 AI가 일종의 가상 인격체를 만들어 진짜 인간인 척하며 활동할 가능성이 크다"면서 "이에 대응할 기술로 교육생들에게 리버스 엔지니어링을 가르친다"고 설명했다.

양자컴 나오면 사이버 보안 대격변

지금은 AI의 위협 수위가 악의적인 피싱 메일을 보내는 정도지만, 앞으로는 인간과 구분이 안 가는 AI가 사람들의 심리를 겨냥해 공격하는 경우도 생길 거라고 전문가들은 내다보고 있다. 화이트햇 스쿨에선 현재의 AI 기술 발전 속도를 감안하면 2040~50년대쯤 AI를 통한 이 같은 보안 위협이 일상화할 것으로 예측한다.

그런데 변수가 있다. 만약 그사이 양자컴퓨팅 기술이 상용화 궤도에 오를 경우 사이버 보안 분야에선 대격변이 일어날 수 있다는 것이다. 양자컴퓨터는 여러 종류의 계산을 동시에 수행하고, 기계학습 속도가 적어도 수백 배 빠르며, 암호화한 대규모 데이터를 쉽게 해독할 수 있기 때문에 현재의 보안 체계를 무력화할 가능성이 높다. AI의 공격성이 커지지 않을까 우려할 만한 대목이다.

조 바이든 미국 대통령이 2022년 10월 6일(현지시간) 뉴욕 포킵시에 있는 IBM 공장을 방문해 양자컴퓨터를 살펴보고 있다. 뉴욕=AFP 연합뉴스

결국 완벽한 사이버 보안을 위해서는 양자컴퓨팅 기술로도 해독이 어려운 새로운 알고리즘의 암호 시스템을 구축해 안전성을 사전 검증할 필요가 있다는 목소리가 나온다. 또 양자 기술의 암호 해독 능력을 역으로 이용해 데이터 전송 경로를 더 안전하게 만드는 연구도 이뤄지고 있다. 화이트햇 스쿨 관계자는 “양자컴퓨터가 상용화한 AI 시대가 예상보다 빨리 다가올 가능성까지도 염두에 두고 방어 기술을 강구하고 있다”고 밝혔다.

목차별로 읽어보세요

1. <1>반도체 생태계의 진화

   1. '인간 한계 도전' SF 같은 신기술 7개는 무엇?
   2. 외국인 이모 대신 로봇? 뇌 닮은 반도체, 돌봄 구원투수 된다
   3. 뉴로모픽, 3세대 AI 반도체로 주목...글로벌 패권 경쟁 '로딩 중'
   4. 전력 낭비 줄일 '2차원 소재 반도체' AI 무한 구동·메가 슈퍼컴 온다

2. <2>안 아프고 100세까지

   1. "치매도 정복"… 기적의 맞춤약 'RNA 처방' 시대 성큼
   2. 엑소좀 '초소형 주머니'에 약물 담아… 치료 필요한 조직에 총알배송
   3. 신약 개발 '눈'의 진화… AI 현미경, 구글 지도 보듯 세포 들여다본다

3. <3>어디서나 전기 쓴다

   1. 우주에서 만든 전기 우리 집에서 받아 쓰는 세상 올까
   2. 물 밖으로 안 나오고 배터리 충전하는 무인잠수정 만든다
   3. 30초 충전해 수백km 가는 슈퍼캡 열차 달린다... 전기배, 전기비행기도 가능
   4. 창문으로 전기 만들고 실내온도 높인다… 노벨상 물질이 이끌 가전·난방 혁명

4. <4>AI 대 AI, 인간 대 AI

   1. 화이트도 블랙도 없다… “아무것도 믿지 말라” 보안이 곧 생존
   2. 사람인 척 심리 공격까지… 뛰는 AI 위에 나는 '보안 전문가' 키운다

5. <5>통신, 경계가 사라지다

   1. 달 기지에서 OTT 본다?... 6G 넘어 7G, 8G 통신 시대
   2. 원격수술과 홀로그램 실현할 초공간 네트워크, 'AI 지휘관' 없이는 불가

윤현종 기자 belly@hankookilbo.com