미국 마이크로소프트는 생성형 인공지능(AI)을 활용해 매일 사이버 위협 신호를 수집한다. 이렇게 감지하는 신호가 하루에 자그마치 약 65조 개나 된다고 한다. 오픈AI와 손잡고 AI 시장 공세에 나선 이 회사는 사이버 보안 전문가 8,000여 명을 활용하고 있다. 지난 2022년 마이크로소프트의 사이버 보안 관련 매출은 약 200억 달러(약 27조 원)로, 세계 최대 규모였다. AI 시장 주도권을 놓고 경쟁사들과 총성 없는 전쟁에 나선 글로벌 빅테크가 한편으론 AI에 맞설 보안 기술까지 발 빠른 준비에 들어간 것이다.
국내 보안 업계와 학계에선 AI가 발달할수록 인간의 기술력이 우위에 있어야 사회 안전을 보장할 수 있다고 강조한다. AI 사이의 공방을 통제하고 때론 AI에 맞설 수 있는 보안 인력을 충분히 길러내야 한다는 의미다. 류재철 전 한국정보보호학회 회장(충남대 인공지능학과 교수)은 "사이버 공간의 위협 신호는 계속 많아질 거라 이를 탐지하는 AI도 끊임없이 강해져야 한다"며 "기술 고도화에는 인간의 손길이 필수인 만큼 결국 보안 전문가가 더 많이 필요해질 것"이라고 내다봤다.
최근 오픈AI가 새 AI 모델 챗GPT-4o를 내놓은 뒤 서울 금천구 한국정보기술연구원(KITRI) '화이트햇 스쿨'에서 일하는 화이트 해커들은 눈코 뜰 새 없이 바빠졌다. 이전 버전보다 성능이 향상된 AI 모델이 발표됐으니 새로운 유형의 사이버 공격 시나리오를 상정하고 방어 기법을 연구해야 하기 때문이다. KITRI는 국내 최대 사이버 보안 인력 양성기관으로 꼽힌다. 현직 화이트 해커들이 빠른 속도로 발달하는 AI 기술 흐름을 파악하고 사이버 공간에서 일어날 수 있는 공격과 방어 기법들을 찾아 교육생들에게 가르친다. 이곳 교육생 김지민씨는 "생성형 AI 환경에서 가능한 공격과 방어 기술을 모두 배우고 있다"고 말했다.
화이트 해커들은 챗GPT-4o의 등장으로 △훨씬 정교해진 가짜 영상을 유포하거나 △악성코드에 다양한 언어로 탐지 회피 기능을 심거나 △악성코드를 더 쉽고 빠르게 생성하는 등 사이버 공격 시나리오가 한층 정교해질 것으로 예상했다. 챗GPT-4o가 대화 중 반응 속도가 0.32초에 불과해 사람(0.25초)과 유사할 정도로 빠르고, 사전 학습 없이도 주어진 문제의 89%를 정확히 해결하는 등 현존하는 AI 모델 중 최고 수준의 능력을 갖춘 걸 감안하면 인간의 방어 전략은 그보다도 한 수 위여야 한다.
가령 AI가 진화한 자신의 성능을 공격에 이용하듯 인간은 방어에 활용하는 방법이 있다. △챗GPT-4o로 더 많은 악성코드 샘플을 수집해 가짜 영상 탐지 기법을 업그레이드하거나 △챗GPT-4o로 새로운 공격자 그룹, 공격 도구에 대한 정보를 얻어내 기존 방어용 AI를 추가로 훈련시켜 선제적으로 대응하는 식이다.
또 공격 기법을 구체적으로 알아내면 더 효과적인 방어가 가능해진다. 공격 과정에서 사용된 AI의 언어 패턴, 메시지 구조, 링크, 첨부 파일 등을 역으로 분석해 공격에 쓰인 기술과 유형을 알아내는 '리버스 엔지니어링' 기술이 그래서 방어에 요긴하다. 화이트햇 스쿨 강사로 활동 중인 화이트 해커 임다빈씨는 "온라인에 흩어져 있는 개인정보를 끌어모은 AI가 일종의 가상 인격체를 만들어 진짜 인간인 척하며 활동할 가능성이 크다"면서 "이에 대응할 기술로 교육생들에게 리버스 엔지니어링을 가르친다"고 설명했다.
지금은 AI의 위협 수위가 악의적인 피싱 메일을 보내는 정도지만, 앞으로는 인간과 구분이 안 가는 AI가 사람들의 심리를 겨냥해 공격하는 경우도 생길 거라고 전문가들은 내다보고 있다. 화이트햇 스쿨에선 현재의 AI 기술 발전 속도를 감안하면 2040~50년대쯤 AI를 통한 이 같은 보안 위협이 일상화할 것으로 예측한다.
그런데 변수가 있다. 만약 그사이 양자컴퓨팅 기술이 상용화 궤도에 오를 경우 사이버 보안 분야에선 대격변이 일어날 수 있다는 것이다. 양자컴퓨터는 여러 종류의 계산을 동시에 수행하고, 기계학습 속도가 적어도 수백 배 빠르며, 암호화한 대규모 데이터를 쉽게 해독할 수 있기 때문에 현재의 보안 체계를 무력화할 가능성이 높다. AI의 공격성이 커지지 않을까 우려할 만한 대목이다.
결국 완벽한 사이버 보안을 위해서는 양자컴퓨팅 기술로도 해독이 어려운 새로운 알고리즘의 암호 시스템을 구축해 안전성을 사전 검증할 필요가 있다는 목소리가 나온다. 또 양자 기술의 암호 해독 능력을 역으로 이용해 데이터 전송 경로를 더 안전하게 만드는 연구도 이뤄지고 있다. 화이트햇 스쿨 관계자는 “양자컴퓨터가 상용화한 AI 시대가 예상보다 빨리 다가올 가능성까지도 염두에 두고 방어 기술을 강구하고 있다”고 밝혔다.