“사람 대신 컴퓨터(PC) 센서에 인간의 생명을 앗아가도록 허용될 수 있다.”
공상과학(SF) 만화에서나 나올 법한 가상 시나리오가 아니다. 이미 초읽기에 들어간 현실 속에서 제기된 경고다. 지난달 27일(현지시간) “미 공군이 인공지능(AI)을 내장한 전투용 무인항공기(드론) 개발에 박차를 가하고 있다”고 전한 미국 뉴욕타임스(NYT) 보도와 관련, 국제인권단체인 휴먼라이츠워치의 마리 웨어럼 국장이 예상한 우려 섞인 전망이다. 그는 이어 “기계에 살인을 외주(아웃소싱)하는 건 윤리적인 선을 넘어선 것이다”며 부정적인 시각도 덧붙였다.
현대전에서 ‘게임체인저’로 급부상한 무인항공기에 AI까지 장착된 전투용 AI 드론이 사회적인 파장을 낳고 있다. 예상치 못한 오류 가능성과 더불어 최소한의 도덕적 판단조차 결여된 AI에 의해 전투용 드론이 움직일 경우, 심각한 인명 피해를 불러올 수밖에 없다는 측면에서다.
이날 미군 소식통을 인용해 전해진 NYT 보도에 의하면 최근 플로리다주(州) 에글린 공군기지에선 미 공군 차세대 드론 견본인 XQ-58A '발키리'의 시험 비행이 실시됐다. 로켓 엔진 점화 방식으로 설계된 이 무기는 발사 직후, 가시거리를 벗어난 목표물 타격까지 가능한 장거리 미사일 장착이 용이한 데다 음속에 가까운 속도로 4,000㎞ 비행도 거뜬하다. 특히 이 무기엔 자체적으로 주변 위협요소 식별과 평가도 가능한 AI가 탑재되면서 눈길을 끌었다. 인간의 승인만 얻으면 항상 공격까지 진행시킬 수 있게 된 셈이다. 발키리와 연동된 F-15 전투기에 탑승한 채 시험비행을 진행한 로스 엘더 미 공군 소령은 “매우 이상한 느낌이었다”며 “스스로 결정을 내리는 뭔가의 날개에 타고 날고 있는데, 그건 사람의 두뇌가 아니다”라고 말했다. 이미 검증된 전투용 드론에 한층 더 똑똑해진 중앙처리장치(CPU) 강력한 날개까지 달린 셈이다.
현재 진행 중인 러시아와 우크라이나 전쟁에서도 확인된 전투용 드론의 경쟁력은 상당하다. 우선, 인명 피해부터 ‘제로(0)’다. 다년간 특수 훈련이 필수인 조종사도 불필요하다. 실전 목표 타깃에 대한 정밀도와 긴급 상황에서 필요한 의사 결정의 효율성 역시 우월하다. 무엇보다 가성비가 탁월하다. 현재 미 공군 주력 기종인 ‘F-35 스텔스’ 전투기의 1대당 가격은 8,000만 달러(약 1,050억 원) 수준이다. 하지만 유인 전투기와 협력이 가능한 전투용 드론의 경우 1대당 300만 달러(약 40억 원) 선이면 충분하다는 게 미 공군 측 계산이다. 현재 대만을 두고 중국과 전면전 가능성까지 점치고 있는 미국의 입장에선 AI 전투용 드론은 맞춤형 옵션에 가깝다.
미국 정부 차원의 움직임 또한 분주하다. 미 국방부 측은 지난달 28일 워싱턴DC에서 열린 국방산업협회 콘퍼런스에서 2년 내에 수천 개의 저비용 AI 무인 자율무기체계 도입 방침을 천명했다. AI 기술이 활용된 자율무기체계에선 무인 상태로 전투 수행까지 가능하다. 이 체계엔 드론을 비롯해 무인함정과 무인로봇 등이 포함된다. 미 국방부에선 국방고등연구계획국 및 공군 연구소와 함께 앞선 수년 동안 다양한 형태의 AI 드론과 관련 프로그램 개발에 주력해왔다. 이에 소요될 자금 확보 수순도 진행 중이다. 미 의회의 승인이 남았지만 향후 5년간 관련 무기 조달에 58억 달러(약 7조6,000억 원)의 예산을 할당할 예정이다.
하지만 AI 무기에 대한 신중론도 만만치 않다. 조작된 정보가 AI에 입력될 경우, 초래될 치명적인 결과에 대한 우려 때문이다. 인간보다 빠른 판단 능력을 가진 AI에 잘못된 정보가 제공된다면 이에 따른 피해 역시 눈덩이처럼 커질 수밖에 없다. AI가 해킹의 위협 등으로부터 자유롭지 못하다는 현실적인 문제도 해결해야 할 숙제다. 미 국방부에서 최근 AI가 탑재된 무기를 개발하거나 배치하려면 특별 군사 패널의 검토와 승인까지 받아야 한다는 조항을 삽입한 것도 이런 맥락과 맞닿아 있다.
이런 기류는 미 정부 측에서도 인지하고 있다. 지난달 27일 전해진 NYT 보도에 따르면 미 국방부 대변인은 ‘AI 전투기가 인간의 명확한 허락 없이도 인명살상이 수반되는 폭격을 할 수 있느냐’는 질문에 확답을 피하면서도 "(미 공군 드론은) 지휘관과 운영자가 무력 사용과 관련해 적절한 수준의 인간의 판단을 행사하도록 설계돼야 할 것"이라고 전했다.
이와 관련, 업계 관계자는 “처음부터 세계 각국에서 추진하는 AI 개발 자체에 대한 통제가 힘들다면 AI에 들어가는 반도체 등을 비롯한 부품 단계에서부터 제어 방법을 찾는 것도 생각해 볼 수 있는 대안이 될 수 있을 것”이라고 내다봤다.
한편, 우리나라도 지난 1일 유사시 감시정찰과 주요 시설 타격 임무 등을 수행할 드론작전사령부가 창설됐다. 드론작전사는 육·해·공군 및 해병대로 구성된 국군 최초의 합동전투부대로, 합참의장 지휘·감독 아래 위치한 국방부 직할부대다. 이 부대는 조만간 정찰에서부터 타격과 스텔스, 킬러드론 등을 비롯한 다양한 종류의 무인항공기로 무장할 계획이다.