다가오는 AI무기 시대... '윤리성' 원칙도 신속하게 만들어야

입력
2023.04.19 16:00
윤현종 기자
[AI시대의 윤리학: ②절대자 AI] 
AI무기 윤리성 평가에 소홀한 군

편집자주

인공지능(AI) 발전 속도가 무섭도록 빠릅니다. 몇 년 전 바둑에 통달하더니, 이젠 철학 에세이를 쓰고, 변호사 시험에 척 붙습니다. AI 전문가들조차 속도를 부담스럽게 여길 지경이죠. 그러나 이렇게 눈부시게 발전하는 AI를 ‘어떻게 쓸지’를 두고 아직 사회적 합의와 공감대가 형성되지 않았습니다. 인간의 목숨과 운명이 걸린 일에 AI를 활용할 수 있을까요? 이는 기술적 문제라기보단 인문학(윤리학)이 풀어야 할 질문입니다. AI 전성시대에 인간이 마주한 딜레마, 그 해결의 실마리를 함께 고민해 봅니다.


군이 2021년부터 '국방 인공지능(AI) 추진전략'의 하나로 AI 윤리 기준 정립을 내세우고 있으나, 지금까지 AI 기반 무기체계 개발을 위한 민간업체 공모 과정에선 ' 윤리성 평가' 기준을 전혀 적용하지 않은 것으로 확인됐다. 같은 기간 공모를 통과해 사업을 수행 중인 국내 방산업체 중에서도 'AI신뢰성 검증'을 받은 곳은 한 군데도 없었다. 군이 AI 무기의 기술 개발에만 치중할 뿐, AI 무기 사용의 기반이 되어야 할 윤리성 문제를 소홀히 하고 있다는 비판을 피하기 어려울 것으로 보인다.

군, 업체 AI윤리 평가 '아직 기준 없어'

18일 한국일보 취재와 배진교 정의당 의원(국방위원회)이 방위사업청과 해군으로부터 받은 자료를 종합하면, 방사청은 2021년부터 올해 2월까지 총 25건의 '산학연 주관 무기체계 패키지형 핵심기술'과제를 수행하고 있다. 25건 중 AI 기술이 활용되거나 탑재되는 무기체계 개발 과제는 8건에 이른다.

그러나 방사청은 이 8건의 수행 주체로 최종 선정된 민간업체 등의 제안서를 검토하면서 AI 윤리성을 담보할 안전도 및 신뢰도의 평가 기준을 적용하지 않았다. 관련 기준이 아예 없었기 때문이다.

AI 기반 무기체계 과제엔 국내 주요 방산업체들이 참여하고 있다. 그 중 하나는 작년 11월 LIG넥스원이 개발 착수를 발표한 '잠수함용 지능형 임무지원시스템 통합자동화 기술'이다. '잠수함의 적 탐지·추적→식별·위험평가→무장할당·전술운용' 과정에 AI를 접목한 것이다.

해군도 지난해 12월 '전투용 무인잠수정 개념설계 기술지원 연구용역 사업'을 위해 대우조선해양을 선정해 계약했으나, 업체의 제안서 평가 기준에는 AI 기술의 윤리성과 관련한 안전도·신뢰도 평가기준이 없는 것으로 확인됐다.

이에 대해 방사청 관계자는 "AI의 신뢰성을 담보하고자 국방부가 관련 윤리 기준을 세우고 있어, 국방부와 연계해 향후 마련될 기준에 따라 업무를 추진할 것”이라고 설명했다. 해군은 "해당 사업은 군의 요구사항을 기술적으로 구체화 하는 단계로, 제안서엔 AI기술의 윤리성 평가 기준이 없다"며 "향후 기본설계 단계에서 관련 부대와 협조해 AI 윤리성 평가기준 구축 등을 검토할 예정"이라고 했다.

방산업체 중 AI신뢰성 '외부검증'0곳

군의 A I기반 무기 개발에 참여한 국내 방산기업 중 자발적으로 AI 신뢰성을 외부로부터 검증 받았던 사례 또한 1건도 없는 것으로 파악됐다. 과학기술정보통신부 산하 한국정보통신협회(TTA)는 지난해 2월 △계획 및 설계 △데이터 수집 및 처리 △모델화 △시스템 구현 △운영 및 모니터링 등 AI 개발 모든 단계에 걸쳐 15개 요구사항, 65개 검증항목을 만들고 모든 민간 기업이 자율적으로 AI 신뢰성을 검증 받도록 하고 있다. 이는 공공영역에서 유일하게 구축한 AI 신뢰성 외부 평가 체계다. TTA 관계자는 "AI면접 솔루션 기업 제네시스랩, 산불 자동 감지 솔루션 업체 알체라 등 여러 분야 기업이 AI신뢰성 검증을 거쳤으나 대형 방산업체 중에서 검증을 받은 곳은 없었다"고 밝혔다.

이에 대해 방산업체들은 AI 기반 무기체계의 최종 사용자가 군이므로, AI 윤리에 대한 군의 요청 사항이 있으면 이를 따르겠다는 입장이다. LIG넥스원 관계자는 "방위사업은 기업-정부 납품 방식(B2G)으로 진행하기 때문에, AI 무기체계 도입 역시 윤리성 확보 등에 대한 군의 요구조건이 정해지면 그에 따라 사업을 진행할 것"이라고 밝혔다. 대우조선해양 관계자도 "사업 단계에 따라 군과 협의해 AI 윤리성에 대한 가이드라인 등을 마련해 나갈 것"이라고 말했다.

한화시스템 관계자는 미 국방부가 2020년 발표한 AI 사용 5원칙(책임성, 공정성, 추적성, 신뢰성, 통제가능성)을 기준으로 AI 기술을 개발 중이라고 설명하면서 "현재 개발 중인 전차 능동방호시스템에 적용하는 AI 기술은 ‘영상 또는 레이더 신호 기반 객체인식 및 분류’에 한정돼 고위험 인공지능은 아니다"고 밝혔다.

전문가들은 해외에서 AI 윤리 법제 움직임이 빨라지고 있는 만큼 국내 방산기업의 AI 외부검증 움직임도 속도를 낼 것이라고 전망했다. 박도현 광주과학기술원(GIST) AI대학원 법정책 연구실 교수는 "선진국에 첨단 무기체계를 수출하려는 국내 방산기업들도 윤리성 규제에 초점을 맞춘 유럽연합(EU)의 AI법 등의 준수를 고려해야 할 시점이 오고 있다" 며 "한국은 2020년 '국가AI윤리기준'을 정하고 AI 신뢰성 외부 검증의 토대를 마련했는데, 국방 분야 민간기업도 이런 기조를 따라갈 필요가 있다"고 진단했다.

방산기업들은 국회에 계류된 '인공지능법'의 영향을 받을 가능성도 있다. 최근 국회 과학기술정보방송통신위원회 법안심사소위에서 최종 수정된 인공지능법안은 △국가기관 등이 사용해 국민에게 영향을 미치는 의사결정(전쟁 등)을 위해 활용되는 AI △국민의 안전, 건강 및 기본권 보호에 중대한 영향을 미치는 AI 등을 '고위험영역 인공지능'으로 정의하고 있다. 법안 제정 및 심의에 참여한 복수의 과방위 관계자는 "국가기관이 사용하는 고위험영역 인공지능에는 국방부나 군이 군사적으로 활용하는 AI도 포함될 수 있다"고 설명했다.


▶ 목숨 좌우할 AI무기, 기술 계획만 있고 '윤리 로드맵'이 없다

https://www.hankookilbo.com/News/Read/A2023041415560000383

▶ 알고리즘은 당신의 반쪽을 알고 있다…'자만추'보다 자연스러운 '알만추'

https://www.hankookilbo.com/News/Read/A2023041212030001863

▶ 부모님 따라 정했던 프로야구 응원팀…이제 AI 알고리즘이 정한다?

https://www.hankookilbo.com/News/Read/A2023041213560003262

윤현종 기자
최동순 기자
이현주 기자
이승엽 기자
세상을 보는 균형, 한국일보 Copyright © Hankookilbo

당신이 관심 있을만한 이슈

尹 임기 반환점 기자회견
관련기사 9
尹, 기자들과 시간제한 없이 '끝장' 문답... 사과, 해명, 쇄신에 달렸다
7일 윤석열 대통령의 기자회견은 이례적으로 시간제한 없이 진행된다. 정권을 뒤흔드는 각종 의혹에 대해 '끝장'을 볼 때까지 묻고 답하는 셈이다. 국민의 궁금증을 속시원히 풀어주면 국정운영의 불씨를 살리는 반전의 계기가 될 수 있다. 반대로 일방적 소통에 그치면 회생 불가능한 최악의 위기를 자초할 뿐이다. 사과와 해명, 쇄신이 기자회견의 성패를 가를 핵심 키워드로 꼽힌다. 윤 대통령이 얼마나 인정하고 내려놓느냐에 달렸다. 앞서 수차례 대국민 담화와 기자회견이 국민 눈높이에 미치지 못해 역풍을 맞은 전례를 감안하면 이번에도 기대보다 걱정이 앞선다. 남은 임기 절반의 운명을 가를 선택의 기로에 섰다. 올 5월 취임 2주년 당시에는 대국민 담화 40분, 기자회견 80분으로 진행됐다. 질의응답의 경우 기자들이 번갈아가는 통에 중구난방으로 주제가 바뀌면서 '맥'을 놓치기 일쑤였다. 이번에는 다를 전망이다. 대통령실은 윤 대통령과 정치 브로커 명태균씨의 통화 논란, 김 여사를 둘러싼 갖은 의혹 등 민감한 사안에 대한 질문이 계속돼도 '시간제한 없이, 모든 궁금증이나 의문이 사라질 때까지 답한다'는 내부 방침을 세운 것으로 전해졌다. 사활을 걸고 달려드는 모양새다. 초점은 '김 여사 리스크'에 대한 윤 대통령의 태도다. 여권에선 "정부 임기 절반을 통째로 집어삼켰다"는 평가가 나올 정도로 김 여사 문제는 정권의 최대 약점이 된 지 오래다. 명씨 논란과 대통령실의 비선 잡음도 모두 김 여사와 연결돼 있다. 그러나 윤 대통령은 번번이 "박절하지 못했다"(2월 KBS 대담)라는 말로 감싸기에 급급하거나 "아내의 현명하지 못한 처신에 사과를 드린다"(5월 기자회견)면서도 특검 주장의 근거인 갖가지 의혹을 "정치공세"로 치부하는 등 미흡한 대응을 반복해 국민 반감을 키웠다. 최근 한동훈 국민의힘 대표의 3대 요구도 매몰차게 거절했다. 대통령실 내부에서는 '윤 대통령의 보고와 설명도 중요하지만 그보다는 국민들이 듣고 싶은 이야기를 소상히 전하는 게 더 중요하다'는 공감대가 형성됐다고 한다. 이에 윤 대통령이 김 여사의 대외활동 중단을 약속하고 재차 사과하는 방안이 유력하게 거론된다. 다만 야권이 요구하는 '특검법 수용'은 거부할 것으로 전해졌다. 김 여사도 회견장에 나오지 않는다. 정국의 '핵'으로 떠오른 명씨 관련 의혹은 또 다른 핵심 쟁점이다. 앞서 대통령실 해명과 달리 윤 대통령과 명씨 간 육성 통화 녹취가 공개되면서 공천개입 의혹이 일파만파로 번졌다. 더불어민주당이 추가 폭로를 벼르고 있어 윤 대통령의 허술한 해명은 자충수가 될 수도 있다. 기억에 의존해 그간 밝힌 피상적 수준의 해명을 넘어 윤 대통령이 구체적으로 설득력 있는 근거를 제시하지 못한다면 의혹은 더 쌓일 수밖에 없다. 윤 대통령이 제시할 쇄신의 폭도 관건이다. 한 대표가 대통령 참모진 전면 개편과 과감한 쇄신 개각 단행 등을 요구했지만 대통령실은 여전히 요지부동이다. 윤 대통령은 그간 누차 밝혀온 '인위적, 국면전환용 인적 쇄신은 없다'는 원칙을 고집하고 있다. 최근 반복적으로 공개하는 대통령의 '정책 중심' 메시지도 4대 개혁 추진의 '연속성'에 방점이 찍혔다. 뭐라고 비판하든 우리가 정한 방향으로 가겠다는 '마이웨이'다. 윤 대통령은 5일 전국새마을지도자대회에 참석해 "개혁에는 저항이 따르게 돼 있지만 포기하지 않겠다"고 강조했다. 성태윤 정책실장은 대통령실에서 브리핑을 열고 "개혁정부, 민생정부로 자리매김하도록 총력을 다하겠다"며 △경제 △사회 △첨단산업·과학기술 △4+1 개혁 분야별 성과와 향후 과제를 설명했다. 반면 쇄신과 변화에 대한 언급은 없었다. 윤 대통령의 지지율은 10%대로 곤두박질쳤다. 이번 기자회견을 통해서도 지지율 반등에 성공하지 못한다면 그야말로 꺼낼 카드가 없다. 다만 윤 대통령은 취임 이후 담화와 기자회견을 해도 별로 재미를 보지 못했다. 지지율이 오르기는커녕 오히려 하락하는 기현상이 벌어졌다. 대통령의 발언에 여론이 공감하지 못했다는 의미다. 윤 대통령은 의료개혁에 '직진'을 외치던 지난 4월 1일 대국민담화에 나섰다. 하지만 그 이후 지지율은 9%포인트(한국갤럽·3월 4주 차와 4월 3주 차 비교)나 떨어졌다. 김 여사 이슈와 해병대 채상병 특검법 문제 대응에 대한 실망감을 남겼던 5월 9일 집권 2년 차 대국민연설·기자회견, 국정 성과만 강조했다는 평가를 받은 지난 8월 29일 기자회견 전후로는 지지율이 각각 24%, 23%를 유지하며 꿈쩍도 하지 않았다. 이렇다 보니 여권에선 벌써부터 '자화자찬 회견'으로 끝날 가능성을 경계하는 목소리가 나온다. 조해진 전 의원은 페이스북에 "가급적 해명성 발언은 하지 말고 사과에 메시지를 집중해야 하고, 정책성과 홍보 같은 발언은 하지 말아야 한다"며 "진짜로 반성하고 진심으로 사과하고 분명한 개선의 의지를 보이면 여론은 하루아침에도 반전할 수 있다"고 올렸다.
11·5 부동산대책
관련기사 3
270만→275만→300만 호... 공급물량 늘리는데 실적은 낙제점
정부가 수도권 집값을 잡기 위해 주택 공급 공언을 거듭하고 있지만 여전히 시장 체감도는 낮다. 발표 물량만 놓고 보면 역대 최대 수준이지만 시장에 공급되는 속도는 현 정부가 비교 대상으로 삼는 전 정부보다 못하기 때문이다. 5일 정부가 밝힌 '수도권 신규 택지 공급' 방안은 서초구 서리풀지구 등 서울 1곳과 고양·의왕·의정부시 등 경기 3곳의 개발제한구역(그린벨트)을 풀어 공공택지지구를 조성해 공공아파트 5만 호를 짓는 계획이다. 현 정부가 내놓은 여섯 번째 주택 공급 방안이다. 전 정부가 주택 규제 강화에 힘을 쏟았다면 현 정부 정책은 규제 완화와 주택 공급에 방점이 찍혀 있다. 이 과정에서 정부가 약속한 주택 공급 물량도 계속 늘었다. 정부는 출범 첫해인 2022년 8월과 10월 주거 선호도가 높은 도심 지역에 5년간 270만 호(인허가 기준)를 공급하겠다고 했다. 하지만 주택 인허가 실적이 급감하며 시장 우려가 커지자 이듬해 9월 5만여 호를 추가로 공급하는 대책을 내놨다. 그런데도 주택 인허가 실적 등이 급감하며 집값이 뛰자 올해 8월 8일 "가용할 수 있는 정책을 총동원하겠다"는 설명과 함께 '42만 호+α' 대책을 내놨다. 이 중 21만 호는 기존 사업 일정을 앞당겨 조기 공급하는 물량이라 새로 추가된 공급 물량은 '21만 호+α'다. 이를 모두 반영하면 정부가 계획하는 주택 공급 물량은 270만 호에서 300만 호(수도권은 기존 158만→180만 호)로 늘어난다. 이날 발표한 그린벨트 해제를 통한 5만 호 공급도 8·8대책 일환이다. 문제는 공급 속도다. 대표적인 주택공급지표가 주택 인허가와 착공 실적이다. 보통 인허가 1~2년 후 착공에 들어가고, 2년 뒤쯤 준공된다. 현 정부 출범 2년간 인허가 실적은 86만 호, 착공 실적은 58만 호 수준이다. 이는 전 정부 출범 초기 2년 실적(인허가 115만·착공 100만 호)을 밑도는 건 물론 코로나19 시기(인허가 105만·착공 109만 호)보다 떨어진다. 특히 전 정부와 비교해서도 서울의 공급 실적(착공 7만6,000호)이 저조하다 보니 시장에서 공급난이 촉발되며 서울 집값 상승으로 이어졌다. 올해 국감에서도 정부의 부진한 주택 공급 실적에 대한 지적이 쏟아졌다. 박상우 국토부 장관은 "신규 택지 5만 호는 중장기 방안으로 시장에 양질의 주택을 지속 공급한다는 믿음을 주는 게 중요하다"며 "8·8대책 이후 시장이 안정세로 접어들었다"고 평가했다. 이에 시장 전문가는 "금리 규제로 거래가 소강 상태에 접어든 측면이 크다"며 "정부가 대책만 남발하기보다 주택 공급 실적부터 회복해 시장 신뢰를 얻는 게 중요하다"고 꼬집었다.
2024 미국 대선
관련기사 901
일본 언론 "미국 대선 트럼프 당선되면 일본 업체 타격 예상"
일본 경제계가 11·5 미국 대선 결과에 촉각을 곤두세우고 있다. 초박빙 선거여서 당선자 윤곽이 나오기 전까지는 대선 결과에 따른 경제 정책 변화를 가늠하기 어렵기 때문이다. 최근 글로벌 업체 간 경쟁이 치열한 전기차 시장의 경우 당선자에 따라 일본 업체가 큰 타격을 받을 수도 있다. 5일 일본 NHK방송에 따르면 일본 정부와 경제계는 미국의 무역·관세 정책을 미 대선 이후 가장 주목하는 경제 분야로 꼽는다. 민주당 대통령 후보인 카멀라 해리스 부통령이 승리할 경우 조 바이든 현 대통령의 정책을 계승할 것으로 예상된다. '대(對)중국 견제' 기조를 유지해 중국산 제품 관세 인상과 중국산 반도체 수출 규제 강화 조치를 이어갈 것으로 예상된다. 공화당 대통령 후보인 도널드 트럼프 전 대통령이 당선되면 중국산 제품은 물론 모든 외국산 제품에 엄청난 관세를 부과할 가능성이 크다. 트럼프 전 대통령은 선거 기간 한국산과 일본산은 물론 모든 외국산 수입 제품에 10% 기본 관세를 부과하겠다고 밝혔다. 아울러 미국 제품에 매기는 관세와 동일한 관세율을 수입 상품에 부과하는 '트럼프 상호 무역법'도 통과시킨다고 공약한 바 있다. 전기차 시장은 예측불허 분야 중 하나다. 해리스 부통령이 당선될 경우 바이든 정권의 전기차 우대 정책은 유지될 가능성이 크다. 다만 외국 기업 입장에선 바이든 정부도 우대 정책 적용 조건으로 미국 내 투자 확대를 건 만큼 관련 정책이 어떻게 바뀔지 지켜봐야 한다. 문제는 트럼프 전 대통령이 당선될 경우다. 트럼프 전 대통령은 선거 기간 바이든 정부의 전기차 우대 정책을 비판했다. 다만 일론 머스크 테슬라 최고경영자(CEO)의 트럼프 전 대통령 공개 지지 선언이 변수로 떠올랐다. NHK는 "트럼프 전 대통령은 집권 시 머스크를 경제 관료로 기용하겠다고 밝힌 바 있어 향후 두 사람의 관계가 전기차 정책에 영향을 줄 수 있다"고 평가했다. 멕시코에 생산 거점을 둔 일본 업체들은 혼란에 빠질 수 있다. 트럼프 전 대통령은 멕시코 이민자를 막겠다며 멕시코에 최대 관세 100%를 부과하겠다고 주장해 왔다. NHK는 "이 정책이 실현되면 미국과의 접근성, 비용 절감을 위해 멕시코에 생산 거점을 둔 일본 자동차 업체들은 깊은 고민에 빠질 것"이라고 전했다. 일본제철의 미국 철강업체 'US스틸' 인수는 누가 당선되더라도 난항이 예상된다. 해리스 부통령과 트럼프 전 대통령 모두 전미철강조노동조합(USW) 등 노동자 표를 의식해 US스틸 인수를 반대했다.
체코 원전 수주
관련기사 25
한미 정부 "원전 수출 협력 한다"지만…체코 원전 수출 최대 걸림돌 넘을지 미지수
한국과 미국 정부가 원자력 수출을 포함한 민간 원전 분야에서 협력을 강화하기로 뜻을 모았다. 최대 24조 원 규모 체코 신규 원전 건설 본계약을 앞두고 한미 정부 간 법적 구속력 없는 협약이 한국수력원자력과 미국 원전 기업 웨스팅하우스가 분쟁을 해결할 실마리가 될지는 미지수라는 분석이 나온다. 산업통상자원부와 외교부는 미국 에너지부 및 국무부와 함께 1일(현지시간) '원자력 수출 및 협력 원칙에 관한 업무협약(MOU)에 가서명했다고 5일 밝혔다. 이날 한·미 정부는 공동 보도자료를 통해 "양국의 민간 원자력 협력의 진전이라는 중요한 성과를 이뤄냈다"고 평가했다. 양국은 이번 잠정 합의를 통해 원자력의 평화적 이용을 촉진하고 최고 수준의 비확산, 원자력 안전, 안전 조치 및 핵 안보 기준을 유지해 나간다는 서로의 의지를 재확인했다. 이를 위해 민간 원자력 기술에 대한 수출 관리에 있어서도 협력을 강화하기로 했다. 아울러 이 같은 협력을 발판으로 한미는 기후변화 대응, 글로벌 에너지 전환 가속화 및 핵심 공급망 확보 등 다양한 분야에서의 협력도 확대해 나가기로 했다. 정부는 양국에 수십억 달러의 경제적 기회가 생기고 수만 개의 제조업 분야 일자리도 만들어질 것으로 기대하고 있다. 산업부 관계자는 "글로벌 원전 시장이 많이 열리고 있고 소형모듈원자로(SMR) 시장도 형성되는 상황"이라며 "전력 수급 문제에 있어 인공지능(AI) 관련 현안을 강화하고 앞으로 상업적·경제적 효과가 클 것으로 보인다"고 밝혔다. 이번 MOU는 최종 검토 절차를 거쳐 진행할 예정이다. 이날 발표는 미국 대선을 하루 앞두고 나온 한미 정부 간 협력을 주로 다루고 있지만 정작 눈앞에 놓인 웨스팅하우스와 갈등 봉합에는 큰 도움이 되지 못할 것이라는 지적이 나온다. 현재 원자력공급국그룹(NSG) 지침상 미국 원전 기술에 뿌리를 두고 있는 한수원은 미국 에너지부에 수출 신고를 해야 한다. 그러나 미국 에너지부는 2023년 1월 미국인 또는 미국 기업이 신고해야 한다며 한수원의 수출 신고를 되돌려 보냈다. 웨스팅하우스는 지식재산권을 이유로 한수원의 수출 신고에 협조하지 않고 있다. 원전업계 관계자는 "이번 MOU에는 수출 통제 관련 미국 에너지부의 긍정적인 검토 등 내용이 담겨 있지 않다"며 "(웨스팅하우스와) 법적 분쟁에 직접적 영향은 없을 것"이라고 밝혔다. 정부도 이번 MOU가 한수원과 웨스팅하우스와의 분쟁과는 관련이 없다고 설명했다. 산업부 관계자는 "(원전) 수출 통제와 협력에 대한 원칙을 정한 차원"이라며 "향후 기업들이 수출 통제와 관련돼 분쟁을 일으키지 않고 서로 협력하는 절차를 만들었다는 점에서 미래의 분쟁을 예방하기 위해 추진됐다"고 말했다. 다만 정부는 2025년 3월 예정된 체코 두코바니 신규 원전 2기 건설 사업 계약을 앞두고 웨스팅하우스와의 갈등을 해결할 수 있는 긍정적 분위기를 만들었다는 데 의의를 뒀다. 산업부 관계자는 "원전 수출 과정에서 한국과 미국이 협력하는 분위기와 여건을 정부 차원에서 만들었다는 점이 긍정적"이라며 "기업들도 이 같은 부분을 고려해 문제를 해결할 것이라 기대하고 있다"고 밝혔다.