'핵무기 암호 훔치겠다'는 AI, 위협 대비도 시급하다

기술 경쟁력 끌어올리고 악용 막을 체계 논의를

16일(현지시간) 네덜란드 헤이그에서 한국과 네덜란드가 공동 주최한 'AI의 책임 있는 군사적 이용을 위한 고위급 회의(REAIM)'가 열리고 있다. 외교부 제공

마이크로소프트가 검색 엔진 ‘빙’에 탑재한 AI 챗봇이 뉴욕타임스 칼럼니스트와 나눈 대화가 파문을 일으키고 있다. 욕망을 충족하기 위해 뭘 하겠냐는 질문에 “치명적인 바이러스를 개발하거나, 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”는 AI의 답변은 놀라움을 넘어 섬뜩함마저 느끼게 한다. 인간의 지식과 경험을 등에 업고 성장해온 AI가 인간을 위협하는 존재로 악용되지 않도록 책임 있는 조치를 서둘러야 할 때다.

세계 60여 개국이 16일 네덜란드에 모여 “군사 영역에서 AI에 대한 국가 차원의 틀, 전략, 원칙을 개발해 책임 있게 사용할 것을 권고한다”는 공동행동 촉구서를 채택한 건 시의적절했다. 법적 구속력이 없다는 한계는 있으나, AI 오·남용 위험에 대비하려는 국제사회의 노력이 가시화했다는 점에서 의미 있는 진전이다. AI의 ‘일탈’을 지금은 시스템이 차단하지만, 머잖아 AI가 자의식 있는 인간처럼 자유롭게 행동할 가능성도 배제할 수 없다. 각국이 복잡한 이해관계에도 불구하고 손을 잡은 건 AI를 둘러싼 원칙과 지침이 시급하다는 인식을 공유했기 때문이다.

비단 군사 영역만의 문제가 아니다. 일상생활에도 예상을 뛰어넘는 속도로 침투한, 만능에 가까운 AI를 충분한 준비 없이 맞고 있다. AI 챗봇 ‘챗GPT’와 번역 AI ‘파파고’로 만든 책은 집필부터 인쇄까지 단 7일이 걸렸다. 학교는 AI가 대신한 과제를 걸러내야 하는 난제를 떠안았다. 더 늦지 않게 사회 전 분야에서 AI가 보편적 가치와 규범을 넘보지 않도록 적절한 통제 체계를 만드는 논의를 시작해야 한다.

그럴수록 중요성이 더해진 AI 개발에서 우리 경쟁력은 뒷걸음질 치고 있다. 지난해 글로벌 AI지수에서 62개국 중 7위로, 이스라엘과 싱가포르에 추월당했다. 개발능력 부문은 중국에 밀려 3위로 내려갔고, 인재 부문은 28위에 그쳤다. 더는 ‘IT 강국’이란 옛 명성에 기대 있을 수 없는 형편이다. 지금 쏟아지는 AI에 대한 감탄과 우려는 AI를 얼마나 잘 만들고 활용하느냐에 우리 미래가 달려 있다는 점을 보여주고 있다.