바쁘게 돌아가는 생성형 AI 글로벌 규제 시계 '째깍째깍'

입력: 2023.06.03 04:30

0 0

미-EU, 자발적 AI 행동강령 마련
중국 또한 AI 가이드라인 발표
OECD도 연말까지 규제 나올 듯
[아로마뉴스(46)]5.29~6.2

편집자주

4차 산업혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차) 등에 대한 주간 동향을 살펴봤다.

최근 들어 생성형 인공지능(AI)의 오남용이 늘어나면서 이에 따른 세계 각국의 규제 움직임도 빨라지고 있다. 게티이미지뱅크

“생성형 인공지능(AI)에 대해선 극도로 시급함을 느끼고 있다.”

임계점에 다다른 듯했다. 대책 마련이 더 늦어질 경우 입게 될 유무형의 내상까지 감안된 진단으로 보였다. 지난달 31일(현지시간) 스웨덴 북부 룰레오에서 열린 제4차 미-유럽연합(EU) 무역기술협의회(TTC)에 참석한 토니 블링컨 미 국무장관이 공동 기자회견에서 밝힌 생성형 AI와 연계된 위기감이다. 그는 “신기술이 등장할 때면 해당 기술이 사람들에게 영향을 주는 시점과 각국 정부가 규제 방안을 마련하기 전까진 항상 격차가 있다”며 이렇게 전했다. 이번 TTC에선 챗GPT 등을 포함해 AI 부작용 방지에 필요한 ‘자발적 AI 행동강령’이 다뤄졌다.

미-EU는 TTC 공동성명에서 AI에 대해 "국민들에게 번영과 공정성을 증대할 기회를 제공하는 변혁적 기술"이라면서도 "그 기회를 잡기 위해선 우선 위험성을 줄여야 한다"고 명시했다. TTC는 미 트럼프 행정부 시절, 훼손된 미-EU 간 무역 관계 회복 등을 목표로 2021년 9월부터 출범한 협의체다.

최근 AI 분야에서 존재감을 나타내고 있는 중국 역시 규제 도입에 적극적이다. 중국 국가인터넷정보판공실(CAC)은 지난달 11일 AI 기업들이 따라야 할 규정과 이에 반할 경우 벌칙까지 포함시킨 가이드라인 초안을 발표했다. 이 초안에 따르면, 모든 기업이 AI 관련 서비스 출시 전에 당국의 보안 평가는 필수이고 이용자에게도 실명 제출을 요구해야 한다. AI 학습 데이터의 합법성에 책임을 지고, 알고리즘 설계 등에서도 차별과 허위정보 생성을 방지하도록 의무화된다.

경제협력개발기구(OECD)도 AI를 바라본 기류가 유사했다. 지난달 일본 닛케이아시아에 따르면, 마티아스 코만 OECD 사무국장은 "2019년 마련했던 AI 원칙을 다시 세우겠다"며 "생성형 AI 부작용을 최소화할 수 있는 정책을 만들 것"이라 밝혔다. OECD에서 공개할 생성형 AI에 대한 구체적인 규제는 이르면 연말께 나올 것으로 알려졌다.

생성형 AI 중심부에 자리한 관련업계와 석학들의 분위기 역시 진흥보단 규제로 흘러가는 양상이다. 월스트리트저널(WSJ)은 지난달 30일 비영리단체 'AI안전센터'(CAIS)가 인류의 절멸 가능성과 더불어 AI 기술 통제 필요성까지 언급한 성명도 발표했다고 전했다. CAIS는 이 성명에서 "AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다"고 촉구했다. 특히 AI의 위험성을 핵무기와 신종 전염병에 비유한 CAIS는 “일반 대중들도 AI 기술이 지닌 위험성을 인식해 왔지만, 훨씬 다양한 분야에 대한 해결책이 논의돼야 한다”고 지적하면서 공개적인 토론이 필요하다고 언급했다. 이 성명엔 대화형 AI 챗GPT의 창시자 샘 알트먼 오픈AI 최고경영자(CEO)와 케빈 스콧 마이크로소프트(MS) 최고기술책임자(CTO) 등을 포함한 350여 명의 AI 업계 관계자가 함께했다. 이날 성명에 동참한 알트먼 CEO는 "대중이 AI의 위험성을 인정하고 있어 논의해야 할 과제가 더 많다"며 “AI의 위험성을 심각하게 받아들이는 사람들이 늘어나고 있다”고 말했다. 알트먼 CEO는 지난달 16일 미국 의회에서 열렸던 AI 청문회에서 “AI 위험을 완화하기 위해선 정부의 규제 개입이 중요하다”고 역설한 바 있다. 앞서 알트먼 CEO는 지난 16일 개최됐던 미국 의회의 첫 AI 청문회에서 "AI의 위험을 완화하기 위해 정부 규제 개입이 중요하다"며 주목을 받았다.

이번 성명은 앞서 일론 머스크 테슬라 CEO를 포함해 1,000명 이상의 정보기술(IT) 업계 관계자들이 6개월 동안 AI 개발을 일시 중단하자고 밝힌 이후 2개월 만에 나왔다.

생성형 AI 규제에 대한 국가 차원의 움직임은 최근 잇따라 불거진 오남용 사례와 무관치 않다. 내년 11월로 예정된 선거를 앞둔 미국에선 벌써부터 생성형 AI를 활용한 비방용 동영상과 사진 등이 난무하고 있다. 최근 민주당 소속인 힐러리 클린턴 전 국무장관이 공화당 대선후보로 나선 디샌티스 플로리다 주지사를 지지한다는 내용의 가짜 영상도 생성형 AI 작품으로 드러났다. 앞서 사회관계망서비스(SNS)상에서 ‘역대 최약체인 조 바이든 미 대통령이 재선될 경우’란 제목으로 유통된 영상 역시 생성형 AI의 솜씨였다. 약 32초 분량으로 제작된 이 영상에선 경제 악화와 범죄율 상승, 국경정책 후퇴 등을 포함한 가상 시나리오로 제작됐다. 지난 3월 유포된 트럼프 전 미국 대통령의 체포 사진들도 생성형 AI에서 악의적으로 조작됐다.