한국형 AI 기본법은 왜 '고위험' 대신 '고영향'을 썼을까...규제·진흥 두 마리 토끼 잡는다

국회 과방위 전체회의 통과…연내 제정될 듯
워터마크 의무화·글로벌 빅테크도 법 지켜야

26일 국회에서 열린 과학기술정보방송통신위원회 전체회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제정안이 의결되고 있다. 뉴시스

인공지능(AI) 기본법 제정안이 26일 국회 과학기술정보방송통신위원회 문턱을 넘었다. 세계 주요국이 AI 산업 주도권을 쥐려 지원·규제 법안이나 가이드라인을 앞다퉈 만들자 한국 정치권도 뒤늦게 나선 것이다.

국회 과방위는 이날 전체회의에서 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제정안'(AI 기본법)을 여야 합의로 의결했다. 제정안은 19개의 관련 법안을 합해 여야 의견 차이를 좁혔기 때문에 올해 안에 국회 법제사법위원회와 본회의도 무난히 통과할 것으로 예상된다. 여야가 과방위에서 공영방송 지배 구조를 놓고 힘겨루기를 하느라 과학기술 법안 심사를 미뤘는데 내년도 정부 예산에 AI 산업 관련 내용을 반영하려면 올해 안에 AI기본법을 만들어야 한다는 쪽으로 뜻을 모았기 때문이다.

AI기본법, 글로벌 빅테크도 지켜야… 딥페이크 워터마크 의무화

그래픽=박구원 기자

AI 기본법은 정부가 AI 산업의 건전한 발전을 지원할 근거와 기준을 밝히고 이 산업의 신뢰 기반을 마련하는 데 꼭 필요한 사항을 규정하는 내용이 담겼다. 특히 '고영향 AI'에 대한 사업자 책임을 새로 담았다. 고영향 AI는 사람의 생명·신체, 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 쓰이는 AI 기술을 뜻한다. 고영향 AI 서비스 제공자는 이용자에게도 그 사실을 사전에 알려야 한다.

글로벌 빅테크가 AI 기본법을 지켜야 한다는 점도 분명히 했다. 해외 사업자도 AI 사업자로 분류되면 반드시 AI 기본법을 따라야 하고 국내에 대리인을 지정해 각종 의무 조치 이행에 필요한 지원이 가능하도록 해야 한다. 또한 딥페이크(AI로 생성한 영상 조작물) 범죄 확산을 막기 위해 딥페이크로 만든 영상이나 사진에는 워터마크 표시도 의무화했다.

미국은 진흥, 유럽은 규제… 한국은 '포괄'

26일 국회에서 열린 과학기술정보방송통신위원회 전체회의에 참석한 유상임 과학기술정보통신부 장관. 뉴스1

세계 각국도 AI 관련 법과 규제 정비에 한창이다. AI 최강국 미국은 AI를 국가 전략 자산으로 정하고 전폭적으로 지원하고 있다. AI 산업 헤게모니 장악을 위해서다. 도널드 트럼프 행정부 1기 시절인 2019년 행정 명령인 '미국 AI 이니셔티브'를 통해 AI 산업에 대한 규제 장벽을 없애겠다고 약속했다. 조 바이든 행정부 시절인 2021년에는 '국가 AI 이니셔티브법'을 만들어 학계, 산업계, 정부를 연결하는 AI 허브를 구축 중이다. 미국은 연방 정부의 행정 명령을 통해 고위험 AI에 대한 규제를 해왔는데 2025년 1월 출범하는 트럼프 2기 행정부는 이런 조치도 없던 일로 할 가능성이 높다.

반면 유럽연합(EU)은 5월 세계 최초로 AI를 포괄적으로 규제하는 AI 기본법을 만들었다. 글로벌 빅테크를 보유하지 않은 유럽의 경우 미국의 AI 기술에 자국 산업이 장악될 것을 우려하는 분위기라서다. 특히 EU의 경우 인간의 존엄성, 기본권 등의 침해가 우려되는 AI 시스템은 아예 출시·이용을 금지하는 등 강력하게 규제한다.

한국의 AI 기본법은 '규제와 진흥을 포괄'한 점이 눈에 띈다. EU처럼 '고위험 AI'라는 용어를 사용하는 대신 '고영향 AI'로 대체한 점이 특징이다. 고영향 AI 개념을 제안한 이해민 조국혁신당 의원은 "AI 법안은 AI 시대를 맞이하는 우리 사회의 기본 철학까지 담을 수 있어야 한다"면서 "AI를 '위험한 것'으로 미리 단정 짓지 않고 사회에 '영향을 미치는 것'으로 바라보면서 영향력을 관리하자는 취지"라고 설명했다. 또한 정보기술(IT) 업계의 요청을 받아들여 EU처럼 '금지된 AI'를 미리 규정하는 안도 빠졌다.

IT 업계는 반기지만… 시민단체 "금지된 AI 규정해야"

민주사회를위한변호사모임 디지털정보위원회와 진보네트워크센터, 참여연대 등 시민단체들이 26일 국회 앞에서 국회 과학기술방송통신위원회의 인공지능 기본법 졸속 처리 규탄 기자회견을 하고 있다. 뉴스1

윤곽을 드러낸 AI기본법에 대한 반응은 엇갈린다. IT 업계는 AI 규제 투명성이 확보된 것을 반기는 분위기다. IT 업계 한 관계자는 "한국은 AI 기술 후발주자여서 대기업뿐 아니라 스타트업이나 학계가 역동적으로 경쟁할 수 있는 구조를 만들어야 한다"며 "국회의 대안이 AI 산업 진흥과 규제라는 측면을 적절히 담은 것 같다"고 평가했다. 다만 일부에서는 세부적으로 보면 법안에서 고영향 AI를 판단하는 전문적 기준을 마련하지 않거나 딥페이크 제작물에 워터마크를 의무화한 점을 걱정한다.

시민단체는 AI기본법이 산업계 입장만 적극 받아들였다고 본다. 참여연대는 기자회견을 열어 "AI 기본법은 우리 사회에서 금지하는 AI에 대한 최소한의 규정이라도 둬야 한다"고 반발하며 "남은 입법 절차에서라도 AI 기본법을 좀 더 공개적이고 충실하게 심사하라"고 촉구했다.

최민희 과방위원장은 "오늘 통과되는 AI 법안이 100% 완전한 법안이 아닌 것은 알고 있다"며 "정부와 국회는 법이 시행되는 과정을 지켜보면서 필요한 후속 입법과 개정안을 준비하겠다"고 말했다.

김지현 기자 hyun1620@hankookilbo.com